專(zhuān)利中基于語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法

姜利雪,季 鐸,蔡?hào)|風(fēng)

(沈陽(yáng)航空航天大學(xué) 知識(shí)工程研究中心，遼寧 沈陽(yáng) 110136)

專(zhuān)利中基于語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法

姜利雪,季 鐸,蔡?hào)|風(fēng)

(沈陽(yáng)航空航天大學(xué) 知識(shí)工程研究中心，遼寧 沈陽(yáng) 110136)

術(shù)語(yǔ)是由一個(gè)到多個(gè)單詞按照某種語(yǔ)義角色組合而成的，傳統(tǒng)的基于統(tǒng)計(jì)的相似度計(jì)算方法，將術(shù)語(yǔ)看作一個(gè)基本單元來(lái)進(jìn)行計(jì)算，忽略了術(shù)語(yǔ)內(nèi)部的語(yǔ)義角色，且對(duì)于上下文信息不豐富的術(shù)語(yǔ)，無(wú)法利用統(tǒng)計(jì)的方法取得理想的效果；基于語(yǔ)義資源的相似度計(jì)算方法，所涵蓋的詞語(yǔ)有限，因此不包含在語(yǔ)義資源中的術(shù)語(yǔ)便無(wú)法計(jì)算相似度。針對(duì)這些問(wèn)題，該文針對(duì)專(zhuān)利提出了基于語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法，該方法彌補(bǔ)了傳統(tǒng)方法的不足。該文對(duì)術(shù)語(yǔ)內(nèi)部的單詞進(jìn)行語(yǔ)義角色標(biāo)注，通過(guò)共享最近鄰方法計(jì)算單詞的相似度，然后根據(jù)不同的語(yǔ)義角色，利用單詞相似度來(lái)計(jì)算術(shù)語(yǔ)相似度。實(shí)驗(yàn)表明，該方法與傳統(tǒng)方法相比，取得了較好的效果。

術(shù)語(yǔ)；內(nèi)部語(yǔ)義角色；共享最近鄰；術(shù)語(yǔ)相似度；專(zhuān)利文本

1 引言

隨著科學(xué)技術(shù)的不斷發(fā)展，各種專(zhuān)利不斷涌現(xiàn)，術(shù)語(yǔ)作為科技發(fā)明成果的載體也隨之增多。如何能夠在海量的術(shù)語(yǔ)中，正確的計(jì)算術(shù)語(yǔ)之間的相似度，準(zhǔn)確的找到相似的術(shù)語(yǔ)，這在術(shù)語(yǔ)的理解，同義詞擴(kuò)展查詢(xún)，術(shù)語(yǔ)翻譯等領(lǐng)域起著重要作用。從語(yǔ)言學(xué)的觀點(diǎn)看術(shù)語(yǔ)，單詞是術(shù)語(yǔ)的構(gòu)成材料，術(shù)語(yǔ)則是由這些構(gòu)成材料形成的產(chǎn)品，因此可以說(shuō)，一切術(shù)語(yǔ)都是由單詞構(gòu)成[1]。那么，術(shù)語(yǔ)的相似度可由單詞的相似度得到。單詞相似度的計(jì)算方法有兩種： 基于統(tǒng)計(jì)的詞語(yǔ)相似度計(jì)算方法和基于語(yǔ)義資源的詞語(yǔ)相似度計(jì)算方法。

基于統(tǒng)計(jì)的詞語(yǔ)相似度計(jì)算方法，一般是利用詞語(yǔ)的上下文環(huán)境作為詞語(yǔ)的特征來(lái)計(jì)算相似度?；诮y(tǒng)計(jì)的詞語(yǔ)相似度計(jì)算方法歷史悠久，早在1993年Dagan I[2]就提出在大規(guī)模語(yǔ)料庫(kù)中，使用詞的上下文特征可以較好的計(jì)算詞語(yǔ)之間的相似度。后人的很多研究都是針對(duì)這種相似度計(jì)算方法進(jìn)行研究和改進(jìn)，2003年E Terra[3]對(duì)不同長(zhǎng)度的上下文進(jìn)行了實(shí)驗(yàn)，實(shí)驗(yàn)表明，上下文的尺寸對(duì)相似度結(jié)果具有很大的影響，上下文窗口越長(zhǎng)相似度計(jì)算的準(zhǔn)確率越低。2009年于水等[4]引入模糊數(shù)學(xué)中隸屬函數(shù)的概念計(jì)算詞語(yǔ)上下文信息的模糊重要度，提出了一種基于語(yǔ)境的詞語(yǔ)相似度計(jì)算方法。

基于統(tǒng)計(jì)的相似度計(jì)算方法，是一種無(wú)監(jiān)督的機(jī)器學(xué)習(xí)方法，完全根據(jù)所選擇的語(yǔ)料進(jìn)行相似度計(jì)算，計(jì)算結(jié)果具有客觀性，且無(wú)需大量人力編寫(xiě)規(guī)則等，其通用性強(qiáng)。但是，該方法卻受限于所使用的語(yǔ)料庫(kù)，這樣難以避免由于數(shù)據(jù)稀疏問(wèn)題所導(dǎo)致的詞語(yǔ)相似度計(jì)算不準(zhǔn)確的問(wèn)題[4]，而且該方法所使用的語(yǔ)料大都是通用領(lǐng)域的文本，所使用的單詞專(zhuān)業(yè)性不強(qiáng)，所以在大規(guī)模語(yǔ)料中，其上下文可以很好的表達(dá)單詞，相似度計(jì)算結(jié)果也較為理想。但是對(duì)于專(zhuān)利文本，其用詞較為單一，而且對(duì)于新產(chǎn)生的術(shù)語(yǔ)，其上下文信息不豐富，所以利用基于統(tǒng)計(jì)的方法來(lái)計(jì)算術(shù)語(yǔ)相似度，并不能得到很好的效果。

基于語(yǔ)義資源的相似度計(jì)算方法，主要依靠語(yǔ)義資源庫(kù)，由于考慮到了詞語(yǔ)的語(yǔ)義信息，相似度計(jì)算更具準(zhǔn)確性。現(xiàn)在比較常用的語(yǔ)義資源有WordNet、維基百科、《同義詞詞林》和《知網(wǎng)》等，現(xiàn)在許多語(yǔ)義相似度計(jì)算方法都是基于這些語(yǔ)義資源所實(shí)現(xiàn)的。1999年，王斌[5]根據(jù)《同義詞詞林-擴(kuò)展版》將所有的詞組織在一棵或幾棵樹(shù)狀的層次結(jié)構(gòu)中這一特點(diǎn)，利用兩個(gè)節(jié)點(diǎn)之間的路徑長(zhǎng)度作為兩個(gè)概念的語(yǔ)義距離的一種度量。2002年劉群[6]首次利用《知網(wǎng)》來(lái)進(jìn)行語(yǔ)義相似度計(jì)算，他提出了把兩個(gè)詞語(yǔ)之間的相似度問(wèn)題歸結(jié)到兩個(gè)概念之間的相似度問(wèn)題，概念相似度計(jì)算歸結(jié)到義原的相似度計(jì)算。2008年，丁林林[7]通過(guò)引入義原在義原樹(shù)中的層次信息和知網(wǎng)中的語(yǔ)義框架等信息對(duì)概念間的相似度、相關(guān)度計(jì)算方法進(jìn)行了改進(jìn)。2010年田久樂(lè)[8]根據(jù)《同義詞詞林-擴(kuò)展版》的編碼及結(jié)構(gòu)特點(diǎn)，提出了一種基于同義詞詞林的詞語(yǔ)相似度計(jì)算方法。2013年P(guān)ilehvar[9]把WordNet表示成是一個(gè)有向圖，利用RankPage算法在“WordNet”中進(jìn)行隨機(jī)行走，生成語(yǔ)義簽名的方法，以此來(lái)計(jì)算兩個(gè)單詞之間的相似度。

基于語(yǔ)義資源的相似度計(jì)算方法，簡(jiǎn)單有效，也比較直觀，易于理解，但是該方法得到的結(jié)果受人的主觀意識(shí)影響較大，不能反映客觀事實(shí)[6]，而且這些語(yǔ)義資源庫(kù)多數(shù)是由人為編寫(xiě)，所涵蓋的詞語(yǔ)具有一定的局限性，因此不包含在語(yǔ)義資源中的詞語(yǔ)，便無(wú)法計(jì)算相似度。相比于普通的詞語(yǔ)，術(shù)語(yǔ)具有專(zhuān)業(yè)性，許多術(shù)語(yǔ)并沒(méi)有涵蓋在語(yǔ)義資源中，因此，基于語(yǔ)義資源的相似度計(jì)算方法也并不能很好的計(jì)算術(shù)語(yǔ)的相似度。

考慮到上述問(wèn)題，針對(duì)專(zhuān)利文本，本文提出了一種基于內(nèi)部語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法，在對(duì)術(shù)語(yǔ)進(jìn)行分詞之后，對(duì)每條術(shù)語(yǔ)內(nèi)部的單詞進(jìn)行語(yǔ)義角色標(biāo)注，然后通過(guò)共享最近鄰的方法計(jì)算各個(gè)單詞之間的相似度，最后兩個(gè)術(shù)語(yǔ)的相似度即為每類(lèi)語(yǔ)義角色內(nèi)的單詞的相似度的加權(quán)求和。實(shí)驗(yàn)表明，利用本文所提出的方法來(lái)計(jì)算術(shù)語(yǔ)相似度，相比于傳統(tǒng)的基于統(tǒng)計(jì)的和基于語(yǔ)義資源方法，效果有明顯的提高。

本文所做的工作有： ①提出了一種基于共享最近鄰的單詞相似度計(jì)算方法，用來(lái)彌補(bǔ)基于統(tǒng)計(jì)的單詞相似度計(jì)算方法由于數(shù)據(jù)稀疏所導(dǎo)致的相似度計(jì)算不準(zhǔn)確的問(wèn)題；②根據(jù)前人對(duì)術(shù)語(yǔ)的研究和詞組型術(shù)語(yǔ)的特點(diǎn)，總結(jié)了12種語(yǔ)義角色，對(duì)詞組型術(shù)語(yǔ)內(nèi)部進(jìn)行語(yǔ)義角色標(biāo)注；③提出了基于內(nèi)部語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法，即對(duì)詞組型術(shù)語(yǔ)內(nèi)部單詞進(jìn)行語(yǔ)義角色標(biāo)注，根據(jù)語(yǔ)義角色，利用單詞的相似度來(lái)計(jì)算術(shù)語(yǔ)的相似度。

2 研究背景

2.1 術(shù)語(yǔ)

術(shù)語(yǔ)是科技文獻(xiàn)中用來(lái)表達(dá)專(zhuān)業(yè)詞語(yǔ)的一種詞匯,集中承載著特定領(lǐng)域的核心知識(shí)，對(duì)于科技信息的傳播與交流有著重要的作用。本文對(duì)66 905篇已經(jīng)經(jīng)過(guò)分詞的漢語(yǔ)專(zhuān)利文本進(jìn)行統(tǒng)計(jì)，每篇專(zhuān)利文本的摘要和權(quán)利要求部分的平均長(zhǎng)度為812個(gè)單詞，平均包含59個(gè)術(shù)語(yǔ)。在所統(tǒng)計(jì)的術(shù)語(yǔ)中，各個(gè)長(zhǎng)度的術(shù)語(yǔ)所占的比例如表1所示。

表1 各長(zhǎng)度術(shù)語(yǔ)所占的比例

由表1可以看出，術(shù)語(yǔ)長(zhǎng)度多在1—5個(gè)單詞之間，長(zhǎng)度為1的術(shù)語(yǔ)僅包含一個(gè)單詞為單詞型術(shù)語(yǔ)，長(zhǎng)度大于2的為詞組型術(shù)語(yǔ)，詞組型術(shù)語(yǔ)占據(jù)了整個(gè)術(shù)語(yǔ)的80%。

2.2 術(shù)語(yǔ)語(yǔ)義角色體系

由2.1節(jié)可知，詞語(yǔ)型術(shù)語(yǔ)占據(jù)了整個(gè)術(shù)語(yǔ)系統(tǒng)的80%左右，所以若能對(duì)詞組型術(shù)語(yǔ)進(jìn)行深入的研究，對(duì)我們了解術(shù)語(yǔ)有很大的幫助。詞組型術(shù)語(yǔ)由多個(gè)單詞構(gòu)成，各個(gè)單詞之間存在一定的語(yǔ)義角色，若對(duì)術(shù)語(yǔ)內(nèi)部進(jìn)行語(yǔ)義角色標(biāo)注，對(duì)術(shù)語(yǔ)的分析有很好的幫助作用。

《知網(wǎng)》定義了16種義原關(guān)系和76種動(dòng)態(tài)角色，清華大學(xué)從《知網(wǎng)》中定義的動(dòng)態(tài)角色中歸納總結(jié)了59種義原關(guān)系并實(shí)現(xiàn)了一個(gè)語(yǔ)義分析系統(tǒng)，并將該系統(tǒng)應(yīng)用到語(yǔ)音識(shí)別中，取得了很好的效果。陳小芳根據(jù)術(shù)語(yǔ)的特點(diǎn)定義了14種語(yǔ)義關(guān)系，并將其運(yùn)用到機(jī)器翻譯中，同樣取得了很好的效果[10]。

本文在陳小芳等[10]研究的啟發(fā)下，將語(yǔ)義信息運(yùn)用到術(shù)語(yǔ)相似度計(jì)算中。我們根據(jù)已有的研究和詞組型術(shù)語(yǔ)中單詞的組成特點(diǎn)，定義了12類(lèi)語(yǔ)義角色，包括否定、外觀、類(lèi)別、方式、技術(shù)、性能、作用、使用者、關(guān)系、受事、材料和中心詞。如表2所示。

表2 語(yǔ)義角色類(lèi)、釋義及舉例

本文對(duì)含有語(yǔ)義角色的18 744條詞組型術(shù)語(yǔ)進(jìn)行統(tǒng)計(jì)，由于每條術(shù)語(yǔ)都包含中心詞，除中心詞以外的其余11類(lèi)語(yǔ)義角色所占的比例如圖1所示。可以看出，“ZY”、“SY”、“SS”和“FS”這四類(lèi)語(yǔ)義角色所占的比例較大，其余七類(lèi)所占的比例很小。

圖1 語(yǔ)義角色比例

本文利用CRF++對(duì)詞組型術(shù)語(yǔ)進(jìn)行機(jī)器自動(dòng)標(biāo)注語(yǔ)義角色，12類(lèi)語(yǔ)義角色標(biāo)注的準(zhǔn)確率均在50%以上，其中，“FD”、“SY”、“SS”、“ZY”和“ZX”這五類(lèi)語(yǔ)義角色的標(biāo)注準(zhǔn)確率在80%以上。同時(shí)，術(shù)語(yǔ)內(nèi)部的全部單詞都可以利用這12類(lèi)語(yǔ)義角色進(jìn)行分類(lèi)標(biāo)注。

2.3 基于共享最近鄰的詞語(yǔ)相似度計(jì)算方法

基于統(tǒng)計(jì)的詞語(yǔ)相似度計(jì)算方法，最為常用的計(jì)算方法是向量空間模型(VSM: Vector Space Model)，把單詞的特征處理為向量空間中的向量運(yùn)算，以空間上的相似度表示詞語(yǔ)的語(yǔ)義相似度[10-11]。但是該方法要依賴(lài)于所使用的語(yǔ)料庫(kù)，這樣難以避免由于數(shù)據(jù)稀疏問(wèn)題所導(dǎo)致的相似度計(jì)算不準(zhǔn)確的問(wèn)題。

為了解決相似度計(jì)算不準(zhǔn)確問(wèn)題，我們?cè)赩SM的基礎(chǔ)上提出了基于共享最近鄰的詞語(yǔ)相似度計(jì)算方法。共享最近鄰(SNN: Shared Nearest Neighbor)是Levent Ertoz[12-13]提出的一種聚類(lèi)算法，它通過(guò)使用數(shù)據(jù)點(diǎn)間共享最近鄰的個(gè)數(shù)作為相似度來(lái)處理變密度簇的問(wèn)題。

根據(jù)這種原理，我們提出了基于共享最近鄰的單詞相似度計(jì)算方法，即認(rèn)為通過(guò)VSM方法計(jì)算得到的詞A的相似度結(jié)果為詞A的鄰居，通過(guò)計(jì)算詞A和詞B的鄰居的相似度，來(lái)對(duì)A和B的原始相似度進(jìn)行懲罰，若兩者含有較多的共同的鄰居，則懲罰相對(duì)較小，反之，懲罰較大，然后選擇一定的閾值對(duì)相似度結(jié)果進(jìn)行過(guò)濾，以此來(lái)提高相似度計(jì)算的準(zhǔn)確性。主要計(jì)算步驟如下。

首先對(duì)專(zhuān)利語(yǔ)料進(jìn)行分詞、去除停用詞等預(yù)處理操作之后，利用VSM模型計(jì)算單詞相似度。

然后利用基于共享最近鄰進(jìn)行相似度計(jì)算。通過(guò)計(jì)算兩個(gè)詞語(yǔ)A和B的鄰居之間的相似度，對(duì)A與B的原始相似度sim′(A,B)進(jìn)行懲罰，計(jì)算如式(1)所示。其中，sim(A,B)為進(jìn)行懲罰之后的相似度，sim(NA,NB)為A和B鄰居之間的相似度，計(jì)算如式(2)所示。在sim(NAi,NBj)中，NAi為A的第i個(gè)鄰居，NBi為B的第j個(gè)鄰居。

(1)

(2)

(j=0,1,…,n)

在對(duì)相似度進(jìn)行懲罰之后，選擇閾值β對(duì)詞的鄰居進(jìn)行過(guò)濾，對(duì)相似度大于β的鄰居予以保留，相似度小于β的鄰居進(jìn)行丟棄，以此更新鄰居，在本文中β取值0.09，計(jì)算如式(3)所示。

(3)

3 基于內(nèi)部語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法

本文根據(jù)術(shù)語(yǔ)的特點(diǎn)提出了一種基于內(nèi)部語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法，該計(jì)算方法主要分為以下幾步： (1)語(yǔ)義角色標(biāo)注；(2)術(shù)語(yǔ)相似度計(jì)算。術(shù)語(yǔ)的相似度由組成術(shù)語(yǔ)的單詞的相似度計(jì)算得到，實(shí)例如圖2所示。

圖2 術(shù)語(yǔ)相似度計(jì)算舉例

其中，“SS”、“ZY”和“ZX”分別表示“受事”、“作用”和“中心詞”語(yǔ)義角色， Re (10)表示“受事”類(lèi)語(yǔ)義角色的權(quán)重，以此類(lèi)推，d1代表單詞“種子”和“數(shù)據(jù)”的相似度，以此類(lèi)推。則術(shù)語(yǔ)“種子點(diǎn)播機(jī)器”與“數(shù)據(jù)采集裝置”的相似度即為 Re (10)/τ×d1+Re(7)/τ×d2+Re (12)/τ×d3，其中τ=Re (10)+Re (7)+Re (12)為歸一化因子。

3.1 術(shù)語(yǔ)語(yǔ)義角色標(biāo)注

圖3 術(shù)語(yǔ)語(yǔ)義標(biāo)注示例

3.2 術(shù)語(yǔ)相似度計(jì)算方法

術(shù)語(yǔ)是由多個(gè)單詞組成，要計(jì)算術(shù)語(yǔ)之間的相似度，首先需要知道各個(gè)單詞之間的相似度。由于語(yǔ)義資源庫(kù)涵蓋詞語(yǔ)有限，且專(zhuān)利中的單詞多具有專(zhuān)業(yè)性，所以基于語(yǔ)義資源的相似度計(jì)算方法并不能得到很好的效果，因此我們利用2.3節(jié)中提出的基于共享最近鄰的方法來(lái)計(jì)算單詞相似度。

接下來(lái)，我們需要對(duì)兩個(gè)含有語(yǔ)義角色標(biāo)注的術(shù)語(yǔ)T1和T2進(jìn)行相似度計(jì)算，本節(jié)中的單詞相似度均從集合Sl中獲得。

首先計(jì)算兩個(gè)術(shù)語(yǔ)中具有相同語(yǔ)義角色的單詞的相似度，得到的相似度要根據(jù)不同的語(yǔ)義角色乘以歸一化后的角色權(quán)重。

最后兩個(gè)術(shù)語(yǔ)的相似度即為每類(lèi)相似度的求和。在計(jì)算時(shí)，若T1中的當(dāng)前詞W在Ω中不存在，或者是在Ω中，W與T2中的詞不具有相似度，那么詞W與T2中的詞的相似度賦值為0.10。示例如圖4所示。

圖4 術(shù)語(yǔ)內(nèi)部相似度計(jì)算實(shí)例

圖4中，首先分別計(jì)算具有相同語(yǔ)義角色“ZX”和“ZY”的單詞的相似度，即“裝置”和“裝置”的相似度，乘以“ZX”語(yǔ)義類(lèi)的歸一化權(quán)重；“采集”和“連結(jié)”的相似度，乘以“ZY”語(yǔ)義類(lèi)的歸一化權(quán)重。然后，由于“SS”類(lèi)語(yǔ)義角色，在T2中不存在，則分別計(jì)算“數(shù)據(jù)”與“連結(jié)”、“裝置”的相似度，但是由于在單詞相似度集合Sl中，“數(shù)據(jù)”與“連結(jié)”和“裝置”不具有相似度，則他們的相似度為0，那就把“數(shù)據(jù)”的相似度默認(rèn)賦值為0.10，在乘以“SS”語(yǔ)義類(lèi)的歸一化權(quán)重，還要乘以一懲罰因子δ。則T1與T2的相似度為 Re (10)/τ×0.10×δ+Re (7)/τ×0.21+Re (12)/τ×1.0其中，τ=Re (10)+Re (7)+Re(12)。

4 實(shí)驗(yàn)

4.1 實(shí)驗(yàn)準(zhǔn)備

本實(shí)驗(yàn)選擇1.8G大小的中文專(zhuān)利語(yǔ)料，通過(guò)術(shù)語(yǔ)抽取系統(tǒng)抽取術(shù)語(yǔ)，并選擇出現(xiàn)頻數(shù)大于100的18 744條詞組型術(shù)語(yǔ)作為實(shí)驗(yàn)對(duì)象，利用中國(guó)科學(xué)院分詞工具“NLPIR漢語(yǔ)分詞系統(tǒng)”進(jìn)行分詞，然后進(jìn)行語(yǔ)義角色標(biāo)注。

4.2 評(píng)測(cè)方法

由于現(xiàn)在沒(méi)有可利用的術(shù)語(yǔ)同義詞詞林，因此，我們組織14名具有自然語(yǔ)言處理知識(shí)的人員對(duì)187 440條詞組型術(shù)語(yǔ)進(jìn)行分類(lèi)，將具有同義性的術(shù)語(yǔ)組織到一類(lèi)中，構(gòu)建適用于術(shù)語(yǔ)的同義詞詞林。評(píng)測(cè)方法為信息檢索領(lǐng)域常用的一種系統(tǒng)性能測(cè)試指標(biāo)F值。

我們規(guī)定，對(duì)于術(shù)語(yǔ)Tj，通過(guò)相似度計(jì)算方法得到的鄰居中的任一術(shù)語(yǔ)t，若在術(shù)語(yǔ)同義詞詞林中t與Tj屬于同一類(lèi)，則認(rèn)為術(shù)語(yǔ)t是Tj正確的鄰居，即為1，否則即為0。則術(shù)語(yǔ)Tj的準(zhǔn)確率P(Tj)為,Tj的鄰居NebTj中正確的鄰居的個(gè)數(shù)除以NebTj中鄰居的總數(shù)MTj，平均準(zhǔn)確率P為所有術(shù)語(yǔ)的準(zhǔn)確率總和的均值，見(jiàn)式(4)；術(shù)語(yǔ)Tj的召回率R(Tj)為T(mén)j的鄰居NebTj中正確的鄰居的個(gè)數(shù)除以術(shù)語(yǔ)同義詞詞林中與Tj所屬同一類(lèi)的所有術(shù)語(yǔ)的總數(shù)M，平均召回率R即為所有術(shù)語(yǔ)的召回率總和的均值，見(jiàn)式(5)，其中N為術(shù)語(yǔ)的總條數(shù)；平均F值，見(jiàn)式(6)。

(4)

(5)

(6)

4.3 實(shí)驗(yàn)介紹

(1) 術(shù)語(yǔ)語(yǔ)義角色標(biāo)注實(shí)驗(yàn)

隨著煤礦井下綜采裝備的自動(dòng)化水平提高，煤礦井下掘進(jìn)效率低下導(dǎo)致的采掘失衡問(wèn)題日益突出[1-2]。前期研究發(fā)現(xiàn)國(guó)內(nèi)外在掘進(jìn)機(jī)的自動(dòng)化和智能化控制方面取得了很大進(jìn)展[3]，但由于受煤礦井下環(huán)境限制，掘進(jìn)機(jī)的精確定位仍未解決，限制著掘進(jìn)機(jī)的智能化發(fā)展。目前國(guó)內(nèi)大多數(shù)煤礦依然需要人工操作，這就導(dǎo)致掘進(jìn)效率低下。 由于掘進(jìn)過(guò)程中粉塵濃度大、光線差等環(huán)境惡劣，導(dǎo)致司機(jī)視野受限不能準(zhǔn)確判斷截割頭在截割斷面的位置，從而容易導(dǎo)致超挖欠挖、不能保證巷道成形的質(zhì)量。

利用3.1節(jié)中人工3 000條術(shù)語(yǔ)作為實(shí)驗(yàn)對(duì)象，將該語(yǔ)料平均分為十組，每組300條。利用十折交叉驗(yàn)證，即輪流用九組作為訓(xùn)練語(yǔ)料，剩余一組作為測(cè)試語(yǔ)料，利用CRF++0.58對(duì)測(cè)試語(yǔ)料進(jìn)行語(yǔ)義標(biāo)注。通過(guò)計(jì)算各個(gè)語(yǔ)義角色標(biāo)注的平均準(zhǔn)確率，以證明本文提出的語(yǔ)義角色體系的可用性。

(2) 通過(guò)不同的單詞相似度計(jì)算方法計(jì)算術(shù)語(yǔ)相似度實(shí)驗(yàn)

分別利用基于《知網(wǎng)》[7]，VSM和通過(guò)共享最近鄰方法計(jì)算單詞相似度，然后利用三種方法得到的單詞相似度來(lái)計(jì)算術(shù)語(yǔ)相似度。

(3) 術(shù)語(yǔ)相似度計(jì)算方法比較實(shí)驗(yàn)

分別利用以下三種方法對(duì)18 744條詞組型術(shù)語(yǔ)進(jìn)行相似度計(jì)算： ①“VSM”方法，即把術(shù)語(yǔ)作為一個(gè)基本單位，利用其在專(zhuān)利文本中的上下文作為特征來(lái)計(jì)算術(shù)語(yǔ)相似度；②共享最近鄰方法，即把術(shù)語(yǔ)作為一個(gè)基本單位，在通過(guò)“VSM”得到的結(jié)果基礎(chǔ)之上加入鄰居的信息來(lái)計(jì)算術(shù)語(yǔ)相似度；③基于內(nèi)部語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法。對(duì)比三種方法得到術(shù)語(yǔ)相似度的效果。

根據(jù)各個(gè)語(yǔ)義角色所占的比例，我們可以知道，“ZY”、 “SY” “SS”、“FS”和“ZY”以上五類(lèi)語(yǔ)義角色對(duì)相似度計(jì)算所起的作用較大，其余七類(lèi)所起的作用較小，因此在選擇語(yǔ)義權(quán)重時(shí)，我們僅對(duì)以上五類(lèi)語(yǔ)義角色的權(quán)重取平均，其余七類(lèi)的權(quán)重保持初始值不變,初始權(quán)重為各個(gè)語(yǔ)義角色所占比例。

4.4 實(shí)驗(yàn)結(jié)果

(1) 術(shù)語(yǔ)語(yǔ)義角色標(biāo)注實(shí)驗(yàn)

各個(gè)語(yǔ)義角色的標(biāo)注準(zhǔn)確率如表3所示。

表3 語(yǔ)義角色機(jī)器標(biāo)注結(jié)果

由表3可以看出，在各類(lèi)語(yǔ)義角色中，“FD”、“SY”、“SS”、“ZY”和“ZX”這五類(lèi)語(yǔ)義角色的標(biāo)注準(zhǔn)確率在80%以上，其中 “CL”這類(lèi)標(biāo)注準(zhǔn)確率在60%以下，通過(guò)觀察發(fā)現(xiàn)導(dǎo)致這類(lèi)準(zhǔn)確率低的原因主要有以下兩點(diǎn)。

首先，“CL”與“SY”這兩類(lèi)語(yǔ)義角色的結(jié)構(gòu)非常相似，“SY”語(yǔ)義類(lèi)的組成結(jié)構(gòu)多為“名詞+名詞”，例如“催化劑/n 載體/n”,其中第一個(gè)名詞多為“SY”類(lèi)，第二個(gè)名詞為“ZX”類(lèi)。但是對(duì)于例如像“鋁/n 基線路板/n”這一類(lèi)術(shù)語(yǔ)的組成結(jié)構(gòu)同樣為“名詞+名詞”，但是“鋁/n”卻不屬于“SS”類(lèi)，這種結(jié)構(gòu)類(lèi)似的術(shù)語(yǔ)會(huì)導(dǎo)致標(biāo)注錯(cuò)誤。其次，由于訓(xùn)練語(yǔ)料不充足，會(huì)導(dǎo)致數(shù)據(jù)稀疏問(wèn)題，這也會(huì)導(dǎo)致標(biāo)注錯(cuò)誤。

(2) 通過(guò)不同的單詞相似度計(jì)算方法計(jì)算術(shù)語(yǔ)相似度實(shí)驗(yàn)

實(shí)驗(yàn)結(jié)果如圖5所示。

圖5 三種單詞相似度計(jì)算方法效果比較

由圖5可以看出，“VSM”方法得到的F值要比“HowNet”得到的F值高,主要原因是，“VSM”方法是利用單詞在大量專(zhuān)利文本中的上下文作為特征來(lái)計(jì)算相似度的，其所得到的結(jié)果更符合專(zhuān)利文本中的術(shù)語(yǔ)，而《知網(wǎng)》中的單詞是面向通用領(lǐng)域的，并不能很好的適用于專(zhuān)利文本。因?yàn)椤肮蚕碜罱彙狈椒ㄊ窃凇癡SM”的基礎(chǔ)上加入了鄰居的信息來(lái)進(jìn)行改進(jìn)，所以得到的效果比單純使用“VSM”方法有所提高。

(3) 術(shù)語(yǔ)相似度計(jì)算方法比較實(shí)驗(yàn)

我們利用三種方法計(jì)算術(shù)語(yǔ)相似度，然后比較結(jié)果。實(shí)驗(yàn)結(jié)果如圖6所示。

圖6 三種術(shù)語(yǔ)相似度計(jì)算方法效果比較

由圖6可以看出，通過(guò)“VSM”方法計(jì)算得到的F較低，主要原因是，專(zhuān)利文本格式較為統(tǒng)一，術(shù)語(yǔ)的上下文信息并不能完整的表達(dá)其含義，而且對(duì)于一些新產(chǎn)生的術(shù)語(yǔ)，其上下文信息并不豐富，所以利用“VSM”方法得到的效果并不理想。共享最近鄰方法是在“VSM”方法的基礎(chǔ)上進(jìn)行改進(jìn)的，能夠在一定程度上縮減由于數(shù)據(jù)稀疏等問(wèn)題造成的相似性計(jì)算不準(zhǔn)確的問(wèn)題?；趦?nèi)部語(yǔ)義角色的相似度計(jì)算方法，沒(méi)有利用術(shù)語(yǔ)不豐富的上下文,而是加入了語(yǔ)義角色的信息，根據(jù)語(yǔ)義角色，通過(guò)單詞的相似度來(lái)計(jì)算術(shù)語(yǔ)的相似度，效果與其它兩種方法相比有很大提升。

5 結(jié)論與展望

專(zhuān)利文本較普通文本而言，用詞較為單一，所使用的詞語(yǔ)多具有專(zhuān)業(yè)性，基于統(tǒng)計(jì)的和基于語(yǔ)義詞典的相似度計(jì)算方法不能很好的對(duì)術(shù)語(yǔ)進(jìn)行相似度計(jì)算，考慮到這一問(wèn)題，本文結(jié)合術(shù)語(yǔ)本身的語(yǔ)義結(jié)構(gòu)特征,提出了一種適合術(shù)語(yǔ)的相似度計(jì)算方法——基于內(nèi)部語(yǔ)義角色的術(shù)語(yǔ)相似度計(jì)算方法。我們所提出的方法能夠很好的解決傳統(tǒng)的基于統(tǒng)計(jì)的方法由于數(shù)據(jù)稀疏所導(dǎo)致的相似度計(jì)算不準(zhǔn)確和傳統(tǒng)的基于語(yǔ)義資源的由于語(yǔ)義資源覆蓋不全面而無(wú)法計(jì)算相似度的問(wèn)題。

本文所提出的方法，并沒(méi)有考慮到術(shù)語(yǔ)的上下文，僅是利用其內(nèi)部語(yǔ)義角色來(lái)計(jì)算相似度，雖然對(duì)于術(shù)語(yǔ)，其上下文信息并不全面，但是若給予考慮，也可對(duì)相似度計(jì)算提供一定的價(jià)值，所以在將來(lái)的工作中，我們考慮可以將“VSM”相似度計(jì)算方法和基于內(nèi)部語(yǔ)義角色的相似度計(jì)算方法進(jìn)行融合，既考慮上下文信息，又考慮術(shù)語(yǔ)內(nèi)部角色，力求能夠更好的計(jì)算詞組型術(shù)語(yǔ)的相似度。

[1] 馮志偉. 術(shù)語(yǔ)形成的經(jīng)濟(jì)律——FEL 公式[J]. 中國(guó)科技術(shù)語(yǔ), 2010, 12(2): 9-15.

[2] Dagan I, Marcus S, Markovitch S. Contextual word similarity and estimation from sparse data[C]//Proceedings of the 31st annual meeting on Association for Computational Linguistics. Association for Computational Linguistics, 1993: 164-171.

[3] Terra E, Clarke C L A. Frequency estimates for statistical word similarity measures[C]//Proceedings of the 2003 Conference of the North American Chapter of the Association for Computational Linguistics on Human Language Technology-Volume 1. Association for Computational Linguistics, 2003: 165-172.

[4] 蔡?hào)|風(fēng), 白宇, 于水, 等. 一種基于語(yǔ)境的詞語(yǔ)相似度計(jì)算方法[J]. 中文信息學(xué)報(bào), 2010, 24(3): 24-28.

[5] 王斌. 漢英雙語(yǔ)語(yǔ)料庫(kù)自動(dòng)對(duì)齊研究[D]. 中國(guó)科學(xué)院博士學(xué)位論文, 1999.

[6] 劉群, 李素建. 基于《知網(wǎng)》的詞匯語(yǔ)義相似度計(jì)算[J]. 中文計(jì)算語(yǔ)言學(xué), 2002, 7(2): 59-76.

[7] 于林林. 基于知網(wǎng)的漢語(yǔ)詞義消歧方法的研究[D]. 沈陽(yáng)航空工業(yè)學(xué)院碩士學(xué)位論文, 2008.

[8] 田久樂(lè), 趙蔚. 基于同義詞詞林的詞語(yǔ)相似度計(jì)算方法[J]. 吉林大學(xué)學(xué)報(bào): 信息科學(xué)版, 2010 (006): 602-608.

[9] Pilehvar M T, Jurgens D, Navigli R. Align, disambiguate and walk: A unified approach for measuring semantic similarity[C]//Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics (ACL 2013). 2013.

[10] 陳小芳. 漢語(yǔ)術(shù)語(yǔ)語(yǔ)義分析技術(shù)研究及其應(yīng)用[D]. 沈陽(yáng)航空航天大學(xué)碩士學(xué)位論文, 2011.

Measuring Term Similarity Based on Internal Semantic Role in Patent Text

JIANG Lixue, JI Duo, CAI Dongfeng

(Knowledge Engineering Research Center, Shenyang Aerospace University, Shenyang, Liaoning 110136, China)

The Chinese term is composed of one or multiple words with certain semantic roles. The traditional similarity calculation methods based on statistics, which regard the term as a basic unit for similarity computation, ignore the semantic roles inside a term. This paper presented a method for computing similarity of Chinese terms based on the internal semantic roles, i.e. calculating term similarity according to the different semantic roles assigned to them automatically. Experiments show that the proposed similarity calculation method achieves better results than traditional methods.

term; internal semantic roles; shared nearest neighbor; term similarity; patent text

姜利雪(1988—),碩士,主要研究領(lǐng)域?yàn)樽匀徽Z(yǔ)言處理。E-mail:jlxsnow@163.com季鐸(1981—),博士,副教授,主要研究領(lǐng)域?yàn)樽匀徽Z(yǔ)言處理。E-mail:jiduo_1@163.com蔡?hào)|風(fēng)(1958—),博士,教授,主要研究領(lǐng)域?yàn)槿斯ぶ悄?自然語(yǔ)言處理。E-mail:caidf@vip.163.com

1003-0077(2016)04-0037-07

2014-08-20 定稿日期： 2015-05-08

國(guó)家“十二五”科技支撐計(jì)劃項(xiàng)目(2012BAH14F00)

TP391

A