基于Web的概念屬性獲取方法研究

劉亮亮，汪平仄

(1.上海對外經(jīng)貿(mào)大學(xué) 統(tǒng)計與信息學(xué)院，上海 201620;2.江蘇科技大學(xué) 計算機科學(xué)與工程學(xué)院，江蘇 鎮(zhèn)江 212003;3.中國科學(xué)院 計算技術(shù)研究所 智能信息處理重點實驗室，北京 100190)

圖1 通用的屬性獲取文法

圖2 人物類屬性獲取模式

圖4 基于并列結(jié)構(gòu)的屬性獲取模式2

基于Web的概念屬性獲取方法研究

劉亮亮1,2，汪平仄3

(1.上海對外經(jīng)貿(mào)大學(xué) 統(tǒng)計與信息學(xué)院，上海 201620;2.江蘇科技大學(xué) 計算機科學(xué)與工程學(xué)院，江蘇 鎮(zhèn)江 212003;3.中國科學(xué)院 計算技術(shù)研究所 智能信息處理重點實驗室，北京 100190)

屬性是概念的內(nèi)涵表達，描述概念的特征或性質(zhì)，通過屬性可以區(qū)分不同的概念，發(fā)現(xiàn)它們之間的差異。屬性具備描述概念和鑒別概念的功能?；赪eb的屬性獲取是指對給定的概念從Web網(wǎng)頁中自動獲取其屬性集合。屬性獲取是概念知識獲取的起點，也是領(lǐng)域本體自動構(gòu)建的關(guān)鍵。文中從文本知識獲取的角度對屬性進行分類，并結(jié)合屬性的元性質(zhì)，探討屬性名稱在Web語料中的基本表達方式(詞匯句法模式)，并通過詞匯句法模式從大規(guī)模語料中獲取屬性名稱，并且提出了基于統(tǒng)計和語義的候選屬性驗證方法。最后利用屬性迭代獲取模式進行屬性迭代獲取。通過幾組概念的實例進行屬性獲取，實驗結(jié)果表明，文中方法獲取的屬性的準確率較高。

知識獲??；概念；屬性；屬性獲取；語義

1 概 述

文本知識獲取(Knowledge Acquisition from Text,KAT)是人工智能的重要研究內(nèi)容，是指用機器學(xué)習(xí)等人工智能的方法，自動將自然語言描述的文本知識變?yōu)橛嬎銠C可理解的形式。其最終目標是“在恰當?shù)臅r間恰當?shù)牡攸c，以恰當?shù)恼Z言和恰當?shù)牧６葘⑶‘數(shù)男畔⒊尸F(xiàn)給恰當?shù)挠脩簟盵1]。文本知識獲取對知識服務(wù)、自然語言處理、本體工程、智能信息系統(tǒng)等研究起到了重要的支撐和促進作用。

已有的屬性知識獲取大致分為三類：手工整理的方法、基于語料的自動獲取方法和基于Web網(wǎng)頁搜索的自動獲取方法。

WordNet[2]、HowNet[3]采用手工的方式得到包括屬性在內(nèi)的各類語義關(guān)系；維基百科[4]收集來自互聯(lián)網(wǎng)用戶對詞條的釋義，并從中篩選整理出各類詞條的屬性，以列表或表格形式呈現(xiàn)。

基于語料的方法通常是以大規(guī)模的領(lǐng)域無關(guān)語料庫為基礎(chǔ)的?；谠~匯-語法模式的方法是最早的基于語料的自動獲取方法之一。它首先確定要獲取的關(guān)系類型；其次選定這種關(guān)系常見的幾種詞匯-語法模式作為已知模式在語料中發(fā)現(xiàn)新的詞對集合，并根據(jù)新詞對和已有詞對在語料庫中的上下文信息，抽取形成新模式；循環(huán)迭代此過程以發(fā)現(xiàn)更多的詞對和模式。Hearst應(yīng)用詞匯-句法模式匹配自然語言文本語料，獲取上下位關(guān)系[5]。

從本體性質(zhì)出發(fā)給出屬性的最上層分類：表性質(zhì)的屬性和角色屬性。然后結(jié)合屬性的語法性質(zhì)，得到語言學(xué)上的分類：定量謂詞、定性謂詞和體詞。其中，定量和定性謂詞是對性質(zhì)屬性的刻畫，體詞則是對角色屬性的刻畫。最后把屬性與Web語料作對應(yīng)，得到它們與詞類之間的映射，即定量謂詞對應(yīng)到數(shù)量詞，定性謂詞對應(yīng)到形容詞(包含程度副詞+形容詞)，體詞對應(yīng)到名詞，在文本知識獲取中表現(xiàn)為一系列的概念詞。

田國剛把這三類屬性分別稱為數(shù)量型、定性型和角色型屬性。通過屬性模式從語料中獲取中文概念-屬性對[6]。除了基于詞匯-語法模式方法外，其他比較有代表性的方法還包括基于統(tǒng)計的方法。Yamada等使用詞匯-句法模式和最大熵分類模型兩種方法獲取telic role和agentive role，結(jié)果顯示最大熵分類模型的效果好于人工定義的模式[7]。

基于網(wǎng)頁搜索的方法是在詞匯-語法模式的方法基礎(chǔ)上，利用搜索引擎提供的查詢資源代替語料庫，從中獲取特定的關(guān)系。Brin使用雙重迭代的模式-關(guān)系抽取方法從Web上獲取特定關(guān)系[8](例如書名、作者)。Zhao等用表征屬性的語素從一個機讀詞典中提取包含這些語素的詞語，在Web中循環(huán)迭代地驗證候選詞并從中獲取更多的屬性語素[9]。Cimiano等利用正則表達式描述從Web獲取屬性名稱[10]。Pasca提出了基于查詢?nèi)罩镜膶傩垣@取[11]。Yoshinaga等提出從包含特定關(guān)鍵詞的網(wǎng)頁中，利用網(wǎng)頁標簽抽取屬性名稱[12]。

從總體的獲取效果來看，基于語料的獲取方法受限于語料來源、領(lǐng)域，由于數(shù)據(jù)稀疏問題，對通用領(lǐng)域的屬性名稱獲取效果并不是特別理想。Pasca采用弱監(jiān)督的方法而非基于模式的方法分別從文本和網(wǎng)頁文檔中獲取屬性名稱，發(fā)現(xiàn)查詢?nèi)罩据^之網(wǎng)頁文檔更適合基于魯棒方法的類屬性抽取[11]。

文中提出一種基于詞匯句法模式的迭代獲取方法。步驟如下：

(1)人工給出詞匯句法模式，對給定的概念，使用詞匯句法模式獲取部分較為常用的屬性；

(2)以第一步獲取的屬性作為種子屬性，使用基于并列結(jié)構(gòu)的句法模式，迭代獲取更多的屬性。

2 概念的屬性獲取方法

2.1 屬性的初始獲取模式

通過觀察語料發(fā)現(xiàn)，在漢語中表達屬性義時經(jīng)常使用特殊標記“的”，因此把它作為一個常用的屬性標記。

屬性包括數(shù)量型、定性型和角色型屬性。針對這三類屬性，文中設(shè)計了三種不同的查詢模式和匹配模式以分別獲取和提取這三類屬性，而不是僅僅采用一種通用的屬性獲取模式。根據(jù)對實驗結(jié)果的分析，表明該分類是有效的，不僅得到了更高的精度，同時也增加了系統(tǒng)召回率。針對每個模式，定義了一個經(jīng)驗性的準確率，用于標識模式匹配到的結(jié)果的準確程度。

首先，為了保證系統(tǒng)的召回率，設(shè)計了一個通用的屬性獲取模式。這類模式對語料的限制比較寬松，因此得到的語料往往準確率較低，但是它能返回更多的結(jié)果，這樣就保證系統(tǒng)總能得到一些屬性。通用的屬性獲取文法如圖1所示。

defpatternattr_001{ 查詢模式:<“><概念:C1><的><”> 準確率:0.4}

圖1 通用的屬性獲取文法

在查詢模式中，域“<概念:C1>”會被替換成概念，而“”會被替換成一至多個通配符*，然后整個查詢模式會作為關(guān)鍵詞提交給Google搜索引擎接口，將“”匹配到的結(jié)果域作為候選屬性提取出來。

對提取到的結(jié)果進行一系列預(yù)處理操作，包括過濾、剝離等。

過濾操作是對獲取模式做一定的語義約束，只有滿足約束的語料才能作為候選屬性進入下一個模塊。比如對概念“中國”，此模式匹配到句子“日本的運動品牌比中國的便宜嗎”，在“中國”前面有“比”這個比較詞。通過觀察，概念前如果包含“比”這類詞，概念后一般不會接屬性詞。因此，可以將此類語料過濾掉。

剝離操作是指剝離掉候選屬性中不是屬性的成分。比如對概念“中國”，此模式匹配到“中國的大部分國土面積不會丟失”，會將程度副詞“大部分”和“不會丟失”這樣的短語片段剝離掉，而只保留核心名詞短語“國土面積”。其中名詞短語的識別采用王石于2009年提出的方法[13]。

在屬性的初次獲取中，在保證一定召回率的情況下，更關(guān)注準確率。因為一旦有了一批準確率較高的屬性，就能使用迭代方式得到更多的屬性；而一旦初次結(jié)果準確率較低，則無法選取好的結(jié)果，勢必會導(dǎo)致迭代效率大大降低，從而嚴重影響系統(tǒng)效率。因此，對每類屬性分別給出一些特定的獲取模式。以人物角色類屬性為例，給定了如下模式，如圖2所示，其他類的模式在文中不再列出。

defpatternattr_006{ 查詢模式:<“><概念:C1><的><是><誰|哪個|哪位><”> 準確率:0.7}

圖2 人物類屬性獲取模式

這個模式在域“”后面加了約束“<是><誰|哪個|哪位>”，因此保證了“”匹配到的部分更接近于人物類屬性。

2.2 初次獲取結(jié)果的驗證

對于概念“中國”來說，“人口數(shù)”、“國土面積”、“GDP”等屬性會頻繁出現(xiàn)在Web中用于描述“中國”，因此有如下假設(shè)：

假設(shè)1：對候選屬性A，A在Web語料中出現(xiàn)頻率越高，那么A作為一個屬性的概率也越高。

對于給出的每個基本獲取文法，它們得到結(jié)果的準確率也各不相同。因此，對每個文法統(tǒng)計得到了一個經(jīng)驗準確率。

假設(shè)2：對給定概念區(qū)做名詞短語(NP)識別后，如果等于用戶給定的概念，同時，目標區(qū)也只有一個NP，那么這個NP作為一個屬性的概率也較高。

定義1：對于一個長度為n的字符串A=a1a2…an和一個長度為m的字符串B，B是A的前綴當且僅當B=a1a2…am，其中m≤n。

通過機器獲取和手工校驗的方式分別得到了屬性的前后綴詞典，詞典中記錄了屬性的一些常見前綴和后綴。一般來說，大部分屬性都包含有前后綴，因此，有如下假設(shè)：

假設(shè)3：對候選屬性A，如果A包含了屬性前綴或?qū)傩院缶Y，那么它作為一個正確屬性的概率也較高。

定義2：給定概念C，C的屬性集合為∑A，給定頻繁閾值T，如果存在一個∑A的子集K={k1,k2,…,kn},n≥T，使得對K上的任意屬性A，字符串P都是A的前綴，那么P稱作C的頻繁前綴。

定義3：給定概念C，C的屬性集合為∑A，給定頻繁閾值T，如果存在一個∑A的子集K={k1,k2,…,kn},n≥T，使得對K上的任意屬性A，字符串P都是A的后綴，那么P稱作C的頻繁后綴。

假設(shè)4：對于給定概念C，包含C的頻繁前(后)綴的候選屬性作為一個正確屬性的概念較高。

基于以上假設(shè)，文中設(shè)計了一組統(tǒng)計驗證方式，對每條候選屬性，統(tǒng)計計算得到一個置信度，并根據(jù)置信度的大小，推測屬性的強弱關(guān)系。

統(tǒng)計驗證函數(shù)如下：

函數(shù)或參數(shù)說明如表1所示。

表1 函數(shù)或參數(shù)的定義

其中，a,b,c,d,maxPatscore,maxPre,maxSul取經(jīng)驗值。根據(jù)實驗結(jié)果，它們分別取4，17，20，20，10，4，4時，效果較佳。

對于統(tǒng)計完畢的結(jié)果，需要做歸一化處理，采用一般的歸一化策略簡單易行，而且事實證明是有效的。歸一函數(shù)為：

3 屬性的迭代獲取

根據(jù)前面的初始獲取結(jié)果，設(shè)計一類選擇策略，從初始結(jié)果中選擇一組認為準確率較高，同時也能用于迭代獲取其余屬性的種子集合。

種子的選擇至關(guān)重要。對初次獲取結(jié)果進行基于統(tǒng)計和基于規(guī)則的驗證，得到一組結(jié)果及其置信度，選擇那些好的結(jié)果，用于候選種子，然后使用Web驗證，剔除候選種子中不好的屬性，只有通過了Web驗證的候選種子，才能被用于迭代。

屬性的迭代獲取采用基于并列結(jié)構(gòu)的方法。

下面給出了2個基于并列結(jié)構(gòu)的獲取模式，見圖3和圖4。

defpatternattr_iter_seed_002{ 查詢模式:<“><概念:C1><的><種子:C2><和|與|或|以及|及其><”> 準確率:0.4}

圖3 基于并列結(jié)構(gòu)的屬性獲取模式1

圖4 基于并列結(jié)構(gòu)的屬性獲取模式2

系統(tǒng)會將“”域的內(nèi)容提取出來，并使用標點符號進行切分，將離概念最近的部分提取出來作為候選屬性，并進入到下一步的過濾和剝離操作中。

候選屬性的驗證方法與2.2節(jié)中的方法相同。

4 實驗和分析

4.1 測試集構(gòu)造

測試集的構(gòu)造至關(guān)重要?，F(xiàn)實中的客觀實體之間存在著差異，有人物、事物、組織、精神等等，因此，描述它們的方式和角度也各有差異。而屬性作為區(qū)分和描述事物的概念的重要角色，它們之間也是因概念的不同而千差萬別。根據(jù)前面的總結(jié)，屬性分為數(shù)量型、定性型和角色型。每個事物的屬性可能各有側(cè)重，有些可能多使用數(shù)量型屬性進行描述，比如：“珠穆朗瑪峰”；而有些可能多使用定性型，有些則多使用角色型。在具體構(gòu)造測試集中，構(gòu)造了幾組概念，而對每一類概念給出1～2個實例。具體如下：

·人物：毛澤東，劉德華

·事物：艾滋病，醋酸

·地方：北京，中國

·組織：中國科學(xué)院

·企業(yè)：商業(yè)銀行

4.2 實驗策略

對每個實體使用初次獲取文法遍歷一次，得到這個實體的候選屬性。為了便于比較，從初次獲取結(jié)果中選擇置信度較高(經(jīng)驗值為0.8以上)的結(jié)果作為種子屬性，使用迭代獲取模塊獲取新的候選屬性。對每個概念迭代三次。

4.3 實驗結(jié)果

實驗結(jié)果如表2所示。

表2 實驗結(jié)果

4.4 結(jié)果分析

對實驗結(jié)果進行仔細分析，發(fā)現(xiàn)置信度在0.8以上的結(jié)果中，準確率都很高，最少的是85.7%，但結(jié)果數(shù)量較少。使用迭代模塊以后，結(jié)果有所增加，但仍然不多。對錯誤的結(jié)果進行分類，總結(jié)出了下面幾類：

(1)分詞錯誤或名詞短語識別錯誤。

這類錯誤比較常見。比如，求“艾滋病”的屬性，得到“措施”，而原語料中為“預(yù)防措施”，經(jīng)過分詞和名詞短語識別后，得出“措施”。這類錯誤只能在驗證中排除，通過使用Web驗證應(yīng)該可以將此類錯誤排除，因為一般不會有以“艾滋病的措施”開頭的句子。但這樣做系統(tǒng)代價較大。

(2)剝離不完全。

這類由文法定義不足引起的錯誤最常見。比如，求“商業(yè)銀行”的屬性，得到“核心競爭力廈門”，而實際上應(yīng)該為“核心競爭力”，后面的地名“廈門”未被剝離掉。這類錯誤不好排除。首先很難定義剝離規(guī)則將“廈門”剝離掉，因為不論從詞性還是總結(jié)詞典，都很難將其排除；其次，如果使用Web驗證，也可能很難排除。

(3)非正確的屬性。

這類出現(xiàn)不多，但不好驗證。比如，求“北京”的屬性，得到“價格”，而“價格”本身并不是“北京”的屬性，但是在語料中“北京的價格”出現(xiàn)非常頻繁，同時“價格”也是一個屬性前后綴詞，因此很難排除。目前使用跨任務(wù)的交叉驗證，比如，已知“北京”、“南京”、“武漢”等同是“城市”的下位，但無法得到“價格”是“南京”和“武漢”等的屬性，因此，可以暫時將“價格”放入“北京”的屬性行列。但同時可能有另外一個問題，因為“北京”是首都，與其他省會城市角色不一樣，所以屬性也不可能一樣，因此，可能還需要將“北京”的屬性與“東京”“倫敦”等首都進行比較，因為它們同時也是“首都”的下位。

5 結(jié)束語

文中首先總結(jié)了目前國內(nèi)外屬性獲取的基本方法，然后提出一種使用詞匯-句法模式從Web網(wǎng)頁中自動獲取屬性的方法。提出一種多語種的通用知識獲取文法，并使用該文法，在無給定種子的情況下，從Web中自動獲取屬性名稱，并使用一種基于統(tǒng)計的方法進行驗證；然后對初始獲取的結(jié)果進行手工挑選和修正，學(xué)習(xí)一組前后綴相關(guān)知識，并使用迭代獲取文法從Web中迭代獲取更多的屬性名稱。同時還提出一組基于語義和統(tǒng)計的候選屬性驗證方法。

從實驗結(jié)果中得出，目前該方法的準確率較高，但是在保證準確率的情況下，結(jié)果數(shù)量有限，或是某一輪迭代后得不到新的結(jié)果。

因此，下一步將著重于提高系統(tǒng)召回率，找到更多的結(jié)果?？梢詮膬煞矫孢M行努力：第一，選擇更好的種子(但不一定是置信度更高的，需要適合進一步獲取其他屬性)；第二，改良現(xiàn)有的屬性迭代文法，設(shè)計新的屬性獲取文法。文法的設(shè)計直接影響系統(tǒng)的準確率和召回率，因此，完全有必要重新審視文法，找出其中的不足和缺陷并加以改正。

其次，任何一個概念，其屬性之間是不完全平等的。比如給定概念“中國”、“人口”、“老年人口數(shù)”、“人口比例”、“人口分布”等是它的屬性，其中，“人口”是這一類屬性的統(tǒng)稱，而“老年人口數(shù)”、“人口比例”、“人口分布”等則是分屬于“人口”下的“子屬性”。這種關(guān)系是有價值的，類屬性是描述客觀事物的宏觀方面，而子屬性則是一個具體方面。因此，有必要對屬性做進一步的聚類分析，找出屬性之間的繼承關(guān)系。

最后，由前面的分析可以看到，目前系統(tǒng)只支持具體實例的屬性獲取，比如“中國”、“艾滋病”等。但是，對于抽象類的屬性獲取，比如“國家”、“疾病”卻顯得力不從心。這主要是由于屬性獲取文法對抽象類支持度不夠。要解決該問題，可以使用兩種策略：第一，設(shè)計抽象類的屬性獲取文法；第二，根據(jù)具體實例已經(jīng)獲取到的屬性，和實例與類之間的上下位關(guān)系，往上提取中抽象類的屬性。無論是哪一種方法，都將是一個很大的挑戰(zhàn)，具有一定的意義。

[1] Reddy R.Three open problems in AI[J].Journal of the ACM,2003,50(1):83-86.

[2] Miller G.WordNet:a lexical database for English[J].Communications of the ACM,1995,38(11):39-41.

[3] 董振東,董 強,郝長伶.知網(wǎng)的理論發(fā)現(xiàn)[J].中文信息學(xué)報,2007,21(4):3-9.

[4] 中文維基百科.維基媒體基金會[EB/OL].2002.http://zh.wikipedia.org/.

[5] Hearst M.Automatic acquisition of hyponyms from large text corpora[C]//Proc of 14th international conference on computational linguistics.[s.l.]:[s.n.],1992:539-545.

[6] 田國剛.受限中文語料的自監(jiān)督文本知識獲取研究[D].北京:中國科學(xué)院研究生院,2007.

[7] Yamada I,Baldwin T.Automatic discovery of telic and agentive roles from corpus data[C]//Proceedings of the 18th Pacific Asia conference on language,information and computation.[s.l.]:[s.n.],2004.

[8] Brin S.Extracting patterns and relations from the world wide web[C]//Proc of selected papers from the international workshop on the world wide web and databases.[s.l.]:[s.n.],1998:172-183.

[9] Zhao J,Liu H,Lu R.Automatic extending HowNet's attribute lexicon on the web. signal-image technologies and internet-based system[C]//Proc of SITIS '07.[s.l.]:[s.n.],2007:315-320.

[10] Cimiano P,Wenderoth J.Automatically learning qualia structures from the web[C]//Proceedings of the ACL workshop on deep lexical acquisition.[s.l.]:[s.n.],2005:28-37.

[11] Pasca M.Organizing and searching the world wide web of facts step two:harnessing the wisdom of the crowds[C]//Proceedings of the 16th international conference on world wide web.[s.l.]:[s.n.],2007:101-110.

[12] Yoshinaga N,Torisawa K.Open-domain attribute-value acquisition from semi-structured texts[C]//Proceedings of 6th ISWC workshop.[s.l.]:[s.n.],2007:55-66.

[13] 王 石.中文實體名稱的識別和語義分析方法研究[D].北京:中國科學(xué)院研究生院,2009.

Research on a Method of Conceptual Attribute Acquisition Based on Web

LIU Liang-liang1,2,WANG Ping-ze3

(1.School of Statistics and Information,School of Business Information,Shanghai 201620,China;2.School of Computer Science & Engineering,Jiangsu University of Science and Technology,Zhenjiang 212003,China;3.Key Laboratory of Intelligent Information Processing,Institute of Computing Technology,Chinese Academy of Sciences,Beijing 100190,China)

An attribute is the expression of connotation,which is used to explain some property of the conceptual word,and distinguish different concepts,and find their discrepancy.An conceptual word with attribute names are not an isolated vocabulary entry any more.Web-based attribute-acquisition is to acquire a set of attribute names from Web pages automatically for each given concept,enriching the semantics of the concept.Attribute acquisition is also a significant step of general knowledge acquisition from text,and an important task in automatic construction for domain ontologies.It makes a basic classification of attributes according to text knowledge acquisition in this paper and explores basic expressions (lexico-syntactical patterns) for attribute names in multi-linguistic Web corporal.After acquiring attribute names from large-scale corpus by patterns,a method based on statistics and semantic is proposed to validate.At last,attribute iteration patterns are applied to acquire new attribute names through iteration method.The results show that the precision of attribute acquisition is very high through the experiment of several group concepts.

knowledge acquisition;concept;attribute;attribute acquisition;semantic

2015-09-05

2015-12-16

時間：2016-07-29

國家自然科學(xué)基金資助項目(61203284);國家社科基金重點項目(10AYY003)

劉亮亮(1979-)，男，講師，博士，研究方向為知識獲取、自然語言理解；汪平仄(1986-)，男，博士，研究方向為大規(guī)模知識獲取。

http://www.cnki.net/kcms/detail/61.1450.TP.20160729.1833.018.html

TP391

A

1673-629X(2016)08-0012-05

10.3969/j.issn.1673-629X.2016.08.003