• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于主題關(guān)系的中文短文本圖模型實體消歧*

    2023-02-08 02:31:20馬瑛超張曉濱
    計算機工程與科學 2023年1期
    關(guān)鍵詞:消歧知識庫短文

    馬瑛超,張曉濱

    (西安工程大學計算機科學學院,陜西 西安 710048)

    1 引言

    隨著互聯(lián)網(wǎng)的不斷發(fā)展,海量信息蜂擁而至,如何通過信息檢索來獲取有用信息逐漸成為人們關(guān)注的重點。但是,在信息檢索的過程中,由于同一實體經(jīng)常會有多層含義(即在不同語境中同一實體表達的含義可能會不同),因此常常會得到很多同名但并非相關(guān)的實體內(nèi)容。實體消歧(Named Entity Disambiguation)技術(shù)的出現(xiàn)為解決這一問題提供了有效途徑。近年來中文知識圖譜的構(gòu)建為人工智能的發(fā)展帶來了新的機遇,作為命名實體識別的后續(xù)任務(wù),實體鏈接和消歧任務(wù)也是知識圖譜構(gòu)建和補全的重要一環(huán)。知識圖譜技術(shù)的發(fā)展對實體消歧工作也提出了更高的要求。

    實體消歧是指將文檔中識別出的實體指稱鏈向特定知識庫中某個目標實體的過程,其對應(yīng)著自然語言中的一詞多義[1],即實體消歧要解決的是同名實體存在的一詞多義問題。例如“巨人希曼:希曼要去水晶山,一路速度飛快,這速度太驚人了”一句中的“巨人希曼”,消歧系統(tǒng)希望該實體指稱映射到的目標實體應(yīng)該是動畫片《宇宙的巨人希曼》的主角,而不是一個作品或者其他的實體對象。但有些時候,即使是人類也可能因為缺乏知識或存在誤解而無法消除某些實體對象的歧義[2]。實體消歧作為自然語言處理的一項基礎(chǔ)任務(wù),能有效根據(jù)上下文信息消除一詞多義,在該領(lǐng)域起著重要的作用,已經(jīng)成為知識庫構(gòu)建、信息檢索、機器翻譯以及話題發(fā)現(xiàn)與追蹤等方向的重要支撐技術(shù)[3]。

    針對短文本的實體消歧工作,本文提出了一種基于實體主題關(guān)系的中文短文本圖模型消歧方法。該方法使用以BERT(Bidirectional Encoder Representation from Transformers)[4]為基礎(chǔ)的語義匹配模型進行匹配度判斷,并將知識庫主題關(guān)聯(lián)信息作為節(jié)點關(guān)系構(gòu)建圖模型;然后對圖進行搜索并按照搜索的結(jié)果確定鏈接結(jié)果;此外,還采用TextRank算法對知識庫實體描述信息進行信息增強,提高了主題模型相似度的準確率,增加了方法的可靠性。

    2 背景

    實體消歧工作旨在確定知識庫與待消歧實體之間的鏈接關(guān)系,需要借助知識庫中的實體描述信息。按照建模所依賴的特征信息,實體消歧工作可分為基于實體描述文本的消歧方法、基于實體類別的消歧方法和基于實體關(guān)系的消歧方法。

    隨著深度學習和預訓練模型[5,6]的發(fā)展,基于實體描述文本的消歧方法取得了優(yōu)秀的成績。He等人[7]提出了一種基于深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks)的方法來進行實體消歧,通過深度神經(jīng)網(wǎng)絡(luò)自主學習實體和上下文的特征表示,端到端地進行實體消歧,避免了人工設(shè)計特征,在公開實體鏈接數(shù)據(jù)集上取得了優(yōu)異的消歧結(jié)果。Francis-Landau等人[8]提出使用卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks)進行消歧,通過捕獲實體指稱上下文和目標實體上下文的語義信息,并利用多個粒度的卷積來比較兩者之間的語義相似度。Phong等人[9]提出將實體消歧問題轉(zhuǎn)化為文本語義匹配問題,將待消歧文本和所有候選實體一一配對,通過計算匹配程度確定消歧結(jié)果。該方法在諸多預訓練模型的幫助下在實體消歧工作中取得了優(yōu)異的成績,但利用描述文本的語義特征進行消歧的模型僅考慮了待消歧實體與候選實體之間的匹配程度,而忽略了同一文本中多個待消歧實體間的一致性關(guān)系。上述方法都是基于實體描述文本進行的消歧工作。

    Raiman等人[10]提出了針對實體類別進行建模的方法DeepType,該方法將實體消歧任務(wù)看做對同名實體類型的判定,其最大的難點在于如何構(gòu)建類別系統(tǒng),在待消歧實體的候選實體之間類別差距不大的情況下,如何能夠給出有區(qū)分度的類別判定。

    基于實體關(guān)系的消歧方法實質(zhì)上是考慮多實體之間的全局最優(yōu),通常有基于搜索算法的消歧模型[11](如基于隨機游走算法的消歧模型)和基于圖理論的消歧模型(如基于密度子圖的方法)[12,13]。由于多實體消歧基于知識庫中實體與實體之間的關(guān)系,因此需要知識庫的信息包含完整的三元組信息,即實體-關(guān)系-實體的信息表述。但是,在實際的消歧環(huán)境中知識庫往往并不包含實體關(guān)系的描述或?qū)嶓w關(guān)系的描述不完整。針對這一問題,王瑞等人[14]提出了基于主題詞向量和主題模型的多實體消歧模型,該模型通過構(gòu)建主題詞關(guān)系對待消歧文本和實體描述、實體與實體之間進行主題建模,并利用主題相似度得到最終的消歧結(jié)果,這在一定程度上解決了在知識庫缺乏關(guān)系信息的情況下進行多實體消歧的問題。但在短文本的環(huán)境中,將待消歧文本和實體描述的主題關(guān)系作為消歧的判定依據(jù)很難得到理想的效果。

    隨著微博、評論等短文本信息的不斷增多,知識提取工作的重心在一定程度上轉(zhuǎn)移到了短文本上。而短文本由于包含信息較少、語言不規(guī)范等原因為自然語言處理帶來了新的挑戰(zhàn)。在實體消歧過程中,單實體消歧模型在短文本中的效果并不是很理想。同時,由于網(wǎng)絡(luò)實體的更新速度快,網(wǎng)絡(luò)用語多等原因,短文本環(huán)境中很難構(gòu)建出包含完整鏈接關(guān)系的知識庫,使用實體關(guān)系的消歧方法也很難取得很好的效果。

    3 中文短文本圖模型實體消歧方法

    針對中文短文本上下文特征不足以及知識庫中很難直接建立實體間關(guān)系的問題,本文提出了一種基于主題關(guān)系的中文短文本圖模型實體消歧方法。該方法首先使用由TextRank算法[15]提取出的關(guān)鍵詞作為語料庫進行主題推斷,然后使用主題推斷的結(jié)果與語義匹配模型給出的評分相結(jié)合構(gòu)建消歧網(wǎng)絡(luò)圖,最終通過搜索排序確定最終的消歧結(jié)果。短文本實體消歧方法的模型結(jié)構(gòu)如圖1所示,語義匹配模塊用于計算待消歧文本與候選實體的匹配分數(shù),主題推斷模塊用于得到同一文本下的多個實體間的主題相關(guān)度。以匹配分數(shù)與主題相關(guān)度作為圖節(jié)點與邊的權(quán)值構(gòu)建圖模型,通過融合消歧得到最優(yōu)的消歧組合。

    Figure 1 Structure of entity disambiguation usingChinese short text graph model based on topic relations圖1 基于主題關(guān)系的中文短文本圖模型實體消歧模型結(jié)構(gòu)圖

    3.1 主題推斷

    本文將潛在狄利克雷分布LDA(Latent Dirichlet Allocation)主題模型[16]與TextRank關(guān)鍵詞提取算法相結(jié)合對候選實體的描述文本進行主題推斷,并根據(jù)主題推斷的結(jié)果進行主題相關(guān)度計算。LDA屬于機器學習中的生成模型,其根據(jù)詞的特征分布生成文章的主題分布,本質(zhì)上是多層級的貝葉斯概率圖模型[17]。但在實體消歧中,由于多數(shù)同名實體都具有相似的實體描述,因此直接使用實體描述文本作為語料進行主題推斷的效果并不理想。為突出同名實體描述信息之間的差異性,在構(gòu)建語料庫時,本文選擇了TextRank關(guān)鍵詞提取算法對實體的描述信息進行信息增強,使用增強后的關(guān)鍵詞作為語料庫進行主題推斷。

    TextRank算法是以PageRank算法為藍本,針對自然語言處理任務(wù)的特點進行修改而形成的一種基于圖模型的排序算法[18]。為考慮相鄰詞之間的語義關(guān)系,TextRank算法將關(guān)鍵詞提取轉(zhuǎn)化到圖模型中進行處理。該算法將文本視作句子的集合T={S1,S2,…,Sn},每個句子又視為單詞的集合Si={N1,N2,…,Nm},構(gòu)建圖G=(V,E),其中V為單詞集合,E為詞之間重要性關(guān)系集合,邊權(quán)值具體表現(xiàn)為重要性評分。重要性評分計算如式(1)所示:

    score(Ni)=(1-d)+

    (1)

    其中,In(Ni)是指向節(jié)點Ni的節(jié)點集合;Out(Nj)是節(jié)點Nj指向的節(jié)點組成的集合;d為阻尼系數(shù),根據(jù)實際情況對阻尼系數(shù)進行賦值,通常取0.85。

    根據(jù)重要性評分設(shè)定閾值H。選擇重要性評分排序后前H項為最終結(jié)果。在實體消歧中進行關(guān)鍵詞提取時重點保留了定語性質(zhì)的名詞和其他實體的指稱。

    3.2 基于BERT的語義匹配模型

    為準確計算候選實體與待消歧實體之間的語義相似度評分,本文將待消歧文本中的所有候選實體與待消歧文本一一拼接,構(gòu)建了一個二分類模型。采用的模型設(shè)計結(jié)構(gòu)是參考經(jīng)典的match架構(gòu)改進而來的。以BERT作為模型的輸入,取CLS位置的向量以表示待消歧文本與知識庫描述信息的全局差異。為保留針對待消歧實體的局部信息,本文通過記錄實體出現(xiàn)的開始位置begin和結(jié)束位置end,將編碼后對應(yīng)位置向量的拼接結(jié)果作為實體的局部特征Entity。將得到的CLS位置的向量與實體位置的向量進行拼接,通過Sigmoid為激活函數(shù)的全連接層進行分類。其中增加Dropout層的目的是為了防止模型過擬合,Dropout層的參數(shù)設(shè)置為0.15?;贐ERT的語義匹配模型結(jié)構(gòu)如圖2所示,其中N表示句子中的字符長度。

    Figure 2 Structure of semantic matching model based on BERT圖2 基于BERT的語義匹配模型結(jié)構(gòu)圖

    如圖2所示,對于“甄嬛傳:安陵容懷孕時,雍正經(jīng)常摸她的肚子”這一輸入文本,首先將實體“甄嬛傳”與知識庫中所匹配的描述信息一一配對,模型訓練中正樣本為待消歧文本與其正確鏈接對象的描述文本的拼接,負樣本為與非正確鏈接對象的拼接。正樣本與負樣本的比例為1∶3。最終通過訓練好的模型預測待消歧文本與其所有候選實體的描述文本的匹配程度,得到待消歧實體與其候選實體的匹配分數(shù)。

    3.3 融合實體消歧

    本文針對短文本的待消歧實體集合構(gòu)建圖,以待消歧實體為節(jié)點,以語義匹配模型給出的評分作為節(jié)點的值,以實體與實體的主題相關(guān)度作為邊的權(quán)值。主題相關(guān)度topicRela的計算方法如式(2)所示:

    (2)

    其中,Ta和Tb分別為候選實體a和b的主題推斷結(jié)果。

    消歧結(jié)果由語義匹配評分matchi與最大權(quán)值和maxWeight(i)構(gòu)成,計算方法如式(3)所示:

    (3)

    其中,α為語義匹配評分在消歧結(jié)果中的線性權(quán)重,i表示第i個候選實體,e為待處理文本中待消歧實體的個數(shù),最大權(quán)和maxWeight(i)是以節(jié)點i為起點的所有全連接子圖的節(jié)點和邊權(quán)值和的最大值。

    為降低時間復雜度,本文僅選取語義匹配評分排序前3的節(jié)點加入圖中。構(gòu)造的結(jié)果如圖3所示,其中加粗的子圖為最優(yōu)的消歧組合。

    Figure 3 Relationship diagram of candidate entity 圖3 候選實體關(guān)系圖

    計算節(jié)點與邊權(quán)值最大的節(jié)點組合需要對圖進行遍歷計算。本文將所有候選實體按待消歧實體構(gòu)成節(jié)點集合作為融合消歧的輸入,并計算所有全連接子圖的節(jié)點和邊的權(quán)重和。算法偽代碼如算法1所示:

    算法1實體關(guān)系圖權(quán)值和計算

    Input:NodeByGroup,n。/*NodeByGroup:An entity to be detected is a set of nodes in a group;e:number of entities to be detected in a text*/

    Output:Weights。/*A path-weight table that contains all of the subgraphs:*/

    1.Weights←null;/*To hold the sum of nodes andweights*/

    2.First←NodeByGroup[0];/*Visit the first set of nodes*/

    3.Weights←First;

    4.fori=1 toedo

    TempWeiths←null;/*Save the weight of the node after adding the new node*/

    5.foreachnode∈NodeByGroup[i]do

    6.forweight∈Weightsdo

    TempWeights←ComputeWeight(node,weight);

    7.endfor

    8.endfor

    9.Weights=TempVisited;

    10.endfor

    returnWeights;

    對所有節(jié)點進行遍歷計算可以得到包含候選實體的全部全連接子圖與權(quán)值和。對包含某候選實體的全連接子圖按權(quán)值和進行排序,即可得到包含該實體的最大權(quán)值和與其對應(yīng)的全連接子圖。

    根據(jù)得到的最大權(quán)值和單消歧實體的評分計算所有候選實體的link值,并將待消歧實體的所有候選實體的link值進行排序,選取結(jié)果最大的作為消歧結(jié)果。當link值小于0.5時,則判定為NIL實體,即知識庫中沒有與待消歧實體相匹配的結(jié)果。

    4 實驗與結(jié)果分析

    本節(jié)將通過實驗驗證基于主題關(guān)系的中文短文本圖模型實體消歧方法的可行性。

    4.1 數(shù)據(jù)集

    本文實驗采用 CCKS2020(2020全國知識圖譜與語義計算大會)短文本實體鏈接任務(wù)所提供的語料集和知識庫。語料集中每條數(shù)據(jù)包含一條文本和該文本中包含的實體指稱,以及各個實體指稱在給定知識庫中對應(yīng)的目標實體。知識庫中包含每個實體的別名、實體類別和實體描述信息。

    語料集由訓練集和驗證集組成,其中訓練集包括7萬條短文本標注數(shù)據(jù),驗證集包括 1萬條短文本標注數(shù)據(jù)。數(shù)據(jù)集主要來自于真實的互聯(lián)網(wǎng)網(wǎng)頁標題數(shù)據(jù),短文本平均長度為21.73個中文字符,覆蓋了不同領(lǐng)域的實體,包括人物、電影、電視、小說、軟件、組織機構(gòu)和事件等。本次研究只針對語料集中的非NIL實體進行處理。

    4.2 實驗環(huán)境與參數(shù)設(shè)置

    本文實驗所用的系統(tǒng)環(huán)境配置為:CPU使用英特爾Core i7-10750H @ 2.60 GHz六核,GPU使用NVIDIA GeForce RTX 2060,操作系統(tǒng)為Windows10。

    本文實驗使用的語義匹配模型為BERTBASE,學習率前3輪為1e-6,第4輪為1e-7,最大序列長度為512,訓練batch_size設(shè)置為4。

    4.3 評價標準

    本文實體消歧模型的評價指標選用精確率P、召回率R及F1值(F1-score)。給定輸入文本集Q,對于Q中的每條輸入文本q,假設(shè)q中有E個實體指稱,即Mq={m1,m2,m3,…,mE}。則實體消歧模型的評價指標定義如式(4)所示:

    (4)

    其中,每個實體指稱鏈接到知識庫的實體編號為Eq={e1,e2,e3,…},實體消歧模型輸出的鏈接結(jié)果為E′q={e′1,e′2,e′3,…}。

    4.4 實驗過程

    4.4.1 主題數(shù)實驗

    由于主題數(shù)的設(shè)置直接影響主題推斷的結(jié)果,進而影響消歧的結(jié)果,因此本文根據(jù)知識庫所構(gòu)造的主題模型,分別選擇K=1,10,20,30,40,50,60,70,80作為主題數(shù)進行困惑度實驗。根據(jù)困惑度指標所選取的主題數(shù)能夠很好地對主題模型進行檢測。在以F1值為實驗結(jié)果評價指標的實驗中,主題數(shù)設(shè)置為70時效果最優(yōu),但考慮到主題推測的實際意義,最終選取困惑度作為衡量主題數(shù)的標準。困惑度可以理解為對于一篇文章,所訓練出來的模型對文章屬于哪個主題有多不確定,這個不確定程度就是困惑度。困惑度越低,說明聚類的效果越好。一個主題模型的困惑度的計算方法如式(5)所示:

    (5)

    Figure 4 Experiment of number of topics-perplexity圖4 主題數(shù)-困惑度實驗

    由圖4可知,在K值為60時主題模型的困惑度最低,說明此時主題模型的推斷效果最優(yōu)。

    4.4.2 關(guān)鍵詞個數(shù)實驗

    TextRank算法構(gòu)建了用于計算實體間主題相關(guān)度的語料庫,為驗證其中主題詞個數(shù)H的選取對于消歧結(jié)果的影響,本文分別選取主題詞個數(shù)為[1,15]進行實驗,評測標準為F1值。實驗結(jié)果如圖5所示。

    Figure 5 Experiment of number of keywords-F1 圖5 關(guān)鍵詞個數(shù)-F1實驗

    根據(jù)實驗結(jié)果,本文以關(guān)鍵詞個數(shù)為12作為最終的TextRank算法關(guān)鍵詞抽取算法的閾值H的值。

    4.4.3α取值實驗

    本節(jié)對式(3)語義匹配評分中線性權(quán)重α的取值進行實驗。使用F1值作為判別標準,α取值分別為0,0.1,0.2,0.3,0.4和0.5時的實驗結(jié)果如圖6所示。

    Figure 6 Experiment of different values of α圖6 α取值實驗

    根據(jù)實驗結(jié)果,本文選擇0.2作為α的取值。即通過搜索算法得出的權(quán)值和maxMatch與語義匹配評分以2∶8的方式得出最終的鏈接評分。

    4.5 實驗結(jié)果

    4.5.1 模型對比實驗

    為了驗證本文所提模型的有效性,本文同時使用TextRNN[19]、TextRCNN[20]及基于BERT的DeepMatch模型在同一數(shù)據(jù)集上進行實體消歧,實驗結(jié)果如表1所示。

    Table 1 Comparison of experimental results

    由表1可以看出,使用經(jīng)典的句子語義建模方法TextRNN和TextRCNN進行實體消歧的效果相對于引入預訓練模型的方法,無論是準確率、召回率還是F1值都有所不足。由于引入了BERT預訓練模型,模型能夠充分地提取實體上下文特征,其結(jié)果優(yōu)于傳統(tǒng)方法的。本文在以BERT為基礎(chǔ)的語義匹配方法上,結(jié)合主題模型對待消歧實體的主題一致性進行判斷,彌補了短文本中上下文特征不足的缺陷。實驗結(jié)果表明,本文方法在準確率、召回率和F1值上相較于傳統(tǒng)方法與DeepMatch方法的都有所提升,由此可見以主題相關(guān)度為關(guān)系構(gòu)建消歧網(wǎng)絡(luò)的多實體消歧方法是有效的。

    4.5.2 消融實驗

    為驗證模型中匹配分數(shù)和主題關(guān)系對消岐任務(wù)的貢獻,本節(jié)對模型的匹配部分和主題關(guān)系分別進行實驗,模型分別命名為Match和Topic,在Match模型中本文將實體間的主題相關(guān)度全部設(shè)定為1。在Topic模型中將候選實體與待消岐文本的匹配分數(shù)全設(shè)為1。實驗結(jié)果如表2所示。

    Table 2 Results of ablation experiments

    由表2可以看出,在短文本環(huán)境中僅使用匹配模型進行消岐的效果并沒有達到最優(yōu),但匹配分數(shù)相對于主題相關(guān)度依舊能為消岐任務(wù)帶來更多的幫助。主題相關(guān)度能夠幫助模型在全局范圍內(nèi)進行主題一致性計算,能夠幫助模型在多實體間進行全局最優(yōu)的選擇,但在整體的消岐結(jié)構(gòu)中依據(jù)上下文計算出的匹配分數(shù)顯然具有更重要的地位。

    本文也嘗試了使用主題相似度在待消歧文本與候選實體之間建立關(guān)系,但在如“一分鐘了解唐多令·蘆葉滿汀洲”的文本中,待消歧實體僅有“唐多令·蘆葉滿汀洲”,在進行主題推斷后,待消歧文本與知識庫中的實體對象描述信息僅具有相同的實體名,而無其他對主題推斷有幫助的詞匯出現(xiàn),因此在對多個實體進行判斷時,主題一致性很難作為鏈接的判別依據(jù)。而在短文本環(huán)境中這樣的情況很多,因此僅使用主題關(guān)系作為構(gòu)建消歧模型的依據(jù)在短文本環(huán)境中是不夠的。

    4.5.3 NIL實體消岐分析

    本節(jié)針對NIL類別實體的消岐效果進行了實驗。為了驗證加入NIL實體對本文所提方法的影響,設(shè)置了2組實驗,其中一組全部使用非NIL數(shù)據(jù),另一組使用包括NIL實體的全部數(shù)據(jù)。最終每個類別的F1評分如表3所示。

    Table 3 Results of disambiguation experiments of adding NIL entities and no NIL entities

    由表3可以看出,在加入NIL實體數(shù)據(jù)后模型效果有細微的提升,原因在于在候選實體生成階段,一部分的NIL實體按照非NIL實體的消岐流程進行計算,最終評分小于0.5的情況被判定為NIL實體;另一部分NIL實體在知識庫中無法匹配到候選實體,被直接判定為NIL實體,這一部分實體在全部NIL實體中占有近58%的比例。在不繼續(xù)對該類實體進行類別判定的情況下,這類實體在一定程度上會使得最終的評分更高。

    4.5.4 錯誤分析與總結(jié)

    為分析本文方法的不足,對數(shù)據(jù)中16個類別的實體進行單獨實驗,實驗結(jié)果如表4所示。

    Table 4 Disambiguation results of different types of entities

    由表4可以看出,本文所提出的基于主題關(guān)系的中文短文本圖模型實體消歧方法對大多數(shù)類別的實體消岐都是有效的,但部分類別的實體(如Work類實體)消岐效果稍差。為找到其中原因,對Work類別中的樣本進行具體分析。如圖7所示,文本中出現(xiàn)的實體《我心飛翔》所對應(yīng)的候選實體中出現(xiàn)了多個同類型的實體。本文所提出的方法無論從主題關(guān)系還是上下文特征都無法對這類樣本進行很好的區(qū)分。但實際情況下,《我心飛翔》在沒有明確指代的情況下,廣為周知的是孫悅演唱的版本。但是,若要對這類實體進行有效的消岐,除語義特征外還需要考慮實體流行度等特征,因此本文方法難以對這類實體進行有效消岐。

    Figure 7 Entity instance of Work class 圖7 Work類實體實例

    根據(jù)實驗結(jié)果可以看出,本文方法雖然對部分類別的實體消岐效果不理想,但該方法相對于傳統(tǒng)方法在短文本環(huán)境中仍具有優(yōu)秀的表現(xiàn)。本文方法適用于知識庫信息不完善的短文本實體消岐,通過主題關(guān)系與匹配評分相結(jié)合構(gòu)建圖模型進行消岐的方法,在知識庫無法給出實體關(guān)系的情況下,能夠?qū)Χ涛谋局械膶嶓w進行主題一致性計算,從而減少短文本上下文信息不足所帶來的誤判。

    5 結(jié)束語

    本文提出了基于實體主題關(guān)系的中文短文本圖模型消歧方法,其優(yōu)點在于使用主題模型對知識庫的實體信息進行主題推斷時,通過考慮同文本中其他實體與待消歧實體的主題一致性,避免了短文本消歧中上下文特征不足所帶來的誤判;同時使用TextRank關(guān)鍵詞提取算法對知識庫信息進行增強,降低了同名實體中非主題詞所帶來的影響;結(jié)合基于BERT的語義匹配模型所得出的結(jié)果構(gòu)建候選實體的關(guān)系圖;通過搜索排序?qū)ふ页鲎顑?yōu)的實體組合。實驗結(jié)果表明,本文方法是有效的,通過考慮候選實體間的主題一致性可以有效地解決短文本環(huán)境中上下文特征不足的問題。在下一步工作中,嘗試將更多同一語料的消歧實體的共同特征引入方法,以提升短文本實體消歧的效果。

    猜你喜歡
    消歧知識庫短文
    基于關(guān)聯(lián)圖和文本相似度的實體消歧技術(shù)研究*
    基于半監(jiān)督集成學習的詞義消歧
    基于TRIZ與知識庫的創(chuàng)新模型構(gòu)建及在注塑機設(shè)計中的應(yīng)用
    KEYS
    Keys
    藏文歷史文獻識別過程中藏文自由虛詞的自動識別及消歧算法的研究
    高速公路信息系統(tǒng)維護知識庫的建立和應(yīng)用
    基于Drupal發(fā)布學者知識庫關(guān)聯(lián)數(shù)據(jù)的研究
    圖書館研究(2015年5期)2015-12-07 04:05:48
    短文改錯
    短文改錯
    一区二区三区高清视频在线| 国产一区二区三区视频了| 黄色丝袜av网址大全| 精品久久久久久久末码| 97热精品久久久久久| 毛片一级片免费看久久久久 | 久久草成人影院| 一卡2卡三卡四卡精品乱码亚洲| 中文在线观看免费www的网站| 老女人水多毛片| 亚洲在线观看片| 尾随美女入室| 黄色日韩在线| 精品人妻偷拍中文字幕| 欧美bdsm另类| 国产一区二区亚洲精品在线观看| 久久久精品欧美日韩精品| 我要搜黄色片| 18禁裸乳无遮挡免费网站照片| 男女视频在线观看网站免费| 久久婷婷人人爽人人干人人爱| 91久久精品国产一区二区成人| 久久久久久国产a免费观看| 亚洲欧美日韩卡通动漫| 午夜免费激情av| 欧美中文日本在线观看视频| 免费在线观看日本一区| 人妻制服诱惑在线中文字幕| 夜夜看夜夜爽夜夜摸| 99久久久亚洲精品蜜臀av| 最好的美女福利视频网| 久久久成人免费电影| 国产黄a三级三级三级人| 日本免费a在线| 国产成人影院久久av| 狂野欧美白嫩少妇大欣赏| 特大巨黑吊av在线直播| 真实男女啪啪啪动态图| 在线观看舔阴道视频| 国产精品乱码一区二三区的特点| 全区人妻精品视频| 亚洲精品日韩av片在线观看| 国产男人的电影天堂91| 露出奶头的视频| 久久6这里有精品| 日本爱情动作片www.在线观看 | 又爽又黄无遮挡网站| 国产伦在线观看视频一区| av中文乱码字幕在线| 噜噜噜噜噜久久久久久91| 美女 人体艺术 gogo| 啦啦啦韩国在线观看视频| 欧美精品啪啪一区二区三区| 在线a可以看的网站| 动漫黄色视频在线观看| 亚洲中文字幕一区二区三区有码在线看| 大型黄色视频在线免费观看| 国产精品人妻久久久影院| 午夜亚洲福利在线播放| 春色校园在线视频观看| 成年免费大片在线观看| 男女那种视频在线观看| 搡老熟女国产l中国老女人| 全区人妻精品视频| 日本与韩国留学比较| 91麻豆精品激情在线观看国产| 琪琪午夜伦伦电影理论片6080| 91在线精品国自产拍蜜月| 国产人妻一区二区三区在| 国内久久婷婷六月综合欲色啪| 99精品在免费线老司机午夜| 国产三级在线视频| 嫩草影院新地址| 老司机午夜福利在线观看视频| 内射极品少妇av片p| 精华霜和精华液先用哪个| 岛国在线免费视频观看| 日本在线视频免费播放| 999久久久精品免费观看国产| 国产成年人精品一区二区| 国产精品嫩草影院av在线观看 | av在线观看视频网站免费| 国内揄拍国产精品人妻在线| 亚洲熟妇中文字幕五十中出| 精品一区二区三区视频在线| 成人一区二区视频在线观看| 午夜福利在线在线| 免费搜索国产男女视频| 国产精品伦人一区二区| 久久99热6这里只有精品| 免费黄网站久久成人精品| 亚洲va日本ⅴa欧美va伊人久久| 亚洲精品成人久久久久久| 丝袜美腿在线中文| 日韩大尺度精品在线看网址| 日本五十路高清| 一夜夜www| 中文字幕免费在线视频6| 国产高清不卡午夜福利| 久久久久久国产a免费观看| 欧美色欧美亚洲另类二区| 国产成人一区二区在线| 男人舔女人下体高潮全视频| 久久九九热精品免费| 国产探花在线观看一区二区| 亚洲精品日韩av片在线观看| 男插女下体视频免费在线播放| 精品久久久久久久久久免费视频| 欧美又色又爽又黄视频| 我要搜黄色片| 成人美女网站在线观看视频| 神马国产精品三级电影在线观看| 色播亚洲综合网| 精品久久久久久久久久久久久| 亚洲第一区二区三区不卡| АⅤ资源中文在线天堂| 老司机午夜福利在线观看视频| 成年版毛片免费区| 国产精品人妻久久久影院| 国产成人aa在线观看| 尾随美女入室| 精品乱码久久久久久99久播| 欧美色欧美亚洲另类二区| 看免费成人av毛片| 长腿黑丝高跟| 99热这里只有是精品在线观看| 免费看光身美女| 久久久成人免费电影| 国产精品嫩草影院av在线观看 | 亚州av有码| 国产成人aa在线观看| 国产伦在线观看视频一区| 午夜a级毛片| 男插女下体视频免费在线播放| 可以在线观看毛片的网站| 欧美又色又爽又黄视频| 国产精品av视频在线免费观看| 黄色女人牲交| 国产欧美日韩精品亚洲av| 久久天躁狠狠躁夜夜2o2o| 精品一区二区三区av网在线观看| 国产 一区精品| 毛片一级片免费看久久久久 | 日本 av在线| 成人毛片a级毛片在线播放| 国产国拍精品亚洲av在线观看| 国内精品久久久久久久电影| 一级黄色大片毛片| 俄罗斯特黄特色一大片| 国内久久婷婷六月综合欲色啪| 亚洲国产高清在线一区二区三| 欧美一区二区国产精品久久精品| 一卡2卡三卡四卡精品乱码亚洲| 夜夜看夜夜爽夜夜摸| 欧美性猛交黑人性爽| 国产v大片淫在线免费观看| 欧美日韩综合久久久久久 | 中文字幕人妻熟人妻熟丝袜美| 亚洲电影在线观看av| 久久久久久国产a免费观看| 给我免费播放毛片高清在线观看| 成人鲁丝片一二三区免费| 老师上课跳d突然被开到最大视频| av福利片在线观看| a级毛片免费高清观看在线播放| 很黄的视频免费| 真实男女啪啪啪动态图| 日韩在线高清观看一区二区三区 | 成年女人永久免费观看视频| 亚洲国产精品久久男人天堂| ponron亚洲| 日日干狠狠操夜夜爽| 天堂影院成人在线观看| 无遮挡黄片免费观看| 久久6这里有精品| x7x7x7水蜜桃| 亚洲三级黄色毛片| 少妇高潮的动态图| 黄色女人牲交| 日韩 亚洲 欧美在线| 亚洲最大成人中文| 精品久久国产蜜桃| 99久久成人亚洲精品观看| 日本免费一区二区三区高清不卡| 岛国在线免费视频观看| 久久久久久久久中文| 久久精品国产自在天天线| 99在线视频只有这里精品首页| 成人永久免费在线观看视频| www.色视频.com| 可以在线观看的亚洲视频| 黄色配什么色好看| a级毛片a级免费在线| 国产精品久久电影中文字幕| 人人妻,人人澡人人爽秒播| 夜夜爽天天搞| 美女被艹到高潮喷水动态| 午夜福利欧美成人| 国产日本99.免费观看| 成年版毛片免费区| 丰满乱子伦码专区| 国产在视频线在精品| 国产三级中文精品| 免费观看的影片在线观看| 中国美白少妇内射xxxbb| 黄色女人牲交| 老司机午夜福利在线观看视频| 欧美日韩黄片免| 日本免费a在线| 亚洲在线观看片| 亚洲精品日韩av片在线观看| 中文字幕精品亚洲无线码一区| 国产精品一区二区三区四区免费观看 | 成人特级黄色片久久久久久久| 国产精品精品国产色婷婷| av黄色大香蕉| 3wmmmm亚洲av在线观看| 国产美女午夜福利| 久久精品91蜜桃| 超碰av人人做人人爽久久| 99热这里只有是精品50| 亚洲成人中文字幕在线播放| 一级黄片播放器| 精品不卡国产一区二区三区| 一区二区三区四区激情视频 | 中文在线观看免费www的网站| av在线观看视频网站免费| 春色校园在线视频观看| 成人欧美大片| 网址你懂的国产日韩在线| 国产三级在线视频| 精品久久久久久久久av| 国产麻豆成人av免费视频| 中文字幕高清在线视频| 嫩草影视91久久| 国产精品精品国产色婷婷| 性欧美人与动物交配| 白带黄色成豆腐渣| 精品人妻视频免费看| 天堂√8在线中文| 99在线视频只有这里精品首页| 美女被艹到高潮喷水动态| 欧美+亚洲+日韩+国产| or卡值多少钱| 国产中年淑女户外野战色| 麻豆一二三区av精品| av天堂在线播放| 69人妻影院| 国产久久久一区二区三区| 国产高清不卡午夜福利| 亚洲18禁久久av| 一进一出抽搐动态| 欧美日本视频| 18禁黄网站禁片免费观看直播| 天天躁日日操中文字幕| 成人欧美大片| 国产亚洲91精品色在线| 校园春色视频在线观看| av天堂在线播放| 亚洲av免费高清在线观看| 欧美激情久久久久久爽电影| 一个人免费在线观看电影| 联通29元200g的流量卡| 国产精品国产三级国产av玫瑰| 男人狂女人下面高潮的视频| av天堂在线播放| 精品一区二区三区视频在线| 日本-黄色视频高清免费观看| 亚洲七黄色美女视频| 波多野结衣巨乳人妻| 丰满人妻一区二区三区视频av| 老司机福利观看| 又粗又爽又猛毛片免费看| 18禁裸乳无遮挡免费网站照片| 伊人久久精品亚洲午夜| 亚洲av一区综合| 欧美最黄视频在线播放免费| 欧美黑人欧美精品刺激| 乱码一卡2卡4卡精品| 精华霜和精华液先用哪个| 美女 人体艺术 gogo| 永久网站在线| 免费大片18禁| 亚洲人成网站在线播| 日韩一区二区视频免费看| 日韩一本色道免费dvd| 3wmmmm亚洲av在线观看| 亚洲欧美清纯卡通| 窝窝影院91人妻| 午夜影院日韩av| 亚洲精华国产精华精| 啦啦啦观看免费观看视频高清| 哪里可以看免费的av片| 色视频www国产| 国产精品98久久久久久宅男小说| 亚洲自偷自拍三级| aaaaa片日本免费| 欧美激情久久久久久爽电影| 99热只有精品国产| 午夜精品久久久久久毛片777| 欧美+日韩+精品| 99久久中文字幕三级久久日本| 成年人黄色毛片网站| 精品久久久久久久人妻蜜臀av| 人人妻人人澡欧美一区二区| 毛片一级片免费看久久久久 | 中文字幕久久专区| 色在线成人网| 男女视频在线观看网站免费| 精品国内亚洲2022精品成人| 国产男靠女视频免费网站| 69人妻影院| 久久久久久久亚洲中文字幕| 国产高清视频在线播放一区| 欧美日韩中文字幕国产精品一区二区三区| 女人被狂操c到高潮| 中文亚洲av片在线观看爽| 国产精品自产拍在线观看55亚洲| 午夜福利成人在线免费观看| 免费观看在线日韩| 极品教师在线免费播放| 日韩欧美国产在线观看| av国产免费在线观看| 51国产日韩欧美| 日韩欧美 国产精品| 日本欧美国产在线视频| 人妻夜夜爽99麻豆av| 国产精华一区二区三区| 成年女人看的毛片在线观看| 男插女下体视频免费在线播放| av福利片在线观看| www.www免费av| 免费av不卡在线播放| 亚洲黑人精品在线| 国产白丝娇喘喷水9色精品| 日日干狠狠操夜夜爽| 国产免费男女视频| 最近中文字幕高清免费大全6 | 天堂动漫精品| 国产色婷婷99| 国产一区二区激情短视频| 99热这里只有是精品50| 久久人人爽人人爽人人片va| 精品久久久久久久久久免费视频| 亚州av有码| 久久国产精品人妻蜜桃| 亚洲熟妇中文字幕五十中出| 成人欧美大片| 日韩强制内射视频| 尾随美女入室| 亚洲七黄色美女视频| 国产探花极品一区二区| 欧美激情在线99| 搞女人的毛片| 日韩av在线大香蕉| 一级黄色大片毛片| 毛片女人毛片| 麻豆久久精品国产亚洲av| 1024手机看黄色片| 中文字幕av成人在线电影| 熟女人妻精品中文字幕| 成人毛片a级毛片在线播放| 午夜精品久久久久久毛片777| 我的老师免费观看完整版| 精品欧美国产一区二区三| 在线观看66精品国产| 中亚洲国语对白在线视频| 黄色日韩在线| 男人的好看免费观看在线视频| 在线天堂最新版资源| 高清毛片免费观看视频网站| 精品不卡国产一区二区三区| 亚洲av第一区精品v没综合| 国产伦精品一区二区三区四那| 变态另类丝袜制服| 欧美国产日韩亚洲一区| 久久久午夜欧美精品| 中文字幕精品亚洲无线码一区| 神马国产精品三级电影在线观看| 美女cb高潮喷水在线观看| 天天一区二区日本电影三级| 亚洲内射少妇av| 亚洲avbb在线观看| 亚洲精品在线观看二区| 给我免费播放毛片高清在线观看| 日本熟妇午夜| 亚洲精品粉嫩美女一区| 午夜福利成人在线免费观看| 91午夜精品亚洲一区二区三区 | 麻豆成人av在线观看| 我要看日韩黄色一级片| 亚洲在线观看片| 国产高清激情床上av| 非洲黑人性xxxx精品又粗又长| 国产熟女欧美一区二区| 校园人妻丝袜中文字幕| 国产v大片淫在线免费观看| 在线观看66精品国产| a级毛片a级免费在线| 真实男女啪啪啪动态图| 一a级毛片在线观看| 亚洲人成伊人成综合网2020| 亚洲成人免费电影在线观看| 日韩av在线大香蕉| 欧美绝顶高潮抽搐喷水| 国产一区二区激情短视频| 级片在线观看| 少妇的逼好多水| 少妇的逼水好多| 深爱激情五月婷婷| 网址你懂的国产日韩在线| 午夜老司机福利剧场| 亚洲第一区二区三区不卡| 亚洲国产色片| 亚洲精品在线观看二区| 中出人妻视频一区二区| www.色视频.com| 亚洲av成人精品一区久久| 有码 亚洲区| 亚洲精华国产精华液的使用体验 | 国产男人的电影天堂91| 亚洲午夜理论影院| av视频在线观看入口| 黄色日韩在线| 1024手机看黄色片| 亚洲精品一区av在线观看| 国产精品久久久久久久久免| 国产精品久久久久久精品电影| 观看免费一级毛片| 成年女人永久免费观看视频| 内射极品少妇av片p| 久久亚洲真实| 不卡一级毛片| 亚洲成a人片在线一区二区| www日本黄色视频网| 国产久久久一区二区三区| 99热只有精品国产| 色综合婷婷激情| 国产伦人伦偷精品视频| 国产精品1区2区在线观看.| 高清毛片免费观看视频网站| 男女啪啪激烈高潮av片| 国产精品久久久久久久久免| 色吧在线观看| 看片在线看免费视频| 俄罗斯特黄特色一大片| 亚洲午夜理论影院| 丰满乱子伦码专区| 免费人成在线观看视频色| 色吧在线观看| 亚洲人成网站在线播| 国产 一区精品| 久久精品国产亚洲av天美| 欧美黑人欧美精品刺激| 亚洲国产日韩欧美精品在线观看| 欧美激情在线99| 成人特级黄色片久久久久久久| 精品人妻熟女av久视频| 五月伊人婷婷丁香| 亚洲天堂国产精品一区在线| 亚洲av日韩精品久久久久久密| 精品不卡国产一区二区三区| 天堂动漫精品| 日日摸夜夜添夜夜添av毛片 | 亚洲电影在线观看av| bbb黄色大片| 亚洲精品日韩av片在线观看| 老女人水多毛片| 波多野结衣高清作品| av在线老鸭窝| 国产高清视频在线观看网站| 韩国av一区二区三区四区| 女人十人毛片免费观看3o分钟| 国产视频一区二区在线看| 在线免费十八禁| 亚洲美女黄片视频| 久久精品国产鲁丝片午夜精品 | 日韩,欧美,国产一区二区三区 | 日韩精品青青久久久久久| 欧美中文日本在线观看视频| 免费电影在线观看免费观看| 久久久久久久久中文| 日韩av在线大香蕉| 国产女主播在线喷水免费视频网站 | 亚洲成a人片在线一区二区| 成人国产麻豆网| 黄色欧美视频在线观看| 国产伦人伦偷精品视频| 免费观看在线日韩| 国产69精品久久久久777片| 99久久精品热视频| 午夜视频国产福利| 一个人观看的视频www高清免费观看| 不卡一级毛片| 欧美中文日本在线观看视频| 在线免费观看的www视频| 亚洲精华国产精华液的使用体验 | 制服丝袜大香蕉在线| 九九在线视频观看精品| 麻豆精品久久久久久蜜桃| 搡女人真爽免费视频火全软件 | 亚洲最大成人中文| 久久久色成人| 搡老岳熟女国产| 精品久久久久久久久久免费视频| 我要搜黄色片| 国产午夜福利久久久久久| 色视频www国产| 亚洲综合色惰| 欧美日本视频| 一本久久中文字幕| 亚洲美女黄片视频| 亚洲人成网站高清观看| 观看美女的网站| 亚洲成人免费电影在线观看| 夜夜夜夜夜久久久久| 久久久久久伊人网av| 少妇的逼水好多| 嫩草影院入口| 久久欧美精品欧美久久欧美| 亚洲不卡免费看| 九色成人免费人妻av| 久久久久国产精品人妻aⅴ院| 久久久色成人| www日本黄色视频网| 啦啦啦观看免费观看视频高清| 搡老妇女老女人老熟妇| 亚洲第一区二区三区不卡| 亚洲一区高清亚洲精品| 日本精品一区二区三区蜜桃| 熟妇人妻久久中文字幕3abv| 久久久色成人| 久久精品国产自在天天线| 窝窝影院91人妻| 免费人成视频x8x8入口观看| 中文字幕av成人在线电影| 九九爱精品视频在线观看| 国产一区二区亚洲精品在线观看| 黄色日韩在线| 日本撒尿小便嘘嘘汇集6| 99久久中文字幕三级久久日本| 中文资源天堂在线| 一本久久中文字幕| 亚洲国产精品sss在线观看| 黄色欧美视频在线观看| 亚洲av熟女| 日本免费一区二区三区高清不卡| 欧洲精品卡2卡3卡4卡5卡区| 亚洲精品国产成人久久av| 欧美最新免费一区二区三区| 国内精品久久久久久久电影| 99久久中文字幕三级久久日本| 国产成人一区二区在线| 精品欧美国产一区二区三| 黄片wwwwww| 国产在线男女| a在线观看视频网站| 精品久久久久久,| 久久久精品大字幕| av视频在线观看入口| 在线观看av片永久免费下载| 亚洲精品乱码久久久v下载方式| 国产精品爽爽va在线观看网站| 99视频精品全部免费 在线| 国产视频内射| 国产精品人妻久久久影院| 亚洲国产精品合色在线| 国产美女午夜福利| 日日撸夜夜添| 日韩国内少妇激情av| 国产欧美日韩一区二区精品| 国产主播在线观看一区二区| 成人欧美大片| 在线观看午夜福利视频| 国产真实伦视频高清在线观看 | 一夜夜www| 国产爱豆传媒在线观看| 高清在线国产一区| 在线观看美女被高潮喷水网站| 麻豆久久精品国产亚洲av| 免费黄网站久久成人精品| 亚洲狠狠婷婷综合久久图片| 亚洲国产高清在线一区二区三| 亚洲欧美精品综合久久99| 琪琪午夜伦伦电影理论片6080| 精品不卡国产一区二区三区| 成人二区视频| 有码 亚洲区| 小说图片视频综合网站| 男人狂女人下面高潮的视频| 国产精品三级大全| 日本成人三级电影网站| 欧美3d第一页| 国产一区二区激情短视频| 在线观看免费视频日本深夜| 91精品国产九色| 亚洲av日韩精品久久久久久密| 亚洲中文字幕日韩| 欧美极品一区二区三区四区| 中文字幕熟女人妻在线| 永久网站在线| 国产久久久一区二区三区| 免费大片18禁| 精品人妻偷拍中文字幕| 观看免费一级毛片| 99国产精品一区二区蜜桃av| 午夜福利在线在线| 日韩大尺度精品在线看网址| 国产精品久久视频播放| 久久国产乱子免费精品| 中文字幕av在线有码专区| 亚洲最大成人手机在线| 久久精品久久久久久噜噜老黄 | 88av欧美| 免费无遮挡裸体视频|