• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于多維度匹配的知識(shí)庫(kù)問(wèn)答實(shí)體鏈接

    2021-07-03 03:51:36張森張攀
    現(xiàn)代計(jì)算機(jī) 2021年12期
    關(guān)鍵詞:知識(shí)庫(kù)實(shí)體顯著性

    張森,張攀

    (1.四川大學(xué)計(jì)算機(jī)學(xué)院,成都610065;2.四川大學(xué)視覺合成圖形圖像技術(shù)國(guó)家級(jí)重點(diǎn)實(shí)驗(yàn)室,成都610065)

    0 引言

    近年來(lái),隨著知識(shí)圖譜(Knowledge Graph,KG)技術(shù)的不斷發(fā)展,其易擴(kuò)展、表達(dá)友好等特性越來(lái)越被認(rèn)可。KG 常見的知識(shí)組織形式有RDF(Resource Description Framework)、RDFS(Resource Description Framework Schema)和OWL(Web Ontology Language)。不同的知識(shí)組織形式也催生出了不同的KG,其中常見的有Freebase[1]、WikiData[2]、DBpedia[3]和YAGO[4]等。KG 作為一個(gè)知識(shí)庫(kù)被廣泛的應(yīng)用在需要先驗(yàn)知識(shí)的智能系統(tǒng)之中,例如:用戶興趣推薦系統(tǒng)、精準(zhǔn)搜索和問(wèn)答系統(tǒng)。其中問(wèn)答系統(tǒng)就是利用自然語(yǔ)言處理技術(shù)對(duì)問(wèn)句進(jìn)行語(yǔ)義與語(yǔ)法分析,理解用戶問(wèn)句中表達(dá)的含義,隨后結(jié)合知識(shí)庫(kù)搜索出用戶想要的答案。

    常見的KG 大多以RDF 三元組的形式表示知識(shí),三元組通??梢员硎緸槿缦滦问剑海糴h,r,et>其中eh代表頭實(shí)體,r表示實(shí)體之間的關(guān)系,et代表尾實(shí)體。而基于知識(shí)庫(kù)問(wèn)答系統(tǒng)的工作原理為首先分析確定問(wèn)句中的eh和r,然后利用正確的eh和r到知識(shí)庫(kù)中查詢到對(duì)應(yīng)的et。在自然語(yǔ)言式的問(wèn)句中得到eh的過(guò)程稱之為實(shí)體對(duì)齊,解析出r的過(guò)程稱之為關(guān)系檢測(cè)或者關(guān)系抽取。

    實(shí)體對(duì)齊主要分為兩部分:命名實(shí)體識(shí)別(Named Entity Recognition,NER)和實(shí)體鏈接(Entity Linking)。命名實(shí)體識(shí)別主要將問(wèn)句中的實(shí)體名(通常包含人名、地名、機(jī)構(gòu)名等)標(biāo)注出來(lái)。通常短文本的NER 效果很好,因此實(shí)體對(duì)齊重點(diǎn)往往聚焦于實(shí)體鏈接部分。

    在KG 中可能存在多個(gè)實(shí)體名字相同或者相似的情況,但是每個(gè)實(shí)體有唯一的ID 進(jìn)行辨識(shí)。其中實(shí)體名相似或相同的實(shí)體集合稱之為實(shí)體候選集,而實(shí)體鏈接就是從實(shí)體候選集中選出正確的實(shí)體。

    1 相關(guān)工作

    實(shí)體鏈接本質(zhì)上是一個(gè)實(shí)體消歧的過(guò)程,實(shí)體消歧根據(jù)不同類型的數(shù)據(jù)有不同的消歧的手段。在面向單條短問(wèn)句的實(shí)體消歧過(guò)程中,常見的方法主要有兩種:基于實(shí)體顯著性和基于實(shí)體上下文相似度[5]。實(shí)體顯著性描述的是實(shí)體固有的屬性,通過(guò)對(duì)實(shí)體顯著性的統(tǒng)計(jì)從候選集篩選出顯著性最高的實(shí)體從而完成消歧的過(guò)程。通常實(shí)體顯著性的各種指標(biāo)均為手工定義的規(guī)則或范式,因此不具有泛化性,并且顯著性特征定義的好壞會(huì)直接影響實(shí)體消歧的結(jié)果。相比顯著性統(tǒng)計(jì),上下文相似度的方法具有了更大的靈活性并且考慮到了實(shí)體語(yǔ)義層面的含義。常見的上下文相似度方法有:分類法[6]、聚類法[7]、主題法[8]、概率語(yǔ)言模型法[9]。隨著深度學(xué)習(xí)的興起,上下文相似度出現(xiàn)了新的度量方式[10-15],通常該類方法將文本嵌入到一個(gè)低維的分布式向量空間,運(yùn)用不同的網(wǎng)絡(luò)模型提取語(yǔ)義特征,根據(jù)語(yǔ)義相似度最終完成實(shí)體消歧。

    雖然實(shí)體鏈接方法眾多,但是針對(duì)簡(jiǎn)單問(wèn)句的實(shí)體鏈接仍然具有很大的挑戰(zhàn)性,其主要的困難主要包含以下幾點(diǎn):

    (1)簡(jiǎn)單問(wèn)句中實(shí)體名稱不規(guī)范,可能出現(xiàn)縮寫、別名以及拼寫錯(cuò)誤等情況;

    (2)簡(jiǎn)單問(wèn)句上下文不豐富,對(duì)實(shí)體消歧起到的作用微小甚至無(wú)用;

    (3)知識(shí)庫(kù)中實(shí)體的描述信息不充分甚至缺乏,導(dǎo)致比對(duì)候選實(shí)體上下文相似度無(wú)法進(jìn)行。

    針對(duì)上述問(wèn)題,本文提出了一種多維度匹配方法。該方法是實(shí)體顯著性與深度學(xué)習(xí)的組合。其中,文本維度匹配較大程度保證實(shí)體名不規(guī)范等情況;統(tǒng)計(jì)維度匹配能在不需要問(wèn)句上下文的情況下完成實(shí)體鏈接;最后實(shí)體屬性匹配利用實(shí)體屬性信息進(jìn)一步修正實(shí)體鏈接結(jié)果。該方法在合適的組合方式下能達(dá)到較高的實(shí)體鏈接準(zhǔn)確度。

    2 本文方法

    實(shí)體對(duì)齊分為命名實(shí)體識(shí)別與實(shí)體鏈接兩個(gè)過(guò)程。命名實(shí)體識(shí)別在簡(jiǎn)短式的問(wèn)句中通常表現(xiàn)很好,本文主要聚焦于實(shí)體鏈接這個(gè)過(guò)程。

    2.1 多維度匹配的總體設(shè)計(jì)

    實(shí)體鏈接主要從文本匹配、統(tǒng)計(jì)匹配和實(shí)體屬性匹配這三個(gè)維度展開,其過(guò)程如圖1 所示。

    圖1 多維度匹配總設(shè)計(jì)

    其中文本維度匹配主要功能是產(chǎn)生一個(gè)合理大小的實(shí)體候選集c1,統(tǒng)計(jì)維度匹配利用實(shí)體的一些顯著性指標(biāo)(例如:實(shí)體熱度)完成候選集重排序,得到新的候選集c2。實(shí)體屬性匹配利用實(shí)體屬性(例如:實(shí)體關(guān)系、實(shí)體類型)進(jìn)一步修正實(shí)體候選集的排序,得到最終候選集c3。

    2.2 文本維度匹配

    問(wèn)句中實(shí)體名稱由命名實(shí)體識(shí)別得到,要將其鏈接到知識(shí)庫(kù)中一個(gè)正確的實(shí)體上,首先應(yīng)該進(jìn)行文本維度匹配篩選出實(shí)體候選集。實(shí)體名稱的文本相似度可以采用編輯距離來(lái)衡量。編輯距離是指將字符串a(chǎn)轉(zhuǎn)化為字符串b 最小操作次數(shù)。其遞推過(guò)程如式(1)所示。

    其中LDa,b(i,j)表示字符串a(chǎn) 的前i 個(gè)字符子串轉(zhuǎn)化到字符串b 前j 個(gè)字符子串所需的最少操作次數(shù)。得到編輯距離LDa,b后,再根據(jù)字符串a(chǎn),b 的長(zhǎng)度La與Lb,即可通過(guò)式(2)計(jì)算出相似度Ra,b。

    不難看出,實(shí)體候選集為了盡可能地覆蓋到正確答案就必須采用較小的相似度R,但是過(guò)小的R可能導(dǎo)致實(shí)體候選集過(guò)大同樣也會(huì)影響實(shí)體鏈接的最終效果。通常R≥0.8 表示有微小的拼寫錯(cuò)誤,而R<0.8 則表明實(shí)體名拼寫完全錯(cuò)誤不予識(shí)別。

    由于實(shí)體名拼寫是否規(guī)范,通常與實(shí)體名本身復(fù)雜程度有關(guān),針對(duì)簡(jiǎn)單且易于拼寫的實(shí)體名而言,如果固定的閾值R太小,導(dǎo)致實(shí)體候選集過(guò)大,相反,復(fù)雜不易拼寫的實(shí)體名,如果R太大,則實(shí)體候選集過(guò)小??梢?,固定R很難獲得一個(gè)合理大小的候選集,從而間接影響最終實(shí)體鏈接效果。因此,本文采用一種多級(jí)閾值的方法生成實(shí)體候選集。即設(shè)置一組從大到小的閾值依次進(jìn)行匹配,其中本文設(shè)置三級(jí)閾值分別為:精確匹配閾值(R=1.0);較精確匹配閾值(R≥0.9);一般匹配閾值(R≥0.8)。其中下一級(jí)閾值只在上一級(jí)閾值沒有匹配到實(shí)體的情況下生效。

    2.3 統(tǒng)計(jì)維度匹配

    文本維度匹配生成實(shí)體候選集,在統(tǒng)計(jì)維度匹配中利用實(shí)體顯著性特征對(duì)進(jìn)行實(shí)體候選集進(jìn)行重排序。其中統(tǒng)計(jì)維度匹配主要是統(tǒng)計(jì)實(shí)體熱度,然后根據(jù)熱度對(duì)初始候選集進(jìn)行重排序。

    在Freebase 知識(shí)庫(kù)中,每條知識(shí)按照三元組(<eh,r,et>)方式組織。因此,實(shí)體熱度大小用該實(shí)體在知識(shí)庫(kù)中r的數(shù)量表示,r的數(shù)量越多熱度越高。反之越低。其中實(shí)體作為eh出現(xiàn),那么所有r的數(shù)量總和稱為出度。實(shí)體作為et出現(xiàn),那么所有r的數(shù)量總和稱為入度。通常出、入度之和代表實(shí)體熱度。但是本文只用出度代表實(shí)體熱度。其第i 個(gè)實(shí)體熱度得分scoreh(i)由熱度值hoti歸一化得到,其計(jì)算方式如式(3)所示:

    其中maxi、mini為最大與最小熱度值,ε參數(shù)為防止下溢,本文取0.001。

    2.4 實(shí)體屬性維度匹配

    在統(tǒng)計(jì)維度匹配后,可以根據(jù)實(shí)體排名先后選出top-1 或者top-k 的實(shí)體作為最終鏈接結(jié)果。但是實(shí)體熱度高不一定是鏈接的目標(biāo)實(shí)體,因此為進(jìn)一步提高鏈接準(zhǔn)確度,再利用關(guān)系屬性對(duì)實(shí)體候選集進(jìn)行新一輪排序。

    在Freebase 知識(shí)庫(kù)中實(shí)體一般包含多種關(guān)系,不同實(shí)體由于類型不同包含的關(guān)系也不同。例如針對(duì)于“蘋果”這一詞,在知識(shí)庫(kù)中與之對(duì)應(yīng)的可能是水果也可能是公司,但是對(duì)于問(wèn)句“蘋果現(xiàn)在的市值是多少?”可以得到其實(shí)體為“蘋果”,預(yù)測(cè)的關(guān)系為“股票總市值”,而水果類型的蘋果肯定不包含“股票總市值”這一關(guān)系,因此通過(guò)實(shí)體關(guān)系是可以達(dá)到區(qū)分實(shí)體的目的。

    實(shí)體類型預(yù)測(cè)作為一種分類任務(wù),其采用整個(gè)問(wèn)句作為預(yù)測(cè)上下文,即從問(wèn)句完成到實(shí)體關(guān)系的一個(gè)分類過(guò)程。為了達(dá)到更好的預(yù)測(cè)效果,本文提出了一種基于Transformer[16]的關(guān)系預(yù)測(cè)模型。其模型架構(gòu)如圖2 所示。該模型為一個(gè)典型的編碼器(Encoder)-解碼器(Decoder)結(jié)構(gòu),其左邊為編碼器部分,右邊為解碼器部分。

    圖2 Transformer關(guān)系預(yù)測(cè)模型

    該模型的編碼器部分主要由兩部分組成,第一部分為輸入預(yù)處理部分,完成對(duì)問(wèn)句的詞嵌入(Questions Word Embedding)與位置編碼(Positional Encoding)任務(wù)。第二部分為問(wèn)句編碼部分,主要有三個(gè)模塊:多頭注意力(Multi-Head Attention)模塊;層歸一化(Norm)模塊;全連接前饋神經(jīng)網(wǎng)絡(luò)模塊(Feed Forward)。此外,每進(jìn)行一次多頭注意力或全連接前饋神經(jīng)網(wǎng)絡(luò)模塊都會(huì)進(jìn)行一次殘差連接。

    解碼器部分與編碼器類似,主要包括三個(gè)部分。第一個(gè)部分為輸入預(yù)處理,該輸入是針對(duì)實(shí)體類型進(jìn)行的,其中實(shí)體類型的詞嵌入(Entity Types Word Em?bedding)與編碼器中問(wèn)句的詞嵌入共享參數(shù)。第二部分解碼部分,解碼器進(jìn)行了兩次多頭注意力模塊的計(jì)算,第一次多頭注意力機(jī)制是對(duì)實(shí)體類型進(jìn)行的,第二次多頭注意力機(jī)制是對(duì)問(wèn)句與實(shí)體類型共同進(jìn)行的。最后為輸出預(yù)測(cè)部分,通過(guò)一個(gè)單向的GRU 得到一個(gè)全局的語(yǔ)義表示,該層是為了進(jìn)一步提升語(yǔ)義抽取與位置信息表達(dá)的能力,最后通過(guò)一個(gè)線性映射和Soft?max 層輸出某種實(shí)體關(guān)系。

    由于關(guān)系預(yù)測(cè)總會(huì)存在錯(cuò)誤,因此本文額外選取了top3 實(shí)體預(yù)測(cè)關(guān)系進(jìn)行候選集匹配,其第i個(gè)實(shí)體得分scorer(i)計(jì)算如式(4)-(5)所示。

    其中α為權(quán)重參數(shù),rx表示第x個(gè)預(yù)測(cè)關(guān)系,vx則為對(duì)應(yīng)關(guān)系權(quán)重,Ri為第i個(gè)實(shí)體所有關(guān)系集合。

    3 實(shí)驗(yàn)

    本節(jié)主要驗(yàn)證本文提出的多維度匹配方法在實(shí)體鏈接中的有效性,以及多維度相比單維度的提升效果。因此,實(shí)驗(yàn)主要包含統(tǒng)計(jì)維度匹配實(shí)驗(yàn),以及實(shí)體屬性匹配中的關(guān)系預(yù)測(cè)實(shí)驗(yàn)。

    3.1 實(shí)驗(yàn)數(shù)據(jù)

    本文實(shí)驗(yàn)選取的數(shù)據(jù)集為SimpleQuestions[17],它是一個(gè)基于Freebase 知識(shí)庫(kù)的問(wèn)答數(shù)據(jù)集,其訓(xùn)練集與測(cè)試集樣本數(shù)分別為75910、21687 條,其樣本如表1所示。

    表1 原始數(shù)據(jù)集

    Freebase 在2016 年停止運(yùn)維,因此本實(shí)驗(yàn)采用Freebase 的子集FB2M[17]作為知識(shí)庫(kù),由于原始的Sim?pleQuestions 數(shù)據(jù)集某些樣本的實(shí)體無(wú)法識(shí)別以及無(wú)法在FB2M 中查詢到,因此經(jīng)過(guò)整理后其數(shù)據(jù)信息如表2 所示。

    表2 數(shù)據(jù)信息

    此外,由于SimpleQuestions 數(shù)據(jù)集只包含真實(shí)的實(shí)體ID,沒有對(duì)應(yīng)的實(shí)體候選集,因此需要根據(jù)實(shí)體ID 在FB2M 中查詢出該實(shí)體名稱,利用文本維度匹配方法,即在知識(shí)庫(kù)中篩選出所有與該實(shí)體名稱相似的所有實(shí)體ID,生成初始的實(shí)體候選集。其數(shù)據(jù)如表3所示。

    表3 實(shí)體鏈接數(shù)據(jù)集

    3.2 統(tǒng)計(jì)維度匹配實(shí)驗(yàn)

    (1)實(shí)驗(yàn)設(shè)計(jì)

    首先文本維度匹配生成對(duì)應(yīng)的實(shí)體候選集,在統(tǒng)計(jì)維度匹配中,統(tǒng)計(jì)出實(shí)體熱度,然后根據(jù)式(3)算出scoreh,利用scoreh大小對(duì)候選集重排序,最后選出得分最高的實(shí)體作為最終鏈接結(jié)果,其中評(píng)價(jià)標(biāo)準(zhǔn)采用準(zhǔn)確率(Accuracy,ACC)。

    (2)實(shí)驗(yàn)結(jié)果與分析

    實(shí)體熱度采用入度、出度、入度+出度分別進(jìn)行實(shí)驗(yàn),其實(shí)驗(yàn)結(jié)果如表4 所示。

    表4 統(tǒng)計(jì)維度匹配結(jié)果

    從實(shí)驗(yàn)結(jié)果可以得知,采用出度+入度的方式能達(dá)到最佳效果,但是三種衡量實(shí)體熱度的實(shí)驗(yàn)結(jié)果差異不大,尤其是在只用出度表示實(shí)體熱度時(shí)。因此,只用出度代表實(shí)體熱度時(shí),不僅不會(huì)造成準(zhǔn)確度大幅下降,而且還能很大程度減少統(tǒng)計(jì)時(shí)間,尤其是在知識(shí)庫(kù)體量很大時(shí),效果提升明顯。為此,本文額外采用了一個(gè)Freebase 的子集FB5M[17]作為對(duì)比,它包含比FB2M 更多的實(shí)體與關(guān)系,并在測(cè)試集下進(jìn)行時(shí)間統(tǒng)計(jì)測(cè)試,其結(jié)果如表5 所示。

    表5 統(tǒng)計(jì)耗時(shí)對(duì)比

    3.3 實(shí)體屬性匹配實(shí)驗(yàn)

    該實(shí)驗(yàn)分為兩部分,首先利用基于圖2 所示的關(guān)系預(yù)測(cè)模型對(duì)實(shí)體關(guān)系進(jìn)行預(yù)測(cè),其次利用預(yù)測(cè)關(guān)系對(duì)候選集進(jìn)行匹配,最終得到實(shí)體鏈接結(jié)果。

    (1)關(guān)系預(yù)測(cè)實(shí)驗(yàn)設(shè)計(jì)

    關(guān)系預(yù)測(cè)即利用問(wèn)句與實(shí)體類型預(yù)測(cè)出對(duì)應(yīng)的問(wèn)句中包含的關(guān)系。此外,為了緩解關(guān)系預(yù)測(cè)錯(cuò)誤帶來(lái)的影響,本實(shí)驗(yàn)同時(shí)預(yù)測(cè)出top-1 與top-3 的實(shí)體關(guān)系,其中衡量指標(biāo)仍采用ACC,最后為了驗(yàn)證模型有效性,實(shí)驗(yàn)同時(shí)還構(gòu)建了BiLSTM[18]、BiGRU[19]、Transformer共3 種關(guān)系預(yù)測(cè)模型作為對(duì)比研究。

    (2)關(guān)系預(yù)測(cè)實(shí)驗(yàn)結(jié)果與分析

    關(guān)系預(yù)測(cè)實(shí)驗(yàn)采用GloVe 作為預(yù)訓(xùn)練詞向量,優(yōu)化器采用Adam,同時(shí)為了防止過(guò)擬合引入了Dropout,其模型主要配置參數(shù)如表6 所示。

    表6 Transformer 關(guān)系預(yù)測(cè)模型主要參數(shù)

    關(guān)系預(yù)測(cè)模型實(shí)驗(yàn)結(jié)果如表7 所示。

    表7 關(guān)系預(yù)測(cè)結(jié)果

    通過(guò)表6 可知,基于Transformer 的關(guān)系預(yù)測(cè)模型無(wú)論是在top-1 還是top-3 上都表現(xiàn)更好。其次相比于top-1,top-3 能明顯提高正確關(guān)系的覆蓋率。

    (3)關(guān)系匹配實(shí)驗(yàn)設(shè)計(jì)

    實(shí)體關(guān)系匹配利用預(yù)測(cè)出的實(shí)體關(guān)系對(duì)實(shí)體候選集進(jìn)行再次重排序。該實(shí)驗(yàn)分別對(duì)第一個(gè)預(yù)測(cè)關(guān)系(top-1 rel)和前3 個(gè)預(yù)測(cè)關(guān)系集合(top-3 rels)進(jìn)行候選集匹配,同時(shí)加入正確的關(guān)系(true rel)進(jìn)行對(duì)照。

    (4)關(guān)系匹配實(shí)驗(yàn)結(jié)果與分析

    該實(shí)驗(yàn)中的top-1 rel 與true rel 方案只包含一個(gè)關(guān)系,因此從實(shí)體候選集選出scoreh值最大,并且包含該關(guān)系的實(shí)體即為最終結(jié)果,而top-3 rels 則是根據(jù)式(4)-(5)計(jì)算出關(guān)系得分scorer,然后將scorer值最大的實(shí)體作為最終結(jié)果。該實(shí)驗(yàn)最終實(shí)體鏈接結(jié)果如表8所示。

    表8 實(shí)體屬性維度匹配結(jié)果

    利用true rel 進(jìn)行實(shí)體候選集匹配,其最終實(shí)體鏈接準(zhǔn)確度能達(dá)到85.64%,相比只用統(tǒng)計(jì)維度實(shí)體鏈接準(zhǔn)確度(76.75%)有了明顯提升,證明實(shí)體關(guān)系能修正實(shí)體鏈接結(jié)果,同時(shí)多維度匹配的有效組合能大幅度提高實(shí)體鏈接準(zhǔn)確度。此外,對(duì)比top1 rel 與top3 rels實(shí)驗(yàn),說(shuō)明選取top3 實(shí)體關(guān)系提升了實(shí)體鏈接效果,其主要原因是緩解了實(shí)體關(guān)系預(yù)測(cè)錯(cuò)誤而造成的錯(cuò)誤累計(jì)問(wèn)題。

    此外本文還對(duì)比了state-of-the-art 方法,其結(jié)果如表9 所示。值得一提的是,本文前面的工作提前對(duì)不能識(shí)別出實(shí)體的樣本做了預(yù)處理,因此為了更加客觀公正地做出對(duì)比,實(shí)驗(yàn)數(shù)據(jù)將不做預(yù)處理(測(cè)試集樣本數(shù)由21334 重新調(diào)整為21687)。

    表9 實(shí)體鏈接方法對(duì)比

    從表9 可知,本文提出的多維度匹配方法更能改善實(shí)體鏈接效果,并且方法中每個(gè)維度的匹配都為最后實(shí)體鏈接起到積極作用。此外,在不做預(yù)處理的情況下本文方法的ACC 下降到84.09%,說(shuō)明預(yù)處理能提升最終實(shí)體鏈接效果,尤其是在噪聲很大的數(shù)據(jù)集上。

    4 結(jié)語(yǔ)

    本文針對(duì)簡(jiǎn)單問(wèn)句因?qū)嶓w名不規(guī)范、缺乏上下文等問(wèn)題,提出了一種多維度匹配的方案。實(shí)驗(yàn)表明文本匹配維度的多級(jí)閾值方法能較大程度上緩解實(shí)體名不規(guī)范問(wèn)題,統(tǒng)計(jì)匹配維度能大幅度提高實(shí)體對(duì)齊效果,實(shí)體屬性匹配維度利用有限的問(wèn)句上下文信息進(jìn)一步修正了實(shí)體對(duì)齊的結(jié)果。最終多個(gè)維度組合能大幅度提高實(shí)體對(duì)齊準(zhǔn)確度。

    其次,為了避免流水線方式帶來(lái)的錯(cuò)誤累計(jì),每個(gè)維度匹配僅進(jìn)行重排序,而維度疊加可以有權(quán)重系數(shù)控制每個(gè)維度重要性,從而到達(dá)最佳的實(shí)體對(duì)齊結(jié)果。其中最為核心的關(guān)系預(yù)測(cè)模塊,采用基于Trans?former 的預(yù)測(cè)模型,實(shí)驗(yàn)表明相比其他關(guān)系預(yù)測(cè)模型該模型擁有更好的語(yǔ)義抽取能力,同時(shí)采取top-3 rels 的手段也能有效緩解關(guān)系預(yù)測(cè)錯(cuò)誤帶來(lái)的影響。

    最后,本文通過(guò)對(duì)實(shí)驗(yàn)結(jié)果的分析發(fā)現(xiàn),一些不能對(duì)齊的實(shí)體大多是由于實(shí)體名拼寫不規(guī)范以及實(shí)體不具有顯著性(實(shí)體熱度、關(guān)系都相同或相近)。因此,針對(duì)于以上問(wèn)題將來(lái)的工作主要是解決實(shí)體名糾錯(cuò),以及引入額外知識(shí)增加實(shí)體顯著性。

    猜你喜歡
    知識(shí)庫(kù)實(shí)體顯著性
    前海自貿(mào)區(qū):金融服務(wù)實(shí)體
    基于TRIZ與知識(shí)庫(kù)的創(chuàng)新模型構(gòu)建及在注塑機(jī)設(shè)計(jì)中的應(yīng)用
    基于顯著性權(quán)重融合的圖像拼接算法
    電子制作(2019年24期)2019-02-23 13:22:26
    基于視覺顯著性的視頻差錯(cuò)掩蓋算法
    實(shí)體的可感部分與實(shí)體——兼論亞里士多德分析實(shí)體的兩種模式
    兩會(huì)進(jìn)行時(shí):緊扣實(shí)體經(jīng)濟(jì)“釘釘子”
    振興實(shí)體經(jīng)濟(jì)地方如何“釘釘子”
    一種基于顯著性邊緣的運(yùn)動(dòng)模糊圖像復(fù)原方法
    論商標(biāo)固有顯著性的認(rèn)定
    高速公路信息系統(tǒng)維護(hù)知識(shí)庫(kù)的建立和應(yīng)用
    老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 久久久精品欧美日韩精品| 久久久精品欧美日韩精品| 制服丝袜大香蕉在线| 中文字幕熟女人妻在线| 日韩欧美免费精品| 天堂动漫精品| 午夜a级毛片| 国产男靠女视频免费网站| 老熟妇仑乱视频hdxx| 欧美一区二区精品小视频在线| av天堂中文字幕网| 一个人看的www免费观看视频| 成人一区二区视频在线观看| 精品人妻一区二区三区麻豆 | 99久久九九国产精品国产免费| 成人欧美大片| 99久久精品一区二区三区| 免费观看精品视频网站| 直男gayav资源| 首页视频小说图片口味搜索| 国产v大片淫在线免费观看| 别揉我奶头 嗯啊视频| 国产在视频线在精品| 欧美精品啪啪一区二区三区| 亚洲成人精品中文字幕电影| 搡老妇女老女人老熟妇| 99久国产av精品| 欧美乱色亚洲激情| 欧美在线黄色| 色精品久久人妻99蜜桃| 国产综合懂色| 变态另类成人亚洲欧美熟女| 草草在线视频免费看| 日日干狠狠操夜夜爽| 国产精品伦人一区二区| 精品福利观看| 一进一出好大好爽视频| 成年人黄色毛片网站| 观看免费一级毛片| 每晚都被弄得嗷嗷叫到高潮| 国产精品日韩av在线免费观看| 国产欧美日韩一区二区精品| 色综合婷婷激情| 日韩欧美 国产精品| 欧美黑人欧美精品刺激| 日韩亚洲欧美综合| 高潮久久久久久久久久久不卡| 熟女电影av网| 国产探花极品一区二区| 97碰自拍视频| 偷拍熟女少妇极品色| 免费在线观看亚洲国产| 看黄色毛片网站| 91字幕亚洲| 久久久久久国产a免费观看| 精品一区二区三区视频在线| 小蜜桃在线观看免费完整版高清| 国产精品影院久久| 国产成年人精品一区二区| 日韩欧美免费精品| 国产69精品久久久久777片| 亚洲avbb在线观看| 午夜两性在线视频| 床上黄色一级片| 麻豆成人午夜福利视频| 午夜免费男女啪啪视频观看 | 欧美三级亚洲精品| 亚洲熟妇熟女久久| xxxwww97欧美| 免费无遮挡裸体视频| 最新中文字幕久久久久| 午夜福利在线观看吧| 亚洲国产精品久久男人天堂| 国产黄片美女视频| 五月玫瑰六月丁香| aaaaa片日本免费| 9191精品国产免费久久| 久久久久久九九精品二区国产| 国产精品三级大全| 夜夜夜夜夜久久久久| 欧美日韩国产亚洲二区| 亚洲美女视频黄频| 精品一区二区三区视频在线| 中文资源天堂在线| 3wmmmm亚洲av在线观看| 国产成人影院久久av| 老女人水多毛片| 婷婷精品国产亚洲av| 欧美在线黄色| 欧美性猛交╳xxx乱大交人| 国产一区二区亚洲精品在线观看| 亚洲av成人av| 日韩欧美免费精品| 高清毛片免费观看视频网站| 69人妻影院| 欧美成人a在线观看| 亚洲av免费高清在线观看| 在线观看午夜福利视频| 在线观看午夜福利视频| 国产成人影院久久av| 久久性视频一级片| 无人区码免费观看不卡| 狂野欧美白嫩少妇大欣赏| 久9热在线精品视频| 久久久国产成人精品二区| 一本综合久久免费| 国内揄拍国产精品人妻在线| 男插女下体视频免费在线播放| 日韩大尺度精品在线看网址| 亚洲精品一区av在线观看| 国产黄色小视频在线观看| 亚洲男人的天堂狠狠| 久久国产精品影院| 午夜福利免费观看在线| 免费黄网站久久成人精品 | 1024手机看黄色片| 麻豆一二三区av精品| av中文乱码字幕在线| 一夜夜www| 99热这里只有精品一区| 永久网站在线| 性色av乱码一区二区三区2| 校园春色视频在线观看| 女同久久另类99精品国产91| 久久人人精品亚洲av| 亚洲激情在线av| 国产欧美日韩精品亚洲av| 九九热线精品视视频播放| 久久6这里有精品| 日本a在线网址| 欧美乱妇无乱码| 午夜福利视频1000在线观看| 国产成人aa在线观看| 国产视频内射| 欧美日韩亚洲国产一区二区在线观看| 一卡2卡三卡四卡精品乱码亚洲| 亚洲久久久久久中文字幕| 黄色丝袜av网址大全| 国产精品久久电影中文字幕| 国产亚洲精品综合一区在线观看| 精品久久久久久,| 毛片一级片免费看久久久久 | 国产激情偷乱视频一区二区| 中文字幕人成人乱码亚洲影| 麻豆成人午夜福利视频| 人妻制服诱惑在线中文字幕| 九色成人免费人妻av| 国产麻豆成人av免费视频| 国产精品亚洲美女久久久| av欧美777| 午夜福利视频1000在线观看| 赤兔流量卡办理| 深夜a级毛片| 亚洲国产精品成人综合色| 99久久成人亚洲精品观看| 12—13女人毛片做爰片一| 国产精品精品国产色婷婷| 校园春色视频在线观看| 亚洲专区中文字幕在线| 国产伦人伦偷精品视频| 人妻丰满熟妇av一区二区三区| 嫩草影视91久久| 久久6这里有精品| av在线老鸭窝| 亚洲国产精品sss在线观看| 亚洲黑人精品在线| 成人欧美大片| 丰满的人妻完整版| 麻豆av噜噜一区二区三区| 亚洲精品一卡2卡三卡4卡5卡| 国产欧美日韩精品亚洲av| 色视频www国产| 黄色日韩在线| 99国产综合亚洲精品| 91麻豆av在线| 精品人妻偷拍中文字幕| 男人和女人高潮做爰伦理| 日韩欧美在线二视频| 亚洲一区二区三区色噜噜| 听说在线观看完整版免费高清| 国产久久久一区二区三区| 人妻夜夜爽99麻豆av| 欧美性猛交╳xxx乱大交人| 欧洲精品卡2卡3卡4卡5卡区| 国产av在哪里看| 一个人观看的视频www高清免费观看| 淫妇啪啪啪对白视频| 国产三级中文精品| 欧美在线一区亚洲| 欧美最黄视频在线播放免费| 国产高清激情床上av| 成人av在线播放网站| 国产精品99久久久久久久久| 久久99热这里只有精品18| 日韩有码中文字幕| 日韩精品中文字幕看吧| 亚洲内射少妇av| 99久国产av精品| 色哟哟哟哟哟哟| 性色av乱码一区二区三区2| 真实男女啪啪啪动态图| 少妇丰满av| 国产精品嫩草影院av在线观看 | 三级男女做爰猛烈吃奶摸视频| 国产一区二区激情短视频| 精品99又大又爽又粗少妇毛片 | 90打野战视频偷拍视频| 国产在线精品亚洲第一网站| 久久欧美精品欧美久久欧美| 日本免费a在线| 国产视频内射| 最近最新中文字幕大全电影3| 亚洲无线观看免费| 人妻夜夜爽99麻豆av| 亚洲美女视频黄频| 十八禁网站免费在线| 露出奶头的视频| 亚洲五月天丁香| 国产精品美女特级片免费视频播放器| 精品午夜福利视频在线观看一区| 天堂av国产一区二区熟女人妻| 国产成+人综合+亚洲专区| 国产精品电影一区二区三区| 内射极品少妇av片p| av天堂在线播放| 变态另类丝袜制服| 日本一二三区视频观看| 国产精品久久久久久久久免 | 在线a可以看的网站| 一级黄色大片毛片| 精品一区二区免费观看| 国产成人影院久久av| 好看av亚洲va欧美ⅴa在| 我的女老师完整版在线观看| 中文字幕免费在线视频6| 国产爱豆传媒在线观看| 嫁个100分男人电影在线观看| 免费在线观看日本一区| 日韩欧美一区二区三区在线观看| 久久精品国产99精品国产亚洲性色| 不卡一级毛片| 中国美女看黄片| 国产精品亚洲美女久久久| 十八禁网站免费在线| 99热这里只有精品一区| 少妇人妻一区二区三区视频| 熟女人妻精品中文字幕| 亚洲电影在线观看av| 岛国在线免费视频观看| 色5月婷婷丁香| 国产成年人精品一区二区| 欧美日韩亚洲国产一区二区在线观看| 国产真实伦视频高清在线观看 | 中文字幕av在线有码专区| 婷婷六月久久综合丁香| 欧美极品一区二区三区四区| 自拍偷自拍亚洲精品老妇| 1024手机看黄色片| 成年女人看的毛片在线观看| 岛国在线免费视频观看| 熟妇人妻久久中文字幕3abv| 成年女人永久免费观看视频| 国产综合懂色| 精品一区二区免费观看| 亚洲欧美精品综合久久99| 日韩免费av在线播放| 成人无遮挡网站| 国产成+人综合+亚洲专区| 国产av不卡久久| 国产精品永久免费网站| 午夜福利欧美成人| 成人鲁丝片一二三区免费| 国产免费一级a男人的天堂| 色精品久久人妻99蜜桃| 国产白丝娇喘喷水9色精品| 综合色av麻豆| 亚洲三级黄色毛片| 久久久成人免费电影| 麻豆av噜噜一区二区三区| 成人av一区二区三区在线看| 国产亚洲av嫩草精品影院| 成人国产综合亚洲| а√天堂www在线а√下载| 免费人成在线观看视频色| 一进一出好大好爽视频| 国产精品永久免费网站| 日韩成人在线观看一区二区三区| 色视频www国产| 精品人妻偷拍中文字幕| 亚洲人成电影免费在线| 三级国产精品欧美在线观看| 久久九九热精品免费| .国产精品久久| 亚洲av第一区精品v没综合| 18+在线观看网站| 欧美精品国产亚洲| 久久人妻av系列| 国产高清激情床上av| 国产成人欧美在线观看| 免费看a级黄色片| 日韩有码中文字幕| 日本免费一区二区三区高清不卡| 俺也久久电影网| 成人国产综合亚洲| 国内毛片毛片毛片毛片毛片| 真人做人爱边吃奶动态| 少妇的逼好多水| 国产高清三级在线| 久久久久久久久大av| 欧美日韩亚洲国产一区二区在线观看| 午夜福利欧美成人| 亚洲男人的天堂狠狠| 成人三级黄色视频| 观看免费一级毛片| 久久久久久久久久黄片| 亚洲av成人精品一区久久| 他把我摸到了高潮在线观看| 日韩欧美国产在线观看| 中文字幕人成人乱码亚洲影| 欧美极品一区二区三区四区| 久久精品夜夜夜夜夜久久蜜豆| 免费看日本二区| av中文乱码字幕在线| 狂野欧美白嫩少妇大欣赏| 国产极品精品免费视频能看的| 91在线精品国自产拍蜜月| 成人精品一区二区免费| 成人特级av手机在线观看| 可以在线观看毛片的网站| 亚洲av美国av| 国内精品久久久久精免费| 日韩欧美三级三区| 夜夜躁狠狠躁天天躁| 国产综合懂色| 国产精品久久久久久精品电影| 国产精品久久电影中文字幕| 国产伦精品一区二区三区视频9| 精品午夜福利视频在线观看一区| 国产不卡一卡二| 极品教师在线视频| 国产av在哪里看| 亚洲人成伊人成综合网2020| 婷婷精品国产亚洲av在线| 18禁裸乳无遮挡免费网站照片| 成人精品一区二区免费| 91麻豆精品激情在线观看国产| 老司机午夜十八禁免费视频| 国产一区二区三区视频了| 在线观看免费视频日本深夜| 亚洲av美国av| 国内精品久久久久久久电影| 国产午夜精品论理片| 草草在线视频免费看| 别揉我奶头~嗯~啊~动态视频| 校园春色视频在线观看| 亚洲专区国产一区二区| 欧美黄色片欧美黄色片| 一级黄片播放器| 国产精品国产高清国产av| 波多野结衣高清作品| 女人被狂操c到高潮| 又黄又爽又免费观看的视频| 国产私拍福利视频在线观看| 99在线视频只有这里精品首页| 国产在线男女| 精品久久久久久久久亚洲 | 国产美女午夜福利| 婷婷亚洲欧美| 精品久久久久久久久av| 亚洲国产精品久久男人天堂| 高清日韩中文字幕在线| 乱码一卡2卡4卡精品| 91麻豆精品激情在线观看国产| 中文字幕人妻熟人妻熟丝袜美| 他把我摸到了高潮在线观看| 精品久久久久久久久久免费视频| 国产成人福利小说| 国产亚洲精品综合一区在线观看| 免费看美女性在线毛片视频| 两性午夜刺激爽爽歪歪视频在线观看| 亚洲黑人精品在线| 久久香蕉精品热| 午夜福利视频1000在线观看| 99久久久亚洲精品蜜臀av| 成人av在线播放网站| ponron亚洲| 热99re8久久精品国产| 久久欧美精品欧美久久欧美| 男人狂女人下面高潮的视频| 午夜a级毛片| 欧洲精品卡2卡3卡4卡5卡区| 黄片小视频在线播放| 国产精品久久电影中文字幕| 国产精品久久久久久精品电影| 国产精品永久免费网站| 亚洲自偷自拍三级| 成人欧美大片| 黄色视频,在线免费观看| 国产伦在线观看视频一区| 男女之事视频高清在线观看| 国产黄片美女视频| 午夜免费激情av| 国内精品美女久久久久久| 简卡轻食公司| 婷婷精品国产亚洲av在线| 日本黄色片子视频| av欧美777| av黄色大香蕉| 哪里可以看免费的av片| 国产精品不卡视频一区二区 | 亚洲专区国产一区二区| 男人和女人高潮做爰伦理| 91久久精品电影网| 免费在线观看成人毛片| 亚洲欧美日韩无卡精品| 精品久久久久久成人av| 欧美黄色片欧美黄色片| 波多野结衣巨乳人妻| 欧美一区二区亚洲| 国产毛片a区久久久久| 欧美成人a在线观看| 亚洲人成网站在线播放欧美日韩| 成人av在线播放网站| 人人妻,人人澡人人爽秒播| 色视频www国产| 色噜噜av男人的天堂激情| www.熟女人妻精品国产| 国产国拍精品亚洲av在线观看| 国产欧美日韩精品一区二区| 在线观看美女被高潮喷水网站 | 久久久精品欧美日韩精品| 国产免费男女视频| 中国美女看黄片| 永久网站在线| 欧美色欧美亚洲另类二区| 欧美又色又爽又黄视频| 如何舔出高潮| 97超视频在线观看视频| 在线国产一区二区在线| 欧美在线一区亚洲| 999久久久精品免费观看国产| 国产美女午夜福利| 亚洲成人中文字幕在线播放| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 国产精品久久久久久久久免 | 99热这里只有是精品在线观看 | 亚洲在线自拍视频| 国产三级黄色录像| 亚洲专区中文字幕在线| av在线天堂中文字幕| 欧美+日韩+精品| 99国产精品一区二区蜜桃av| 中文亚洲av片在线观看爽| 亚洲国产色片| 精品久久久久久,| 别揉我奶头 嗯啊视频| 天堂动漫精品| 国产午夜精品论理片| 一级毛片久久久久久久久女| 亚洲成av人片在线播放无| 国产高清视频在线观看网站| 国产又黄又爽又无遮挡在线| 18禁黄网站禁片免费观看直播| 很黄的视频免费| 看十八女毛片水多多多| 美女xxoo啪啪120秒动态图 | 十八禁网站免费在线| 国产高清三级在线| 3wmmmm亚洲av在线观看| 又爽又黄无遮挡网站| 人人妻人人澡欧美一区二区| 亚洲人与动物交配视频| 99久久久亚洲精品蜜臀av| 男人和女人高潮做爰伦理| 在线天堂最新版资源| 中国美女看黄片| 欧美最新免费一区二区三区 | 久久人妻av系列| 日韩欧美一区二区三区在线观看| 欧美日韩亚洲国产一区二区在线观看| av国产免费在线观看| 亚洲av不卡在线观看| 国产精品久久久久久精品电影| 日日夜夜操网爽| 国产黄色小视频在线观看| 99视频精品全部免费 在线| 国产成人av教育| 欧美bdsm另类| 99精品在免费线老司机午夜| 亚洲七黄色美女视频| 亚洲 欧美 日韩 在线 免费| 一级黄片播放器| 久久亚洲精品不卡| 欧美丝袜亚洲另类 | 69人妻影院| 在线天堂最新版资源| 国产麻豆成人av免费视频| 3wmmmm亚洲av在线观看| 日韩大尺度精品在线看网址| 一夜夜www| 亚洲 欧美 日韩 在线 免费| 夜夜夜夜夜久久久久| 久久亚洲精品不卡| 免费一级毛片在线播放高清视频| 亚洲aⅴ乱码一区二区在线播放| 国产视频一区二区在线看| 在线免费观看不下载黄p国产 | 婷婷精品国产亚洲av在线| av视频在线观看入口| 一本综合久久免费| 亚洲av美国av| 在线免费观看不下载黄p国产 | 丰满人妻熟妇乱又伦精品不卡| 精品人妻1区二区| 国产亚洲欧美98| 亚洲成人精品中文字幕电影| 欧美黄色淫秽网站| 少妇人妻一区二区三区视频| 国产v大片淫在线免费观看| 五月伊人婷婷丁香| 亚洲av不卡在线观看| 精品国产三级普通话版| 日韩欧美在线二视频| 国产蜜桃级精品一区二区三区| 直男gayav资源| 香蕉av资源在线| 高清在线国产一区| av欧美777| av黄色大香蕉| 99热只有精品国产| 99精品在免费线老司机午夜| 天堂动漫精品| 精品久久久久久久久久免费视频| 我的女老师完整版在线观看| 夜夜躁狠狠躁天天躁| 一个人免费在线观看电影| 日本黄色视频三级网站网址| 一级av片app| 十八禁网站免费在线| 欧美精品啪啪一区二区三区| 国产人妻一区二区三区在| 精品久久久久久久久亚洲 | 一区二区三区高清视频在线| 亚洲avbb在线观看| 欧美日韩中文字幕国产精品一区二区三区| 黄色日韩在线| 99久久精品国产亚洲精品| 亚洲激情在线av| 91九色精品人成在线观看| 男人的好看免费观看在线视频| 亚洲成人精品中文字幕电影| 人妻丰满熟妇av一区二区三区| 成人午夜高清在线视频| 麻豆久久精品国产亚洲av| 午夜福利成人在线免费观看| 女生性感内裤真人,穿戴方法视频| 激情在线观看视频在线高清| 精品熟女少妇八av免费久了| 日韩中字成人| 日日摸夜夜添夜夜添小说| 久久亚洲真实| av天堂在线播放| 国产又黄又爽又无遮挡在线| 一夜夜www| 悠悠久久av| 国产v大片淫在线免费观看| 亚洲av免费在线观看| 久久国产精品人妻蜜桃| 欧美精品国产亚洲| 99久久99久久久精品蜜桃| 99在线人妻在线中文字幕| 国产伦一二天堂av在线观看| 夜夜爽天天搞| 国产精品久久久久久久电影| 1024手机看黄色片| 日韩人妻高清精品专区| 99热这里只有是精品在线观看 | 一级av片app| 国产蜜桃级精品一区二区三区| 天堂网av新在线| 国产一区二区激情短视频| 国产成+人综合+亚洲专区| 性插视频无遮挡在线免费观看| 午夜福利在线观看免费完整高清在 | 国产精品免费一区二区三区在线| 窝窝影院91人妻| 我要搜黄色片| 精品不卡国产一区二区三区| 一级作爱视频免费观看| 国产午夜精品久久久久久一区二区三区 | 两性午夜刺激爽爽歪歪视频在线观看| 色精品久久人妻99蜜桃| 1000部很黄的大片| 麻豆av噜噜一区二区三区| 久久精品国产亚洲av香蕉五月| 怎么达到女性高潮| 欧美一区二区亚洲| 亚洲经典国产精华液单 | 日本免费一区二区三区高清不卡| 精品久久久久久久久久久久久| 国产精品自产拍在线观看55亚洲| 一区二区三区激情视频| 男人狂女人下面高潮的视频| 久久久久久国产a免费观看| 熟女电影av网| 人妻久久中文字幕网| 90打野战视频偷拍视频| 国产极品精品免费视频能看的| 亚洲男人的天堂狠狠| 俄罗斯特黄特色一大片| 三级男女做爰猛烈吃奶摸视频| 欧美日韩福利视频一区二区| 亚洲自拍偷在线| 国产aⅴ精品一区二区三区波|