• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    語義圖驅(qū)動的面向復雜邏輯關系的自然語言問答

    2022-01-20 02:57:22金季豪高大啟劉旭利
    中文信息學報 2021年12期
    關鍵詞:知識庫句式實體

    金季豪,阮 彤,高大啟,葉 琪,劉旭利,薛 魁

    (華東理工大學 信息科學與工程學院,上海 200237)

    0 引言

    自然語言問答是一種便捷的人機交互模式,機器將自然語言問句解析成計算機所能理解和執(zhí)行的語言,并將答案返回。其中,基于知識庫的問答(Knowledge Base Question Answering,KBQA)是給定一個自然語言的問題,生成知識庫所能支持的查詢語言,最后通過知識庫查詢出問題答案的過程。

    傳統(tǒng)的KBQA是基于互聯(lián)網(wǎng)知識圖譜的,特點是集中于事實性問題,表達相對比較簡單,而知識庫規(guī)模大且數(shù)據(jù)模式不確定。然而,隨著知識圖譜的普及,醫(yī)療領域也發(fā)布了大量的圖譜數(shù)據(jù)。面向行業(yè)數(shù)據(jù)的KBQA的特點是數(shù)據(jù)規(guī)模和術語相對受限,但問題的復雜度會高很多,會有較多關聯(lián)關系和統(tǒng)計需求。

    知識庫問答的主流方法可以分為四類: ①基于模板的方法[1-3],早期通過將問句解析成三元組,并與知識庫中三元組進行相似度計算來得到答案。②基于語義解析的方法[4-7],將自然語言問句轉(zhuǎn)化為邏輯形式,通過對邏輯形式進行自下而上的解析,得到一種可以表達整個句子含義的邏輯形式,并通過查詢語句在知識庫中查詢得到答案。③基于信息抽取的方法[8],先在知識庫中查詢實體從而得到以實體節(jié)點為中心的知識庫子圖,子圖中的點和邊作為候選答案,通過規(guī)則和模板進行信息抽取,建立分類器對候選答案進行篩選從而得到答案。④基于端到端的方法[9-10],通過深度學習的方法,將自然語言問答看作一個序列到序列的任務,通過減少中間環(huán)節(jié)來提高最終準確率。

    傳統(tǒng)的方法大多面向比較簡單的事實性問句,對于復雜的問句處理并不適用。然而,醫(yī)療領域中有大量復雜句式需要解析,諸如“被診斷為2型糖尿病后服用了瑞格列奈治療的病人有哪些?”,句中隱含著2個醫(yī)療事件“診斷事件”“用藥事件”及其時序關系。這樣的復雜句比比皆是。對于基于模板的方法[11],當問題允許的復雜度變高時,可能的句式也會增多,模板構造數(shù)量太大。而對于語義解析的方法,當將原始語義改寫為組合范疇文法時,對于語句不規(guī)范、不標準的情況,需要各種額外處理。而對于端到端的方法,由于可解釋性比較弱,出現(xiàn)異常時修正會比較困難。

    為此,本文面向復雜邏輯關系的自然語言問題,定義了語義圖(Semantic Graph,SG)的表示形式,該形式可以看作是一種獨立于語言的中間語義表示。在此基礎上,形成了語義圖驅(qū)動的自然語言問答框架(Semantic Graph Driven Question Answering,SGDQA),通過實體識別(Entity Recognition,ER)、實體對齊(Entity Alignment,EA),利用序列到序列(Sequence to Sequence,SS)模型得到語義圖線性序列,最后通過槽填充(Slot Filing,SF)后在知識庫中查詢得到問題答案。此外,面向OpenKg公開的醫(yī)療領域圖譜數(shù)據(jù)集(1)http://www.openkg.cn/dataset/peg,通過初始模板、基于語義圖的擴充方法、在醫(yī)療知識圖譜中查詢得到實體與屬性,構建了3 000個具有復雜邏輯關系的自然語言問題與答案。抽取1 800個問題進行訓練,600個進行驗證,600個測試,其中,基于注意力機制的序列到序列模型達到了97.67%準確率,啟發(fā)式規(guī)則的槽填充達到了94.88%準確率,系統(tǒng)整體性能達到91.5%。

    本文的貢獻點如下: ①首先,面向領域中經(jīng)常出現(xiàn)的事件以及事件之間的邏輯關系,構造了語義圖中間表示方式,定義了主鏈、支鏈、環(huán)結構等各種圖形化的結構以及結構的拼接。本文的語義圖可以稱為結構化語義圖,與通用的圖形化的語義表達方式有顯著區(qū)別。②本文面向公開的醫(yī)療領域圖譜數(shù)據(jù)集合,通過模板提取、語義擴充等方法,構建了3 000個具有復雜邏輯關系的自然語言問題與答案。③對于復雜自然語言問題,利用路徑生成模型將自然語言問題翻譯成語義圖的線性序列。其中,基于注意力機制的序列到序列模型達到了97.67%的準確率。④提出了語義圖驅(qū)動的問答框架并在醫(yī)療數(shù)據(jù)集上驗證了框架和算法的有效性。框架包括實體識別、實體對齊、語義圖線性序列生成等步驟,最后通過槽填充并查詢出問題答案。啟發(fā)式規(guī)則的槽填充達到了94.88%的準確率,系統(tǒng)整體性能達到91.5%。

    1 相關工作

    早期的知識庫問答主要是采用模板匹配的方法。文獻[1-3]通過把問句解析為三元組,用相似度計算的方法和知識庫中的三元組進行匹配,進而得到答案。該方法的缺點是無法捕捉句子的完整語義,故而文獻[12]提出了一種可以將問句映射到SPARQL[13]模板上的方法,該方法依賴句法語法信息,在映射句子內(nèi)部含義的同時使用了統(tǒng)計的方法進行實體識別以實例化SPARQL模板。針對手工構建模板較困難的問題,文獻[14]提出了模板自動生成的方法,使用變量來替換問句中的實體,再用問答語料有監(jiān)督地訓練問句-模板的映射模型[15]。

    由于模板匹配的方法局限性較大,過份依賴模板,后來就有了基于語義解析的方法。通過定義簡單的可再生的組合規(guī)則[4],通過組合范疇文法(Combinatory categorial grammar,CCG)產(chǎn)生邏輯表達式,并使用橋接提高語料的覆蓋度。文獻[16]通過重述問句并打分,獲得與原問句最相匹配重述,然后建立原句、重述問句、答案的條件概率模型。

    此外,還有基于信息抽取的方法,利用子圖匹配的圖搜索算法[17],將自然語言短語映射到知識庫的前K謂詞并生成短語詞典,然后提出語義查詢圖來表達用戶意圖,并在知識庫中找匹配子圖。

    近年來,有了基于端到端的方法,將自然語言問題看作是一個序列到序列的任務。文獻[18-20]將知識庫問答任務拆分為實體對齊、路徑生成和答案生成三部分。為了優(yōu)化路徑生成從而提升系統(tǒng)整體性能,文獻[9]補充了路徑生成的驗證過程。文獻[10]將句子到邏輯表達式的轉(zhuǎn)化問題看作機器翻譯的過程,先定義問句的語義圖與構建的動作序列,最后提出基于循環(huán)神經(jīng)網(wǎng)絡的序列到動作的解析模型。

    2 方法描述

    面對復雜邏輯關系的自然語言問題,本文首先設計了一個SGDQA的流程框架,如圖1所示。首先定義了語義圖的表現(xiàn)形式,并給出了語義圖的線性編碼算法,也就是圖1中的offline過程,這部分在2.1節(jié)中將展開詳細描述。圖1中的自然語言問句由面向OpenKG公開的醫(yī)療領域圖譜數(shù)據(jù)集合通過半自動構建的方法得到,一共構造了3 000條具有復雜邏輯關系的醫(yī)療自然語言問句,這部分在2.2節(jié)中進行描述。自然語言問句經(jīng)過圖1中的步驟3進行實體識別,得到移除實體信息的字符序列和預測的實體兩部分,將預測的實體送去知識庫中實體對齊,將字符序列通過路徑生成模型得到語義圖線性序列,這部分將在2.3節(jié)中闡述。最后,通過啟發(fā)式的槽填充,查詢得到問題的答案,圖1中剩下的第6步和第7步在2.4節(jié)中進行說明。

    圖1 基于語義驅(qū)動的面向復雜邏輯關系的自然語言問答流程

    2.1 語義圖

    在知識庫的問答中,表述不同但是語義相同的句子最終會被解析為相同的結構化查詢語言,如基于RDF[13]的圖數(shù)據(jù)庫Jena的SPARQL查詢語言。所以,語義圖可以轉(zhuǎn)化為等價的圖查詢語言SPARQL。

    2.1.1 語義圖定義

    設G=(N,E),其中,G為語義圖;N={n1,…,ni,…,nk}(0

    任一語義圖都可以用SPARQL語句來對應。本文通過對主鏈、支鏈、環(huán)結構的定義來實現(xiàn)語義圖的拼接與擴展。圖2展示了一個語義圖到SPARQL轉(zhuǎn)換的例子,自然語言問句是“哪些男性病人在診斷了高血壓之后服用了硝苯地平控釋片?”。其中,圖2左半部分的“?診斷事件”、“?x”、“?治療事件”代表變量;關系“參與主體”說明事件的參與對象是病人,“參與客體”則表示醫(yī)療事件的參與者是藥品、手術等非生命實體。而圖2的右半部分就是與左邊語義圖相對應的SPARQL語句偽代碼。

    本文的語義圖比其他的語義圖的設計元素多了事件的概念以及時序關系,并支持拼接擴展語義圖。本文先通過語義圖可拼接擴展的方式,在原有的初始集上面推薦擴展更為復雜的問句,生成醫(yī)療自然語言數(shù)據(jù)集。處理的句子包含多個事件與時序關系,用其他論文中語義圖的方法無法解決本文的復雜邏輯關系的自然語言問答。

    圖2 語義圖示例和對應的SPARQL查詢語句

    通過與其他文獻中類似圖結構的對比可以發(fā)現(xiàn),本文能處理更為復雜的問句,并且通過拼接擴展豐富了數(shù)據(jù)集。文獻[10]通過Seq2Act的方法來構造語義圖,使用該文的方法構造本文的問句時會出現(xiàn)在類“疾病”與“藥品”上無法構造時序邊的問題,因為兩個類型之間不可能存在時序關系,只有兩件事才存在先后關系。文獻[11]通過定義問句模板的方法,通過問句到模板的映射來進行構造語義圖,局限性較大,由于本文的醫(yī)療問句包含事件、時序關系,以及存在多事件拼接,所以一旦問句超出模板的范圍或者模式,用該方法則無法構造。

    2.1.2 語義圖線性編碼

    一個問句會唯一對應一個語義圖,一個語義圖可以表示相同語義的多個不同形式的問句??紤]到直接保存圖所需空間較大,本文提出了一種在約束條件下將語義圖編碼為線性序列的方法。N包括實體節(jié)點、類節(jié)點、事件節(jié)點和常量節(jié)點,E包括屬性與關系。如圖3所示,其中Constant1、Constant2和Constant3是常量節(jié)點, Drug與Disease是實體節(jié)點,“?e”“?e1”是事件變量節(jié)點,“?x”是實體變量節(jié)點。

    圖3 語義圖結構示例

    語義圖包含主鏈、支鏈與環(huán)結構三部分,對其編碼定義如下:

    (1) 主鏈結構。主鏈用Ga表示,Ga=,其中E′∈[Entity,Event],主鏈由3種類型不同的三元組組成,分別為、以及。主鏈上不包含常量節(jié)點和屬性關系,且在語義圖結構中唯一存在。圖4(a)為圖3的主鏈結構,其序列表示為“Drug !hasObject ?e hasActor ?x !hasActor ?e1 hasObject Disease”。

    圖4 主鏈、支鏈和環(huán)結構

    (2) 支鏈結構。設支鏈用Gb表示,Gb=,其中C′∈[Entity,Event,Constant]。支鏈由兩種不同類型的三元組組成,。支鏈結構上不含實體或事件之間的關系,在語義圖結構中存在一個或多個支鏈。三個支鏈結構如圖4(b)所示,序列表示分別為“?e State Property Constant1”、“ ?e1 State Property Constant2”以及“?x Property Constant3”。

    (3) 環(huán)結構。設環(huán)用Gc表示,Gc=,其中,TemRelation表示時序關系。圖4(c)為環(huán)結構的示例,其中?e、?x與?e1構成一個環(huán)結構。此外,環(huán)只存在主鏈結構上,并在語義圖的線性序列中用符號標記法來表示環(huán)的結構。

    2.2 數(shù)據(jù)集構造

    本文之前已經(jīng)定義了語義圖形式及其三種圖形化結構,這節(jié)重點描述利用語義圖來將已經(jīng)收集的句式模板進行擴充,并通過在Jena圖數(shù)據(jù)庫中查詢實體、屬性值、事件之間的時序關系來豐富問答數(shù)據(jù)集,最后對半自動化構建的問句進行人工校驗與重述。

    2.2.1 句式模板收集與映射

    句式模板是指將自然語言問句中的實體替換成實體類型、屬性值替換成屬性名稱后的句子。就如上述問句“哪些男性病人在診斷了高血壓之后服用了硝苯地平控釋片?”對應的句式模板是“哪些[性別]病人在診斷了[疾病]之后服用了[藥品]?”。其中,不同的句式模板可能會擁有相同的語義圖和相同SPARQL語句模板。

    算法1 語義圖線性序列的構造算法

    本文從臨床科研需求里收集了122個基于電子病歷數(shù)據(jù)的高頻統(tǒng)計查詢問句作為初始集,并按照“臨床科研”“醫(yī)學統(tǒng)計”和“醫(yī)學科研”等中英文關鍵詞檢索醫(yī)學文獻,并且從文獻里提取出了83個有效的統(tǒng)計查詢需求,并對以上205個問句進行人工實體、屬性替換,獲得了197個句式模板。同時對基于電子病歷數(shù)據(jù)的潛在查詢場景分析,額外補充了66個模板,總計得到了263個句式模板。最后為以上263個句式模板標注SPARQL語句模板,去重后剩余247個句式模板和相對應的SPARQL模板。

    2.2.2 句式模板擴充與實例化

    經(jīng)過上一步驟得到了247個句式模板和與之相對應的SPARQL語句模板。本文通過語義圖中邊的個數(shù)來定義一個句子的復雜程度,也就是跳數(shù)。為了使最后的問句更加復雜與多樣化,本文利用語義圖可拼接可擴充的性質(zhì),對原有的句式模板進行推薦擴展,在節(jié)點上增加支鏈個數(shù)以加大跳數(shù)。最后將以上句式的SPARQL語句在醫(yī)療事件圖譜中查詢得到實體、屬性等信息并填回句式匯總,從而得到一個完整的醫(yī)療自然語言問句,最終獲得3 083條自然語言問句和SPARQL查詢語句。具體的構造算法2的流程如下。

    算法2 半自動構造醫(yī)療數(shù)據(jù)集及其SPARQL模板算法

    2.2.3 人工校驗與重述

    相同語義的句子可以擁有不同的表述方式,體現(xiàn)在句式的不同和謂詞的多樣性上面。如“哪些男性病人在診斷了高血壓之后服用了硝苯地平控釋片?”可以表述為“患有高血壓后服用了硝苯地平控釋片的病人有哪些?”“患有高血壓的患者有多少”和“高血壓患者總數(shù)是多少”這兩個句子表達著同樣的語義。對于成環(huán)的句子,可能會存在事件之間邏輯關系不正確或者時序關系出錯的情況,所以人工校驗的時候是一個重點。此外,上述的步驟獲得的問句一方面可能存在一些不符合語法規(guī)則的情況,另一方面也難以體現(xiàn)自然語言的豐富性和多樣性,因此需要進行人工校驗和重述。針對以上問題,本文將上述步驟獲得的3 083條句子交付給5名臨床數(shù)據(jù)標注者進行校驗和重述,以保證問句的準確性、多樣性和豐富性,最終得到3 000條自然語言問句。表1列出了5條人工校驗和重述前后的自然語言問句樣例。

    表1 人工校驗和重述前后的自然語言問句樣例

    2.3 基于注意力機制的路徑生成模型

    本文路徑生成任務的輸入是字符序列構成的自然語言問句,輸出是語義圖的線性結構,采用了基于注意力機制的編碼-解碼模型。該任務與序列到序列生成的模式相符,其中源序列為自然語言問句,譬如“哪些患者患有高血壓?”,將“高血壓”這個實體移除后替換為“Variable”這一中間變量進行占位,則目標序列為結構化語言,如“DISEASE !sem:hasObject Variable sem:hasActor AnswerVariable sem:actorType peg-o:PERSON”。

    圖5為基于注意力機制的路徑生成模型。其中,編碼器負責源序列特征的提取,而解碼器是將編碼的特征信息生成為目標序列,注意力機制的作用是在解碼過程中計算編碼信息和輸出序列的參數(shù)權重。

    圖5 編碼-解碼過程

    2.3.1 編碼器與編碼過程

    模型用了RNN的變體——門控循環(huán)單元網(wǎng)絡(Gate Recurrent Unit,GRU)來組成編碼器,圖6是其內(nèi)部結構。GRU與LSTM的不同是,直接用隱藏狀態(tài)來傳遞特征信息,去除了細胞特征。GRU包含更新門和重置門,其中更新門決定特征信息的新增與移除,重置門計算移除歷史特征信息的程度。

    圖6 GRU網(wǎng)絡內(nèi)部結構

    2.3.2 解碼器與含注意力機制的解碼過程

    設X表示源序列,X=,用F表示對源序列編碼后得到的T個時間步特征向量,F(xiàn)=,Y代表目標序列,Y=,則其對數(shù)后的條件概率如式(1)所示。

    (1)

    解碼器使用單向門控循環(huán)網(wǎng)絡,預測t時刻概率分布依賴于t時刻之前的字符信息特征與編碼器對源序列的編碼。解碼過程由以下4個步驟組成。

    (1) 解碼器初始化通過q個時間步的編碼向量特征來進行初始化,并得到初始隱狀態(tài)向量,如式(2)所示。

    (2)

    其中,fi是第i個編碼特征向量,h0是解碼器在t=0時刻的隱狀態(tài)向量,W是線性變換矩陣。

    (2) 計算特征分數(shù)用解碼器隱狀態(tài)和編碼特征向量計算貢獻度,高貢獻的特性向量賦予高權重,如式(3)所示。

    scoret=W1·tanh(W2·F+W3·ht -1)

    (3)

    (3) 歸一化,計算上下文向量。將注意力分數(shù)進行歸一化后獲得其概率分布,在編碼特征向量序列上應用概率分布,從而得到含注意力的上下文向量表示,如式(4)、式(5)所示。

    (4) 遞歸解碼。根據(jù)上一時刻的解碼器隱狀態(tài)及輸出字符表示向量,更新門控循環(huán)單元網(wǎng)絡隱狀態(tài),并計算當前時間步字符的概率分布,如式(6)~式(8)所示。

    inputt=concat(yt,contextt)

    (6)

    ht=gru(inputt,ht -1)

    (7)

    yt +1=softmax(W·ht)

    (8)

    其中,inputt表示t時刻輸出字符向量和上下文特征向量的拼接。yt+1是t+1時刻輸出字符的概率分布。

    2.4 槽填充

    將輸入的自然語言問句經(jīng)過路徑生成模型后得到了語義圖的線性序列,然后將線性序列轉(zhuǎn)化為SPARQL語句,其中建立實體與占位符之間的映射關系叫作槽填充。根據(jù)槽填充方法不同,可以將占位符分為3類,分別為中間變量占位符、答案變量占位符和實體占位符。

    (1) “Variable”屬于中間變量占位符。填充方法是給每個變量定義唯一符合SPARQL語法的名稱,如“?var1”“?var2”等。

    (2) “AnswerVariable”屬于答案變量占位符。因為答案變量占位符在語義圖中是唯一存在的,所以直接添加“?”使其符合語法即可。

    (3) 除上述中間變量占位符和答案變量占位符以外的都屬于實體占位符。對于實體占位符,采用啟發(fā)式規(guī)則建立與實體之間的映射。規(guī)則一: 實體占位符的表示類型與實體類型必須一致;規(guī)則二: 如果一個實體占位符對應多個同類型的實體,那么應保證實體占位符在語義圖線性序列中的順序與實體本身在自然語言問句中的順序一致。

    3 實驗與錯誤分析

    在之前的工作中,已經(jīng)使用上海市三家三甲醫(yī)院的數(shù)據(jù)構建了3個專科、173 395個醫(yī)療事件和501 335個時序關系的醫(yī)療數(shù)據(jù)集并進行公開。為了評估本文的方法,本文通過半自動化構建、人工重述與專家審核構造了面向臨床科研的問答數(shù)據(jù)集共3 000條問句,隨機按3∶1∶1劃分為1 800條訓練集、600條驗證集、600條測試集,其中自然語言問句的字符長度集中在10~40之間。

    3.1 基于注意力機制的路徑生成模型評測

    3.1.1 實驗設置

    模型使用Pytorch建立,編碼器和解碼器采用了GRU,訓練采用隨機梯度優(yōu)化器(Stochastic Gradient Descent,SGD)來最小化交叉熵損失函數(shù)(Cross Entropy Loss Function),迭代次數(shù)為20次。

    3.1.2 評測指標

    對于路徑生成任務里的語義圖線性序列生成,模型性能的衡量指標采用全局準確率(Global Accuracy,GA),衡量模型預測序列和標準序列在n元短語上的相似性采用BLEU (Bilingual Evaluation understudy)值。全局準確率是模型預測正確的序列占全部序列的比例。全局準確率的計算如式(9)、式(10)所示。

    (9)

    (10)

    BLEU值的計算如式(11)、式(12)所示。

    其中,Pn是預測序列的n元組和標準序列的精確度,BP是長度懲罰因子,避免BLEU傾向于較短的序列。

    3.1.3 實驗結果

    本模型中,編碼器采用雙向GRU,解碼器采用單個GRU并用注意力機制來提高模型性能。實驗結果從實體信息對模型性能的影響、單雙向編碼器對模型的影響、向量維度對模型的影響、注意力機制對模型的影響以及LSTM與GRU的對比來進行分析。

    (1) 實體信息對模型性能的影響

    通常來說,實體包括命名實體、時間、數(shù)字等。從表2中可以看出,包含實體信息的問句對于目標序列的生成有負面影響,因為在解碼的過程中,實體較多會影響注意力機制的發(fā)揮,導致關鍵特征的注意力分數(shù)下降,從而在驗證集上準確率較低,實驗表明實體信息對模型準確率的影響在0.3%左右。

    (2) 單向雙向編碼器對模型性能的影響

    單向編碼器顧名思義就是對于輸入序列進行編碼時,GRU網(wǎng)絡只能進行單向計算,但是序列從右到左與從左到右一樣包含著信息與特征。從表2可以看出,雙向GRU網(wǎng)絡在訓練收斂后的模型準確率更高,有效地證明了雙向GRU能更好地表示自然語言問句信息。

    表2 基于注意力機制的路徑生成模型評測結果 (單位: %)

    (3) 向量維度對模型性能的影響

    GRU網(wǎng)絡有內(nèi)部向量參數(shù),通過設置不同的參數(shù)來映射GRU網(wǎng)絡對特征信息的容納能力。由表2可知,隨著向量維度的增加,模型準確率增益減少。

    (4) 注意力機制對模型性能的影響

    當自然語言問句較長時,訓練時容易丟失句子的信息,引入注意力機制有助于增強對句子有選擇的記憶。由表2可知,含有注意力機制的序列到序列模型能比不含注意力機制的準確率高0.5%,有效證明了含有注意力機制時能有效增加對句子有益特征的權重。

    (5) GRU與LSTM、Transformer對比

    通常情況下,GRU與LSTM在很多任務上不相上下。不過GRU的參數(shù)較少,更容易收斂,但是在大數(shù)據(jù)集的任務上,LSTM的表達能力會好一些,如果在Transformer上面的表現(xiàn)不如GRU好的話,可能是因為本文的臨床科研的問答數(shù)據(jù)集較少,所以通過表2選擇了基于注意力機制的雙向GRU作為本文模型。

    3.2 總體評測與錯誤分析

    3.2.1 評測指標

    語義圖驅(qū)動的面向復雜邏輯的自然語言問答是將實體識別、路徑生成、知識庫查詢等幾個過程串聯(lián)的整體過程。本文使用準確率作為評測指標,系統(tǒng)總體準確率由路徑生成準確率和答案準確率組成,如式(13)所示。

    總體準確率=路徑生成準確率×答案準確率

    (13)

    其中,路徑生成準確率上文已經(jīng)分析,答案準確率代表醫(yī)療事件知識庫中查詢到的答案與標準答案的比例。

    3.2.2 實驗結果與錯誤分析

    由于序列的輸出存在亂序的可能,所以這序列和答案的比較是通過人工一一比較進行的。路徑生成模型在7次訓練后收斂,在驗證集上效果較好,將最優(yōu)模型用于600條測試集后得到語義圖線性序列,雙向GRU與標準序列一致的最多,達586個,占比97.67%。將預測正確的序列通過槽填充后得到586條SPARQL語句,其中正確的語句有556條,占比94.88%。在知識庫中進行查詢并與標準答案進行對比,其中一致的有549個,占比93.69%。

    根據(jù)評測公式得到基于深度神經(jīng)網(wǎng)絡和語義圖的問答的總體準確率為91.5%。在測試集上存在51條與標答不符的錯誤解析,其中,7條屬于實識別與實體對齊錯誤,14條屬于路徑生成錯誤,30條屬于基于啟發(fā)式規(guī)則的槽填充錯誤。

    4 總結與展望

    本文針對領域中經(jīng)常出現(xiàn)的事件及其邏輯關系,定義構造了語義圖中間表示來解決。本文針對醫(yī)療語料稀缺的問題,半自動化地構建了3 000個具有復雜邏輯關系的問句,并且用路徑生成模型將自然語言問題翻譯成語義圖的線性序列,提出了SGDQA的流程框架。但是文章也存在不足,語料不夠多可能會引起訓練結果的誤差,未來還可以嘗試用聯(lián)合學習的方法來簡化流程,并嘗試更多的模型來進行實驗對比。

    猜你喜歡
    知識庫句式實體
    前海自貿(mào)區(qū):金融服務實體
    中國外匯(2019年18期)2019-11-25 01:41:54
    基于TRIZ與知識庫的創(chuàng)新模型構建及在注塑機設計中的應用
    實體的可感部分與實體——兼論亞里士多德分析實體的兩種模式
    哲學評論(2017年1期)2017-07-31 18:04:00
    基本句式走秀場
    例析wh-ever句式中的常見考點
    兩會進行時:緊扣實體經(jīng)濟“釘釘子”
    振興實體經(jīng)濟地方如何“釘釘子”
    高速公路信息系統(tǒng)維護知識庫的建立和應用
    基于Drupal發(fā)布學者知識庫關聯(lián)數(shù)據(jù)的研究
    圖書館研究(2015年5期)2015-12-07 04:05:48
    特殊句式
    又大又黄又爽视频免费| 99久国产av精品国产电影| 如何舔出高潮| 国产精品人妻久久久久久| 精品不卡国产一区二区三区| 高清日韩中文字幕在线| 春色校园在线视频观看| 麻豆精品久久久久久蜜桃| 一级爰片在线观看| 亚洲av日韩在线播放| 我的女老师完整版在线观看| 一个人观看的视频www高清免费观看| 欧美丝袜亚洲另类| 久久久欧美国产精品| 两个人的视频大全免费| 精品久久国产蜜桃| 成人性生交大片免费视频hd| 国产成人a区在线观看| 在线观看人妻少妇| 成人亚洲精品一区在线观看 | 久久久久精品性色| 亚洲av中文字字幕乱码综合| 亚洲av国产av综合av卡| 青春草亚洲视频在线观看| 在线免费十八禁| 亚洲在线自拍视频| 91久久精品电影网| 91久久精品国产一区二区三区| 在线免费十八禁| 欧美97在线视频| 国产有黄有色有爽视频| 五月玫瑰六月丁香| 日韩 亚洲 欧美在线| 国产成人a区在线观看| 全区人妻精品视频| 又粗又硬又长又爽又黄的视频| 一本久久精品| 久久久久久久亚洲中文字幕| 纵有疾风起免费观看全集完整版 | 狠狠精品人妻久久久久久综合| 欧美日本视频| 少妇人妻一区二区三区视频| 午夜亚洲福利在线播放| 亚洲国产成人一精品久久久| 成人亚洲欧美一区二区av| 精品久久久久久久久亚洲| 日本av手机在线免费观看| 色视频www国产| 中文资源天堂在线| 欧美日韩精品成人综合77777| 一个人免费在线观看电影| 国产亚洲一区二区精品| 色综合色国产| 日韩大片免费观看网站| 在现免费观看毛片| 午夜免费男女啪啪视频观看| 日本与韩国留学比较| 我要看日韩黄色一级片| 超碰97精品在线观看| 人人妻人人看人人澡| 91午夜精品亚洲一区二区三区| 精品久久国产蜜桃| 亚洲精品中文字幕在线视频 | 久久久久久国产a免费观看| 成人性生交大片免费视频hd| 久久久欧美国产精品| 汤姆久久久久久久影院中文字幕 | 成人综合一区亚洲| freevideosex欧美| 久久97久久精品| 亚洲av不卡在线观看| 久久鲁丝午夜福利片| 婷婷色综合大香蕉| 一本久久精品| 午夜视频国产福利| 深夜a级毛片| 两个人视频免费观看高清| 久久久久久久大尺度免费视频| 国产成人freesex在线| 欧美日韩精品成人综合77777| 两个人视频免费观看高清| 亚洲人成网站在线播| 免费大片黄手机在线观看| 亚洲成人中文字幕在线播放| 久久久久九九精品影院| 久久精品熟女亚洲av麻豆精品 | 婷婷色综合www| 亚洲av成人精品一区久久| 国产免费福利视频在线观看| 久久精品综合一区二区三区| 97精品久久久久久久久久精品| 亚洲不卡免费看| 欧美激情国产日韩精品一区| 22中文网久久字幕| 国产精品一及| 嫩草影院新地址| 久久精品夜色国产| 老师上课跳d突然被开到最大视频| av在线亚洲专区| 一个人看的www免费观看视频| 国产免费福利视频在线观看| 91aial.com中文字幕在线观看| 99热网站在线观看| 日韩成人av中文字幕在线观看| 国语对白做爰xxxⅹ性视频网站| 水蜜桃什么品种好| 如何舔出高潮| 99久久精品一区二区三区| 日日摸夜夜添夜夜添av毛片| 网址你懂的国产日韩在线| 日韩av在线免费看完整版不卡| 搡女人真爽免费视频火全软件| 又粗又硬又长又爽又黄的视频| 亚洲国产精品成人久久小说| 日本三级黄在线观看| 欧美最新免费一区二区三区| 国产精品国产三级国产av玫瑰| 在线 av 中文字幕| 成人高潮视频无遮挡免费网站| 免费播放大片免费观看视频在线观看| 好男人视频免费观看在线| 亚洲人成网站高清观看| 2022亚洲国产成人精品| 色播亚洲综合网| 观看免费一级毛片| 国产三级在线视频| 最后的刺客免费高清国语| 国产免费又黄又爽又色| 国产av在哪里看| 国产高清有码在线观看视频| 精品久久久噜噜| 日韩人妻高清精品专区| 毛片一级片免费看久久久久| 成人美女网站在线观看视频| 亚洲欧美精品专区久久| 一区二区三区乱码不卡18| 成年女人在线观看亚洲视频 | 日韩强制内射视频| 久久精品国产亚洲av天美| 黄色日韩在线| 在线观看一区二区三区| 美女xxoo啪啪120秒动态图| 亚洲欧美中文字幕日韩二区| 直男gayav资源| 色5月婷婷丁香| 最近中文字幕2019免费版| 亚洲激情五月婷婷啪啪| 婷婷色综合大香蕉| 一边亲一边摸免费视频| 午夜老司机福利剧场| 99热这里只有是精品在线观看| 国产免费又黄又爽又色| 欧美日韩综合久久久久久| 午夜福利在线在线| 日韩三级伦理在线观看| 卡戴珊不雅视频在线播放| 久久久久性生活片| 精品一区二区三卡| 插逼视频在线观看| 精品一区二区免费观看| 一二三四中文在线观看免费高清| 国产单亲对白刺激| 麻豆成人av视频| 亚洲精品乱码久久久久久按摩| 久久人人爽人人爽人人片va| 女的被弄到高潮叫床怎么办| 免费观看在线日韩| 亚洲av一区综合| 天堂影院成人在线观看| 亚洲精品亚洲一区二区| 一区二区三区乱码不卡18| a级一级毛片免费在线观看| 亚洲欧美日韩无卡精品| 国产片特级美女逼逼视频| 欧美+日韩+精品| 亚洲国产精品专区欧美| 天堂俺去俺来也www色官网 | 免费电影在线观看免费观看| 欧美 日韩 精品 国产| 日韩国内少妇激情av| 国产女主播在线喷水免费视频网站 | av网站免费在线观看视频 | 国产亚洲一区二区精品| 内射极品少妇av片p| 日本与韩国留学比较| 18禁在线播放成人免费| 极品教师在线视频| .国产精品久久| 亚洲自偷自拍三级| 少妇人妻精品综合一区二区| 色尼玛亚洲综合影院| 黄色日韩在线| 久久精品国产自在天天线| 亚洲精品久久午夜乱码| 国产91av在线免费观看| 成人欧美大片| 亚洲欧美一区二区三区黑人 | 国产成人免费观看mmmm| 日日摸夜夜添夜夜爱| 最近的中文字幕免费完整| 青春草视频在线免费观看| 亚洲av二区三区四区| 黄片无遮挡物在线观看| 国产视频首页在线观看| 水蜜桃什么品种好| av在线老鸭窝| 九九在线视频观看精品| 久久国产乱子免费精品| 欧美性猛交╳xxx乱大交人| 亚洲精品第二区| 天堂av国产一区二区熟女人妻| 日本-黄色视频高清免费观看| 亚洲av男天堂| 欧美成人精品欧美一级黄| 天堂中文最新版在线下载 | 日韩欧美精品免费久久| 亚洲在久久综合| 久久久久久久久久黄片| 精品99又大又爽又粗少妇毛片| 亚洲精品aⅴ在线观看| 一二三四中文在线观看免费高清| 日日摸夜夜添夜夜添av毛片| 色哟哟·www| 欧美 日韩 精品 国产| 边亲边吃奶的免费视频| 日韩av在线大香蕉| 欧美成人午夜免费资源| 国产精品一区二区性色av| 一个人免费在线观看电影| 亚洲成人一二三区av| 女人久久www免费人成看片| 97在线视频观看| 高清毛片免费看| 2022亚洲国产成人精品| 午夜福利视频1000在线观看| 免费无遮挡裸体视频| 国产精品三级大全| 国产久久久一区二区三区| 日韩av不卡免费在线播放| av国产久精品久网站免费入址| 日韩在线高清观看一区二区三区| 国产国拍精品亚洲av在线观看| 久99久视频精品免费| 网址你懂的国产日韩在线| 亚洲精品国产成人久久av| av黄色大香蕉| 又大又黄又爽视频免费| 亚洲精品456在线播放app| 永久免费av网站大全| 男女视频在线观看网站免费| 特级一级黄色大片| 中国国产av一级| 免费少妇av软件| 久久精品国产自在天天线| 亚洲人与动物交配视频| 大话2 男鬼变身卡| 一二三四中文在线观看免费高清| 亚洲无线观看免费| 成人特级av手机在线观看| videos熟女内射| 精华霜和精华液先用哪个| 亚洲成人久久爱视频| 九九在线视频观看精品| 亚洲婷婷狠狠爱综合网| 黄色一级大片看看| 久久久精品欧美日韩精品| 日本一本二区三区精品| 免费播放大片免费观看视频在线观看| 国产单亲对白刺激| 国产三级在线视频| 久久精品国产亚洲网站| 亚洲精品自拍成人| 国产精品一区www在线观看| 色网站视频免费| 在线观看美女被高潮喷水网站| 欧美97在线视频| 亚洲伊人久久精品综合| 午夜精品国产一区二区电影 | 精品一区二区免费观看| 晚上一个人看的免费电影| 亚洲av国产av综合av卡| 国产淫片久久久久久久久| .国产精品久久| 国产黄色小视频在线观看| 80岁老熟妇乱子伦牲交| 少妇的逼好多水| 国产大屁股一区二区在线视频| 精品久久久久久久久亚洲| 国产乱来视频区| 国产免费一级a男人的天堂| 好男人视频免费观看在线| 亚洲在久久综合| 国产精品爽爽va在线观看网站| 国产日韩欧美在线精品| 免费不卡的大黄色大毛片视频在线观看 | 身体一侧抽搐| 美女cb高潮喷水在线观看| 日本熟妇午夜| 日韩成人av中文字幕在线观看| 久久久欧美国产精品| 久久人人爽人人爽人人片va| 黄色欧美视频在线观看| 亚洲熟妇中文字幕五十中出| 国产高清三级在线| 国产伦精品一区二区三区视频9| 婷婷色av中文字幕| 深夜a级毛片| 少妇熟女欧美另类| 两个人的视频大全免费| 精品一区二区三区视频在线| 永久免费av网站大全| 亚洲欧美清纯卡通| 高清午夜精品一区二区三区| 亚洲国产最新在线播放| 最近中文字幕2019免费版| 91精品伊人久久大香线蕉| 欧美激情国产日韩精品一区| 一个人免费在线观看电影| 免费av观看视频| 国产成人福利小说| 国产伦精品一区二区三区四那| 亚洲18禁久久av| 在线观看人妻少妇| 亚洲av免费在线观看| 国产在线一区二区三区精| 欧美bdsm另类| 亚洲精品中文字幕在线视频 | 久久久色成人| 国产一级毛片七仙女欲春2| 欧美日韩国产mv在线观看视频 | 尾随美女入室| 国产精品女同一区二区软件| 国产精品不卡视频一区二区| 最近视频中文字幕2019在线8| 大又大粗又爽又黄少妇毛片口| 日韩欧美三级三区| 男女那种视频在线观看| 黑人高潮一二区| 亚洲天堂国产精品一区在线| 日韩欧美三级三区| 国产免费又黄又爽又色| 国产成人精品婷婷| 午夜免费观看性视频| 2018国产大陆天天弄谢| 成年女人在线观看亚洲视频 | 熟女人妻精品中文字幕| 久久热精品热| 免费在线观看成人毛片| 2022亚洲国产成人精品| 欧美3d第一页| 97人妻精品一区二区三区麻豆| 女人被狂操c到高潮| 2022亚洲国产成人精品| 欧美3d第一页| 日韩中字成人| 别揉我奶头 嗯啊视频| 又大又黄又爽视频免费| 午夜精品国产一区二区电影 | 亚洲av福利一区| 欧美一级a爱片免费观看看| 亚洲一级一片aⅴ在线观看| 在线观看人妻少妇| 中文精品一卡2卡3卡4更新| 老女人水多毛片| 精品一区二区免费观看| 高清在线视频一区二区三区| 日韩三级伦理在线观看| 联通29元200g的流量卡| 久久久久久久午夜电影| 免费看不卡的av| 成人特级av手机在线观看| 赤兔流量卡办理| 久久久精品94久久精品| 免费av观看视频| 听说在线观看完整版免费高清| 国产亚洲精品av在线| 99九九线精品视频在线观看视频| 一个人看视频在线观看www免费| 校园人妻丝袜中文字幕| 伦理电影大哥的女人| 日本av手机在线免费观看| 日本熟妇午夜| 精品久久久久久久末码| 欧美日韩一区二区视频在线观看视频在线 | 国产精品女同一区二区软件| 人妻制服诱惑在线中文字幕| 免费观看性生交大片5| 欧美激情久久久久久爽电影| 国产精品久久视频播放| 亚洲电影在线观看av| 日本欧美国产在线视频| 日韩一本色道免费dvd| 日韩 亚洲 欧美在线| 亚洲av国产av综合av卡| 国产一级毛片在线| 99久久精品热视频| 亚洲在线自拍视频| 色综合站精品国产| 日日摸夜夜添夜夜添av毛片| 一区二区三区四区激情视频| 色网站视频免费| 禁无遮挡网站| av网站免费在线观看视频 | 国产精品一区二区性色av| 久久久久精品性色| 免费看a级黄色片| 免费看日本二区| 26uuu在线亚洲综合色| 丝瓜视频免费看黄片| 国产成人91sexporn| 男女那种视频在线观看| 国产精品日韩av在线免费观看| 80岁老熟妇乱子伦牲交| 天美传媒精品一区二区| 黄色日韩在线| 老司机影院成人| 欧美精品一区二区大全| 少妇熟女欧美另类| 美女大奶头视频| 特大巨黑吊av在线直播| 日韩制服骚丝袜av| 成人美女网站在线观看视频| 91久久精品国产一区二区三区| 国产午夜精品论理片| 亚洲在久久综合| 少妇猛男粗大的猛烈进出视频 | 丰满人妻一区二区三区视频av| 国产色婷婷99| 欧美性感艳星| 亚洲经典国产精华液单| 男人和女人高潮做爰伦理| 亚洲精品aⅴ在线观看| 少妇熟女欧美另类| 日韩伦理黄色片| 日韩欧美国产在线观看| 精品久久国产蜜桃| 熟妇人妻久久中文字幕3abv| 欧美成人一区二区免费高清观看| 人妻夜夜爽99麻豆av| 51国产日韩欧美| 久久99蜜桃精品久久| 久久久久久久国产电影| 美女黄网站色视频| 午夜免费男女啪啪视频观看| 久久97久久精品| 人体艺术视频欧美日本| 熟女人妻精品中文字幕| 97人妻精品一区二区三区麻豆| 久久精品国产亚洲av天美| av又黄又爽大尺度在线免费看| 97人妻精品一区二区三区麻豆| 成人二区视频| 亚洲av男天堂| 波多野结衣巨乳人妻| 狂野欧美激情性xxxx在线观看| 特级一级黄色大片| 一区二区三区乱码不卡18| 亚洲精品aⅴ在线观看| 国产视频内射| 久久久成人免费电影| 成人综合一区亚洲| 偷拍熟女少妇极品色| 三级经典国产精品| av女优亚洲男人天堂| 国产亚洲5aaaaa淫片| 国产91av在线免费观看| 亚洲熟妇中文字幕五十中出| 亚洲性久久影院| 亚洲婷婷狠狠爱综合网| av网站免费在线观看视频 | 日韩人妻高清精品专区| 国产精品蜜桃在线观看| 国产 亚洲一区二区三区 | 亚洲三级黄色毛片| 国产综合精华液| 三级男女做爰猛烈吃奶摸视频| 五月天丁香电影| 国产精品福利在线免费观看| av线在线观看网站| 男女边吃奶边做爰视频| 美女黄网站色视频| 亚洲国产成人一精品久久久| 日韩伦理黄色片| 国产91av在线免费观看| 欧美bdsm另类| 成人二区视频| 亚洲成人精品中文字幕电影| 午夜激情欧美在线| 日韩欧美 国产精品| 一本久久精品| 国产精品一区二区在线观看99 | 直男gayav资源| 国产伦精品一区二区三区视频9| 色视频www国产| 亚洲精品久久久久久婷婷小说| 国产麻豆成人av免费视频| 国产午夜福利久久久久久| 欧美成人一区二区免费高清观看| 大香蕉久久网| 69人妻影院| 中国美白少妇内射xxxbb| 国产精品爽爽va在线观看网站| 亚洲人成网站高清观看| 精品午夜福利在线看| 久久久久久久亚洲中文字幕| 美女黄网站色视频| 十八禁国产超污无遮挡网站| 我的女老师完整版在线观看| 最近最新中文字幕大全电影3| 日韩制服骚丝袜av| 直男gayav资源| 美女国产视频在线观看| 午夜久久久久精精品| 亚洲一级一片aⅴ在线观看| 午夜久久久久精精品| 99久久精品热视频| 亚洲国产成人一精品久久久| 久久国产乱子免费精品| 又爽又黄无遮挡网站| 黄片无遮挡物在线观看| 啦啦啦啦在线视频资源| 亚洲成人精品中文字幕电影| 建设人人有责人人尽责人人享有的 | 爱豆传媒免费全集在线观看| 亚洲天堂国产精品一区在线| 亚洲国产精品专区欧美| 精品人妻一区二区三区麻豆| 日韩制服骚丝袜av| 直男gayav资源| 七月丁香在线播放| 十八禁国产超污无遮挡网站| 国产精品人妻久久久影院| 精品一区二区三卡| 久久久久久国产a免费观看| kizo精华| 91在线精品国自产拍蜜月| 大香蕉久久网| 一级毛片我不卡| 大话2 男鬼变身卡| 欧美成人精品欧美一级黄| 亚洲av成人av| 欧美不卡视频在线免费观看| 国产精品美女特级片免费视频播放器| 3wmmmm亚洲av在线观看| 99久久精品一区二区三区| av卡一久久| 久久热精品热| 啦啦啦啦在线视频资源| 亚洲美女视频黄频| 亚洲av成人精品一区久久| 国产 亚洲一区二区三区 | 一级二级三级毛片免费看| 在线播放无遮挡| 女人十人毛片免费观看3o分钟| 插逼视频在线观看| 精品一区二区三区视频在线| 亚洲欧美精品专区久久| 熟女人妻精品中文字幕| 亚洲国产精品sss在线观看| 99热这里只有精品一区| 久久精品国产自在天天线| 精品人妻一区二区三区麻豆| 久久人人爽人人爽人人片va| 久久草成人影院| av一本久久久久| 乱码一卡2卡4卡精品| 夫妻午夜视频| 久久精品国产亚洲av涩爱| 一区二区三区乱码不卡18| 国产永久视频网站| 又爽又黄无遮挡网站| www.色视频.com| 成人一区二区视频在线观看| 免费大片18禁| 欧美不卡视频在线免费观看| 99久国产av精品国产电影| 只有这里有精品99| 亚洲美女搞黄在线观看| 精品久久久久久久久av| 成人欧美大片| 一级毛片久久久久久久久女| h日本视频在线播放| 禁无遮挡网站| 22中文网久久字幕| 在线免费观看不下载黄p国产| 国产午夜精品久久久久久一区二区三区| 99热这里只有精品一区| 黑人高潮一二区| 国产精品人妻久久久久久| 亚洲欧美日韩卡通动漫| 欧美三级亚洲精品| 三级毛片av免费| 婷婷色综合大香蕉| 久久久a久久爽久久v久久| 夫妻午夜视频| 成人高潮视频无遮挡免费网站| 插阴视频在线观看视频| 精品人妻偷拍中文字幕| 嘟嘟电影网在线观看| 我的女老师完整版在线观看| 国产激情偷乱视频一区二区| 一夜夜www| 你懂的网址亚洲精品在线观看| 亚洲人与动物交配视频| 日韩中字成人| 亚洲在线自拍视频| 欧美性感艳星| 大陆偷拍与自拍| 久久精品夜色国产| 国产不卡一卡二| 中文字幕久久专区| 国产黄色小视频在线观看| 女人久久www免费人成看片| 日本一二三区视频观看| 午夜福利在线在线|