• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    CHIP 2020評(píng)測(cè)任務(wù)2概述:中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取

    2022-08-02 05:15:46甘子發(fā)昝紅英關(guān)同峰李雯昕朱田恬穗志方陳清財(cái)
    中文信息學(xué)報(bào) 2022年6期
    關(guān)鍵詞:三元組評(píng)測(cè)類別

    甘子發(fā),昝紅英,4,關(guān)同峰,4,李雯昕,4,張 歡,朱田恬,穗志方,陳清財(cái),4

    (1. 鄭州大學(xué) 信息工程學(xué)院,河南 鄭州 450001;2. 北京大學(xué) 計(jì)算語言學(xué)教育部重點(diǎn)實(shí)驗(yàn)室,北京 100871;3. 哈爾濱工業(yè)大學(xué)(深圳),廣東 深圳 518000;4. 鵬城實(shí)驗(yàn)室,廣東 深圳 518052)

    0 引言

    隨著生物醫(yī)學(xué)領(lǐng)域研究的不斷發(fā)展,產(chǎn)生了越來越多的生物醫(yī)學(xué)文獻(xiàn)。研究人員的醫(yī)學(xué)知識(shí)儲(chǔ)量與其閱讀的文獻(xiàn)數(shù)量密切相關(guān),但普通的研究人員難以盡數(shù)閱讀現(xiàn)有的大量文獻(xiàn),因此對(duì)生物醫(yī)學(xué)文獻(xiàn)中有價(jià)值的信息進(jìn)行提取和挖掘就受到越來越多研究者的關(guān)注。

    信息抽取是自然語言處理的一項(xiàng)重要課題,其基本任務(wù)就是從原始的非結(jié)構(gòu)化文本中抽取指定類型的實(shí)體、關(guān)系和事件等事實(shí)信息,并輸出有意義的結(jié)構(gòu)化信息,以用于智能問答、信息檢索等。信息抽取包括命名實(shí)體識(shí)別、實(shí)體關(guān)系抽取和事件抽取等子任務(wù),本文關(guān)注于實(shí)體關(guān)系抽取。近年來許多學(xué)者在實(shí)體關(guān)系抽取領(lǐng)域開展了深入研究,以從非結(jié)構(gòu)化的文本中抽取有效信息并服務(wù)于下游子任務(wù)。由中文自然語言句子或句子集合組成的醫(yī)學(xué)教材、臨床實(shí)踐以及電子病歷數(shù)據(jù)等均為非結(jié)構(gòu)化的醫(yī)學(xué)文本,醫(yī)學(xué)領(lǐng)域的實(shí)體關(guān)系抽取便是從非結(jié)構(gòu)化醫(yī)學(xué)文本中識(shí)別出醫(yī)學(xué)實(shí)體,并確定實(shí)體對(duì)之間關(guān)系事實(shí)的過程。

    CHIP 2020主題為“數(shù)據(jù)和知識(shí)驅(qū)動(dòng)的醫(yī)療AI”。會(huì)議共享評(píng)測(cè)的任務(wù)2聚焦于“中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取”,希望能通過深度學(xué)習(xí)及其他算法促進(jìn)中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取的相關(guān)研究。評(píng)測(cè)任務(wù)的數(shù)據(jù)總共包括28 008條經(jīng)過人工標(biāo)注實(shí)體關(guān)系的中文醫(yī)學(xué)文本,以及預(yù)先定義好的53種實(shí)體關(guān)系類別標(biāo)簽(schema),其由11種醫(yī)學(xué)實(shí)體類別和44種關(guān)系類別組合而成。任務(wù)要求: 給定一條真實(shí)的中文醫(yī)學(xué)文本,模型需要返回其可能包含的實(shí)體關(guān)系三元組(triple),每個(gè)三元組由主實(shí)體(subject)、關(guān)系(predicate)及客實(shí)體(object)組成。評(píng)測(cè)任務(wù)最終排名指標(biāo)為微平均F1值,示例數(shù)據(jù)如表1所示。

    表1 評(píng)測(cè)任務(wù)數(shù)據(jù)示例

    1 相關(guān)工作

    1.1 實(shí)體關(guān)系抽取研究進(jìn)展

    實(shí)體關(guān)系抽取是自然語言處理的一項(xiàng)重要子任務(wù),有著重要的研究?jī)r(jià)值和廣泛的應(yīng)用前景。隨著醫(yī)學(xué)領(lǐng)域信息化的發(fā)展,醫(yī)學(xué)文本的實(shí)體關(guān)系抽取在提取結(jié)構(gòu)化信息、輔助診斷等方面發(fā)揮著重要作用。中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取任務(wù)的數(shù)據(jù)來源廣泛,包括醫(yī)學(xué)教材、臨床實(shí)踐、電子病歷等,通常由非結(jié)構(gòu)化或半結(jié)構(gòu)化的文本組成。實(shí)體關(guān)系抽取有多種實(shí)現(xiàn)方法,而根據(jù)設(shè)計(jì)思想的差異,實(shí)體關(guān)系抽取方法可以分為流水線方法和聯(lián)合抽取方法[1]。

    1.1.1 流水線方法

    流水線方法是指將實(shí)體關(guān)系抽取分為兩步來實(shí)現(xiàn),分別為命名實(shí)體識(shí)別(named entity recognition,NER)和關(guān)系抽取(relation extraction,RE),但第2步的關(guān)系抽取依賴于第1步的命名實(shí)體識(shí)別,若第1步出現(xiàn)錯(cuò)誤,第2步則必定受到影響,因此流水線方法存在誤差傳遞問題。Soares等[2]將關(guān)系語句到表示關(guān)系的定長(zhǎng)向量的映射定義為函數(shù),并測(cè)試了關(guān)系編碼器的不同架構(gòu)對(duì)關(guān)系抽取效果的影響,最后其提出的關(guān)系抽取預(yù)訓(xùn)練任務(wù)空白匹配(matching the blanks,MTB)讓模型在少樣本關(guān)系抽取任務(wù)上的效果有明顯的提升。Zhong等[3]則通過對(duì)實(shí)體和關(guān)系分別進(jìn)行編碼,使得其結(jié)果超越了之前的所有聯(lián)合抽取模型,并提出了一種新穎且有效的近似方法,只需精度略微下降便可實(shí)現(xiàn)8~16倍的推斷提速。

    1.1.2 聯(lián)合抽取方法

    聯(lián)合抽取方法則采用參數(shù)共享[4-5]或統(tǒng)一標(biāo)注方案[6]實(shí)現(xiàn)聯(lián)合編碼來解決流水線方式的誤差傳遞問題,Zeng等[4]將醫(yī)學(xué)文本中的實(shí)體關(guān)系三元組分為正常、實(shí)體對(duì)重疊、單實(shí)體重疊三個(gè)類別,為了解決絕大多數(shù)方法只能關(guān)注于正常三元組而少有能考慮到其他類別三元組的問題,提出了使用復(fù)制機(jī)制(copy mechanism)的基于序列到序列(seq2seq)的端到端(end2end)模型,該模型可以聯(lián)合抽取文本中任意類別的關(guān)系事實(shí)。Fu等[5]提出在實(shí)體關(guān)系抽取方法中,有三個(gè)方面的問題: 實(shí)體識(shí)別和關(guān)系抽取的端到端聯(lián)合模型、對(duì)重疊關(guān)系的預(yù)測(cè)、關(guān)系尤其是重疊關(guān)系之間的相互作用,這三個(gè)方面仍有待在一個(gè)統(tǒng)一的框架內(nèi)得到充分處理,為此Fu等提出了關(guān)系圖模型(GraphRel),該模型是第一個(gè)處理關(guān)系抽取中上述全部三個(gè)關(guān)鍵方面的神經(jīng)端到端聯(lián)合模型。Wei等[6]為了解決實(shí)體重疊的問題,提出了一個(gè)新的級(jí)聯(lián)二元標(biāo)注框架(cascade binary tagging framework,CASREL),不同于之前的方法,其將關(guān)系當(dāng)作離散標(biāo)簽,該框架將關(guān)系建模成從句子中的主實(shí)體映射到客實(shí)體的函數(shù),由此來解決重疊問題。

    1.2 中文醫(yī)學(xué)文本的實(shí)體關(guān)系類別研究

    知識(shí)圖譜的構(gòu)建與融合一直受到研究者的關(guān)注,奧德瑪?shù)萚7]、昝紅英等[8]利用自然語言處理技術(shù)與文本挖掘技術(shù),構(gòu)建了中文醫(yī)學(xué)知識(shí)圖譜(Chinese medical knowledge graph,CMeKG),CMeKG包括疾病、藥物、醫(yī)療程序及身體等實(shí)體,并描述了100余萬個(gè)概念關(guān)系實(shí)例及屬性三元組,并針對(duì)疾病、藥物、醫(yī)療程序及身體等各類醫(yī)學(xué)概念進(jìn)行細(xì)化描述,定義了各類概念的關(guān)系描述框架,其將實(shí)體分為12大類,并定義了實(shí)體間的12個(gè)關(guān)系類型,為此后的醫(yī)學(xué)知識(shí)圖譜研究奠定了基礎(chǔ),同時(shí)也為中文醫(yī)學(xué)文本的實(shí)體關(guān)系類別研究提供了參考。昝紅英等[9]在醫(yī)學(xué)領(lǐng)域?qū)<业闹笇?dǎo)下制定了適合兒科學(xué)的命名實(shí)體和實(shí)體關(guān)系的標(biāo)注體系及詳細(xì)標(biāo)注規(guī)范;融合國(guó)內(nèi)外相關(guān)醫(yī)學(xué)標(biāo)準(zhǔn)資源,利用標(biāo)注工具對(duì)298余萬字兒科醫(yī)學(xué)文本中實(shí)體及實(shí)體關(guān)系進(jìn)行機(jī)器預(yù)標(biāo)注、人工標(biāo)注及人工校對(duì),構(gòu)建了面向兒科疾病的醫(yī)學(xué)實(shí)體及關(guān)系語料庫。在前者的基礎(chǔ)上,Guan等[10]參考國(guó)內(nèi)外權(quán)威的醫(yī)學(xué)標(biāo)準(zhǔn)術(shù)語集,搜集多種來源的醫(yī)學(xué)文本資料,包括常見疾病的臨床實(shí)踐、醫(yī)學(xué)教材《兒科學(xué)》、《臨床兒科學(xué)》等來源的醫(yī)學(xué)文本,通過對(duì)部分語料進(jìn)行預(yù)標(biāo)注并對(duì)標(biāo)注結(jié)果進(jìn)行分析,與醫(yī)學(xué)專家共同研究評(píng)估,總結(jié)出了11種實(shí)體類別和44種關(guān)系類別,并由此制定出中文醫(yī)學(xué)信息抽取數(shù)據(jù)集(Chinese medical information extraction,CMeIE)的語料標(biāo)注規(guī)范,以及實(shí)體和關(guān)系描述體系規(guī)范。

    中文醫(yī)學(xué)文本的實(shí)體關(guān)系類別研究可以優(yōu)化實(shí)體關(guān)系設(shè)計(jì),并有效促進(jìn)醫(yī)學(xué)知識(shí)圖譜的構(gòu)建與融合。2018年瑞金醫(yī)院人工智能輔助構(gòu)建知識(shí)圖譜大賽公布了600份與糖尿病相關(guān)的學(xué)術(shù)論文和糖尿病臨床指南,以及定義好的11種關(guān)系類別,旨在通過糖尿病相關(guān)的教科書、研究論文來做糖尿病文獻(xiàn)挖掘并構(gòu)建糖尿病知識(shí)圖譜。其中排名第1的模型結(jié)合Zeng等[11]與Zhou等[12]的優(yōu)點(diǎn)并做出改進(jìn),其F1值達(dá)到了0.787。隨著實(shí)體關(guān)系抽取技術(shù)的不斷發(fā)展,中文醫(yī)學(xué)文本的實(shí)體關(guān)系類別研究與醫(yī)學(xué)知識(shí)圖譜研究也在不斷相互促進(jìn),共同發(fā)展。此次CHIP 2020評(píng)測(cè)任務(wù)2聚焦于中文醫(yī)學(xué)文本的實(shí)體關(guān)系抽取任務(wù),希望能驗(yàn)證基于深度學(xué)習(xí)算法的實(shí)體關(guān)系抽取技術(shù),促進(jìn)中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取的研究。

    2 評(píng)測(cè)數(shù)據(jù)

    CHIP 2020評(píng)測(cè)任務(wù)2的數(shù)據(jù)集為CMeIE數(shù)據(jù)集,該數(shù)據(jù)集為公開數(shù)據(jù)集,可用于科學(xué)研究。CMeIE數(shù)據(jù)集的數(shù)據(jù)來源廣泛,包括常見疾病的臨床實(shí)踐、醫(yī)學(xué)教材《兒科學(xué)》、《臨床兒科學(xué)》等來源的醫(yī)學(xué)文本。醫(yī)學(xué)教材均在國(guó)家衛(wèi)生部指導(dǎo)下由專業(yè)醫(yī)生編寫,是極其權(quán)威和可靠的。臨床實(shí)踐則是根據(jù)具體的臨床情況,系統(tǒng)化制定的以幫助醫(yī)生和患者選擇恰當(dāng)治療手段的醫(yī)學(xué)指南,具有結(jié)構(gòu)規(guī)范、內(nèi)容豐富和更新及時(shí)的特點(diǎn)。該數(shù)據(jù)集共有11種實(shí)體類別和44種關(guān)系類別,并且對(duì)每種類別都定義了描述信息和標(biāo)注規(guī)范。標(biāo)注團(tuán)隊(duì)在對(duì)醫(yī)學(xué)文本進(jìn)行標(biāo)注之前,將其以篇章為單位分為若干份,每一份都由兩名標(biāo)注者獨(dú)立進(jìn)行標(biāo)注,對(duì)于標(biāo)注結(jié)果不一致和不確定的情況,由專家討論后確定最終結(jié)果。標(biāo)注完成后對(duì)醫(yī)學(xué)文本進(jìn)行分句,每一條醫(yī)學(xué)文本以及其中包含的實(shí)體關(guān)系三元組為一條數(shù)據(jù)。本文使用F1值衡量數(shù)據(jù)集的標(biāo)注一致性[13],實(shí)體和關(guān)系的F1值分別達(dá)到了0.85和0.82。

    CMeIE數(shù)據(jù)集包含11種實(shí)體類別、44種關(guān)系類別、28 008條醫(yī)學(xué)文本和85 282個(gè)三元組。數(shù)據(jù)集分為4部分,其中,訓(xùn)練集包含14 399條數(shù)據(jù),驗(yàn)證集包含3 585條數(shù)據(jù),測(cè)試集1包含4 482條數(shù)據(jù),測(cè)試集2包含5 602條數(shù)據(jù)。該數(shù)據(jù)集有著各關(guān)系類別數(shù)據(jù)量分布不均衡的特點(diǎn),整體上呈現(xiàn)長(zhǎng)尾分布。44種關(guān)系類別中,臨床表現(xiàn)關(guān)系的三元組有22 932個(gè),而病理生理關(guān)系的三元組只有60個(gè),詳細(xì)信息如表2所示。

    表2 訓(xùn)練集、驗(yàn)證集、測(cè)試集1、測(cè)試集2中三元組在各關(guān)系類型上的數(shù)量分布情況

    3 評(píng)測(cè)結(jié)果

    評(píng)測(cè)任務(wù)2的訓(xùn)練集、驗(yàn)證集以及測(cè)試集1于2020年7月20日發(fā)布后,參賽隊(duì)伍搭建并訓(xùn)練各自的模型,每支參賽隊(duì)伍每天可提交一次在測(cè)試集1上的結(jié)果,系統(tǒng)會(huì)及時(shí)根據(jù)參賽隊(duì)伍提交的結(jié)果更新排名。測(cè)試集2于2020年9月28日發(fā)布,每支參賽隊(duì)伍在測(cè)試集2公布期間每天可提交一次結(jié)果。最終結(jié)果根據(jù)各參賽隊(duì)伍在測(cè)試集2上的微平均F1值進(jìn)行排名。評(píng)測(cè)任務(wù)2于2020年10月15日截止,至截止日期總共174支隊(duì)伍參加評(píng)測(cè)任務(wù),共計(jì)515人,其中,105支隊(duì)伍來自科研院校等機(jī)構(gòu),64支隊(duì)伍來自企業(yè),5支隊(duì)伍為個(gè)人報(bào)名。最終51支隊(duì)伍提交了測(cè)試集1的結(jié)果,17支隊(duì)伍提交了測(cè)試集2的結(jié)果。根據(jù)參賽規(guī)則,參賽隊(duì)伍的評(píng)測(cè)方法和結(jié)果,由評(píng)測(cè)組織者進(jìn)行學(xué)術(shù)評(píng)測(cè)研究分析。

    3.1 評(píng)估指標(biāo)

    評(píng)測(cè)使用的評(píng)價(jià)指標(biāo)包括精確率(Precision,P)、召回率(Recall,R)和F1值。最終排名以F1值為基準(zhǔn)。本次評(píng)測(cè)任務(wù)使用微平均的方式計(jì)算精確率、召回率和F1值,即不分類別地統(tǒng)計(jì)全部的三元組進(jìn)行計(jì)算。計(jì)算如式(1)~式(3)所示。

    其中,n為測(cè)試集2中的句子個(gè)數(shù),最終根據(jù)F1值進(jìn)行排名。

    3.2 方法分析

    采用預(yù)訓(xùn)練語言模型,結(jié)合實(shí)體關(guān)系抽取框架,然后針對(duì)抽取任務(wù)進(jìn)行微調(diào),最后對(duì)多個(gè)模型進(jìn)行融合是解決中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取任務(wù)的主流策略。預(yù)訓(xùn)練語言模型一般在大規(guī)模文本語料庫上進(jìn)行預(yù)訓(xùn)練,以獲得豐富的語義表示信息,并可以在給定任務(wù)文本上進(jìn)行微調(diào)。本文對(duì)前三名隊(duì)伍的方法進(jìn)行分析。

    參賽隊(duì)伍使用了多種預(yù)訓(xùn)練語言模型。前三名的隊(duì)伍均使用了強(qiáng)力優(yōu)化變換器雙向編碼表征模型(robustly optimized BERT pretraining approach,RoBERTa)[14]以及面向漢語理解的神經(jīng)語境表征模型(neural contextualized representation for Chinese language understanding,NEZHA)[15]。排名第1的隊(duì)伍另外使用了變換器雙向編碼表征模型(bidirectional encoder representations from transformers,BERT)[16],排名第3的隊(duì)伍另外使用了高效替代令牌檢測(cè)分類編碼器(efficiently learning an encoder that classifies token replacements accurately,ELECTRA)[17]。

    參賽隊(duì)伍使用了多種機(jī)器學(xué)習(xí)算法與預(yù)訓(xùn)練語言模型融合進(jìn)行實(shí)體關(guān)系的抽取。排名第1的隊(duì)伍采用了3種訓(xùn)練策略: ①使用層疊式指針網(wǎng)絡(luò)先識(shí)別主實(shí)體,再基于主實(shí)體感知抽取不同關(guān)系類型下的客實(shí)體,并對(duì)其做出了改進(jìn),如訓(xùn)練時(shí)針對(duì)不同主實(shí)體構(gòu)建其對(duì)應(yīng)的訓(xùn)練集、引入conditional LarerNorm對(duì)主實(shí)體的表征進(jìn)行感知、改進(jìn)BERT的分詞器以更好地提取英文專有名詞等;②將實(shí)體關(guān)系抽取任務(wù)看作多頭選擇(multi-head selection)[18]問題,將編碼層由長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)模型(long short-term memory,LSTM)[19]改為BERT等預(yù)訓(xùn)練模型,并使用條件隨機(jī)場(chǎng)(conditional random field,CRF)[20]或指針網(wǎng)絡(luò)作為關(guān)系分類器;③基于注意力機(jī)制(attention mechanism)[21]對(duì)第2種策略進(jìn)行改進(jìn),將BERT最后兩層編碼進(jìn)行雙仿射變換(biaffine)計(jì)算[22]得到多頭矩陣,同時(shí)引入[CLS]進(jìn)行全局編碼。上述三種策略中,第3種策略取得了最好的效果。基于上述的三種算法策略,排名第1的隊(duì)伍使用K折交叉驗(yàn)證(K-fold cross validation)構(gòu)建了模型融合策略;將原始數(shù)據(jù)集(訓(xùn)練集+驗(yàn)證集)劃分為5折進(jìn)行交叉驗(yàn)證,并采用了4種不同的預(yù)訓(xùn)練語言模型。

    排名第2的隊(duì)伍主要采用指針網(wǎng)絡(luò)結(jié)合預(yù)訓(xùn)練模型預(yù)測(cè)主實(shí)體、客實(shí)體及關(guān)系,并用conditional LayerNorm或注意力機(jī)制融合主實(shí)體向量與字符向量。對(duì)于單個(gè)模型,其優(yōu)化方案有采樣更多主實(shí)體、融合BERT模型多層表征、通過融合專業(yè)名詞的邊界信息以及拼接詞嵌入向量進(jìn)行詞匯增強(qiáng)、分別對(duì)主實(shí)體預(yù)測(cè)和客實(shí)體預(yù)測(cè)的分?jǐn)?shù)加乘方以加快收斂、指數(shù)移動(dòng)平均(exponential moving average,EMA)、動(dòng)態(tài)調(diào)整學(xué)習(xí)率等。對(duì)于多個(gè)模型,其使用了K折交叉驗(yàn)證進(jìn)行模型融合。

    排名第3的隊(duì)伍使用了兩種不同的策略: ①使用層疊式指針網(wǎng)絡(luò),并輔以不同訓(xùn)練方案,如每個(gè)數(shù)據(jù)實(shí)例隨機(jī)采樣一個(gè)主實(shí)體、每個(gè)實(shí)例采樣所有主實(shí)體或采用不同句長(zhǎng)以得到更豐富的三元組抽取結(jié)果;②在第1種策略的基礎(chǔ)上引入NER進(jìn)行多任務(wù)訓(xùn)練: 在BERT的編碼層之后連接CRF,采用序列標(biāo)注方法進(jìn)行實(shí)體識(shí)別。對(duì)于多個(gè)模型,其同樣使用了K折交叉驗(yàn)證進(jìn)行模型融合。

    數(shù)據(jù)預(yù)處理可以讓模型更好地提取和學(xué)習(xí)到文本中的表示特征,提高模型的泛化能力和預(yù)測(cè)能力。在此次任務(wù)中,數(shù)據(jù)集已經(jīng)去除過重復(fù)數(shù)據(jù)。為了提升模型訓(xùn)練效果,參賽隊(duì)伍均對(duì)過長(zhǎng)的文本進(jìn)行了截?cái)嗵幚?。排名?和第3的隊(duì)伍均使用了不同句長(zhǎng)的數(shù)據(jù)進(jìn)行訓(xùn)練以得到更豐富的預(yù)測(cè)結(jié)果。排名第3的隊(duì)伍還使用訓(xùn)練好的模型預(yù)測(cè)醫(yī)學(xué)文本中的實(shí)體得到偽標(biāo)簽(pseudo-label)以達(dá)到數(shù)據(jù)增強(qiáng)的目的。

    3.3 結(jié)果分析

    對(duì)17支隊(duì)伍提交的測(cè)試集2的評(píng)測(cè)結(jié)果進(jìn)行分析,F(xiàn)1值的平均數(shù)為0.551 5,最大值為0.648 6,最小值為0.276 0,中位數(shù)為0.566 2。排名前三的隊(duì)伍提交的各自最優(yōu)的結(jié)果信息如表3所示,包括參賽單位、方法描述和F1值。

    表3 排名前三參賽隊(duì)伍的系統(tǒng)結(jié)果

    圖1為排名前三的隊(duì)伍提交結(jié)果在測(cè)試集2中各關(guān)系類別上的表現(xiàn),縱坐標(biāo)表示各類別上的F1值,橫坐標(biāo)表示44種中文醫(yī)學(xué)文本關(guān)系類別,并按照F1值從高到低對(duì)類別進(jìn)行排序。各隊(duì)伍對(duì)“多發(fā)季節(jié)”和“同義詞”這兩種關(guān)系類別的三元組抽取效果最好,所有隊(duì)伍結(jié)果的F1值都超過了0.8,主要原因是“多發(fā)季節(jié)”的客實(shí)體特征明顯,大多包含“秋冬季”“春秋”等詞匯,而“同義詞”的主實(shí)體和客實(shí)體相似性和關(guān)聯(lián)性較強(qiáng)?!扒旨爸車M織轉(zhuǎn)移的癥狀”抽取效果最差,三支隊(duì)伍的成績(jī)均為0.0,這主要是因?yàn)椤扒旨爸車M織轉(zhuǎn)移的癥狀”這一關(guān)系類別包含的三元組數(shù)量極少,而且其與包含三元組數(shù)量最多的“臨床表現(xiàn)”存在實(shí)體對(duì)重疊的問題,這導(dǎo)致系統(tǒng)難以識(shí)別這一關(guān)系類別。

    圖1 排名前三的隊(duì)伍分別在 44 種關(guān)系類別上的F1值

    結(jié)合各關(guān)系類別的數(shù)據(jù)量和相關(guān)實(shí)體特征信息分析,可以發(fā)現(xiàn)實(shí)體具有特征明顯的獨(dú)特性詞匯、主客實(shí)體相似性和關(guān)聯(lián)性較強(qiáng)以及數(shù)據(jù)量大的實(shí)體關(guān)系類型抽取效果較好,而數(shù)據(jù)稀疏、沒有明顯特征信息的實(shí)體關(guān)系類型則抽取效果較差。模型表現(xiàn)好的實(shí)體關(guān)系類別,如“多發(fā)季節(jié)”“同義詞”“鑒別診斷”及“多發(fā)地區(qū)”,一般其三元組的實(shí)體特征信息明顯、辨識(shí)性強(qiáng),這可以幫助模型表現(xiàn)出好的抽取效果。抽取效果差的實(shí)體關(guān)系類型,如“侵及周圍組織轉(zhuǎn)移的癥狀”“預(yù)后狀況”“相關(guān)(轉(zhuǎn)化)”及“發(fā)病機(jī)制”,由于實(shí)體沒有明顯的特征信息、主客實(shí)體的相似性和關(guān)聯(lián)性不強(qiáng)以及數(shù)據(jù)量少,因此抽取效果較差。

    在各實(shí)體關(guān)系類別中,存在關(guān)系重疊的問題,在這種情況下,數(shù)據(jù)量和實(shí)體特征的獨(dú)特性對(duì)實(shí)體關(guān)系抽取效果的影響被擴(kuò)大,數(shù)據(jù)量少且實(shí)體特征不明顯的實(shí)體關(guān)系抽取效果大大降低,如“侵及周圍組織轉(zhuǎn)移的癥狀”。

    結(jié)合不同隊(duì)伍的系統(tǒng)方案分析,發(fā)現(xiàn)在抽取效果好的實(shí)體關(guān)系類別中,各系統(tǒng)方案的性能差別不大,在抽取效果差的實(shí)體關(guān)系類別中,各系統(tǒng)方案的性能開始有了差異。因此提升在這些實(shí)體特征不明顯、實(shí)體間相似性和關(guān)聯(lián)性不強(qiáng)以及數(shù)據(jù)量少的實(shí)體關(guān)系類別上的抽取效果,對(duì)模型總體抽取效果的提升具有明顯的幫助。本次評(píng)測(cè)任務(wù)2中排名前三的隊(duì)伍均使用了多模型融合并結(jié)合各類機(jī)器學(xué)習(xí)算法的方案。排名第1的隊(duì)伍使用基于注意力機(jī)制改進(jìn)的多頭選擇策略,在抽取效果好的類別上的F1值略優(yōu)于其他兩支隊(duì)伍,但在抽取效果較差的類別上的F1值卻遜于其他兩支隊(duì)伍更多,不過因?yàn)槌槿⌒Ч玫念悇e一般數(shù)據(jù)量較大,所以總體上其預(yù)測(cè)正確的三元組數(shù)量更多,其微平均F1值更好。

    4 結(jié)語

    中國(guó)健康信息處理會(huì)議(CHIP 2020)共享評(píng)測(cè)任務(wù)2為中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取,總共開放了28 008條醫(yī)學(xué)文本、預(yù)先定義好的11種實(shí)體類型和44種關(guān)系類型。共有174支隊(duì)伍參加了評(píng)測(cè)任務(wù),其中17支隊(duì)伍提交了最終結(jié)果。排名第1的模型微平均F1值達(dá)到了0.648 6,其使用了將BERT等預(yù)訓(xùn)練模型和多頭選擇機(jī)制融合的抽取策略。參賽隊(duì)伍均使用了預(yù)訓(xùn)練模型,結(jié)合神經(jīng)網(wǎng)絡(luò)模型和各種抽取框架,然后針對(duì)實(shí)體關(guān)系抽取任務(wù)進(jìn)行微調(diào),最后對(duì)各個(gè)模型的結(jié)果進(jìn)行集成以提升整個(gè)模型的效果。結(jié)果分析顯示,排名前三的模型表現(xiàn)很接近,微平均F1值在0.63~0.65之間。排名第1的隊(duì)伍F1值較后兩支隊(duì)伍高出了0.01左右,但不同類別的實(shí)體關(guān)系抽取結(jié)果差異較大,數(shù)據(jù)量大、實(shí)體特征明顯以及實(shí)體關(guān)聯(lián)性強(qiáng)的實(shí)體關(guān)系類別抽取效果明顯較好。本次CHIP 2020共享評(píng)測(cè)任務(wù)2同時(shí)也為中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取任務(wù)提供了可供參考的數(shù)據(jù)集和實(shí)驗(yàn)結(jié)果。在未來的工作中,如何提升模型在數(shù)據(jù)量較少的小類別以及關(guān)系重疊三元組上的表現(xiàn),仍是提高中文醫(yī)學(xué)文本實(shí)體關(guān)系抽取模型性能的關(guān)鍵。

    猜你喜歡
    三元組評(píng)測(cè)類別
    基于帶噪聲數(shù)據(jù)集的強(qiáng)魯棒性隱含三元組質(zhì)檢算法*
    特征標(biāo)三元組的本原誘導(dǎo)子
    次時(shí)代主機(jī)微軟XSX全方位評(píng)測(cè)(下)
    次時(shí)代主機(jī)微軟XSX全方位評(píng)測(cè)(上)
    關(guān)于余撓三元組的periodic-模
    攻坡新利器,TOKEN VENTOUS評(píng)測(cè)
    Canyon Ultimate CF SLX 8.0 DI2評(píng)測(cè)
    服務(wù)類別
    論類別股東會(huì)
    商事法論集(2014年1期)2014-06-27 01:20:42
    中醫(yī)類別全科醫(yī)師培養(yǎng)模式的探討
    九色成人免费人妻av| 日日撸夜夜添| 久久午夜综合久久蜜桃| 午夜福利影视在线免费观看| 建设人人有责人人尽责人人享有的| 免费少妇av软件| 精品少妇黑人巨大在线播放| 男女免费视频国产| 亚洲综合色网址| 亚洲高清免费不卡视频| 久久精品国产a三级三级三级| tube8黄色片| 午夜免费男女啪啪视频观看| 国产黄色免费在线视频| 青春草亚洲视频在线观看| 在线 av 中文字幕| 乱码一卡2卡4卡精品| 日本黄色日本黄色录像| 中文欧美无线码| 国产视频首页在线观看| 丝袜脚勾引网站| 丝袜喷水一区| 成年美女黄网站色视频大全免费| 一区二区av电影网| 精品卡一卡二卡四卡免费| 黄色 视频免费看| 蜜桃在线观看..| 亚洲av日韩在线播放| 国产成人91sexporn| 久久97久久精品| 天堂俺去俺来也www色官网| 成年女人在线观看亚洲视频| av网站免费在线观看视频| 中国三级夫妇交换| 老司机亚洲免费影院| 乱人伦中国视频| 成年人免费黄色播放视频| 国产精品国产三级专区第一集| 九色成人免费人妻av| 大香蕉97超碰在线| 在线观看免费视频网站a站| 肉色欧美久久久久久久蜜桃| 爱豆传媒免费全集在线观看| 丰满少妇做爰视频| 国产高清三级在线| 欧美日韩一区二区视频在线观看视频在线| 99热网站在线观看| 王馨瑶露胸无遮挡在线观看| 晚上一个人看的免费电影| 97超碰精品成人国产| 男的添女的下面高潮视频| 亚洲成国产人片在线观看| 亚洲欧美日韩卡通动漫| 亚洲国产精品国产精品| 黄色配什么色好看| 香蕉国产在线看| 搡老乐熟女国产| 亚洲欧美一区二区三区国产| 色5月婷婷丁香| 2022亚洲国产成人精品| 国产精品欧美亚洲77777| 亚洲四区av| 午夜福利视频在线观看免费| 纵有疾风起免费观看全集完整版| 狂野欧美激情性xxxx在线观看| 日韩 亚洲 欧美在线| 在线观看免费视频网站a站| 天天操日日干夜夜撸| 亚洲综合色网址| 2021少妇久久久久久久久久久| 亚洲少妇的诱惑av| 国产女主播在线喷水免费视频网站| 中国三级夫妇交换| 美女国产高潮福利片在线看| 精品一区二区三卡| 亚洲av日韩在线播放| 国产国拍精品亚洲av在线观看| 一本大道久久a久久精品| 欧美成人午夜免费资源| 成人免费观看视频高清| 成人国产av品久久久| a级片在线免费高清观看视频| 美女大奶头黄色视频| 国产男女内射视频| 欧美精品亚洲一区二区| 久久久久久久久久成人| 精品久久久久久电影网| 老司机影院成人| 国产色婷婷99| 欧美亚洲 丝袜 人妻 在线| 久久人人爽av亚洲精品天堂| 九九爱精品视频在线观看| 色94色欧美一区二区| 亚洲av.av天堂| 一区二区三区乱码不卡18| 丁香六月天网| 国产女主播在线喷水免费视频网站| √禁漫天堂资源中文www| 最近2019中文字幕mv第一页| 不卡视频在线观看欧美| 七月丁香在线播放| 亚洲人与动物交配视频| 成年人免费黄色播放视频| 搡女人真爽免费视频火全软件| 少妇猛男粗大的猛烈进出视频| 自线自在国产av| 国产精品一区二区在线观看99| 亚洲国产精品专区欧美| a 毛片基地| 精品人妻在线不人妻| 91午夜精品亚洲一区二区三区| 欧美性感艳星| av线在线观看网站| 最近最新中文字幕大全免费视频 | 热99久久久久精品小说推荐| 欧美人与性动交α欧美精品济南到 | 精品福利永久在线观看| 激情五月婷婷亚洲| 国产爽快片一区二区三区| 成人亚洲欧美一区二区av| 我的女老师完整版在线观看| 一二三四在线观看免费中文在 | 午夜激情久久久久久久| 国产精品99久久99久久久不卡 | 国产亚洲av片在线观看秒播厂| 国产成人精品久久久久久| 国产亚洲欧美精品永久| 亚洲精品中文字幕在线视频| 欧美日韩一区二区视频在线观看视频在线| 色哟哟·www| 国产日韩欧美视频二区| 国产在线视频一区二区| 欧美精品国产亚洲| 99热这里只有是精品在线观看| 精品少妇黑人巨大在线播放| 亚洲精品色激情综合| 国产精品久久久久久精品电影小说| 久久久精品免费免费高清| 欧美日韩成人在线一区二区| 欧美日韩国产mv在线观看视频| 亚洲欧美色中文字幕在线| 永久免费av网站大全| 国产视频首页在线观看| 极品少妇高潮喷水抽搐| 亚洲精品日韩在线中文字幕| 大片免费播放器 马上看| 国产色爽女视频免费观看| 日韩av不卡免费在线播放| 人人澡人人妻人| 精品99又大又爽又粗少妇毛片| 国产男女超爽视频在线观看| 国国产精品蜜臀av免费| 欧美日韩亚洲高清精品| 色5月婷婷丁香| 国产精品无大码| 狂野欧美激情性xxxx在线观看| 欧美 亚洲 国产 日韩一| 久久这里有精品视频免费| 91国产中文字幕| 国产精品久久久久久av不卡| 亚洲第一av免费看| 91aial.com中文字幕在线观看| 一二三四中文在线观看免费高清| 成年女人在线观看亚洲视频| 日本wwww免费看| 大香蕉97超碰在线| 免费大片黄手机在线观看| 亚洲av.av天堂| 狂野欧美激情性bbbbbb| 国产在线视频一区二区| 成人国语在线视频| 亚洲国产欧美日韩在线播放| 久久99一区二区三区| 制服人妻中文乱码| 丁香六月天网| 哪个播放器可以免费观看大片| av卡一久久| 久久国产精品男人的天堂亚洲 | 99久久人妻综合| 在线看a的网站| 在线观看国产h片| 男人舔女人的私密视频| 日韩av不卡免费在线播放| 91在线精品国自产拍蜜月| videos熟女内射| 美女大奶头黄色视频| 日本爱情动作片www.在线观看| 黑人高潮一二区| 精品一区二区三区视频在线| 国产在线免费精品| 久久ye,这里只有精品| 午夜精品国产一区二区电影| 这个男人来自地球电影免费观看 | 在线观看国产h片| 老熟女久久久| 亚洲一区二区三区欧美精品| 一级毛片我不卡| 两个人免费观看高清视频| 一区在线观看完整版| 久久 成人 亚洲| 巨乳人妻的诱惑在线观看| 亚洲精品,欧美精品| 亚洲婷婷狠狠爱综合网| 深夜精品福利| 九色成人免费人妻av| 18禁动态无遮挡网站| 成人毛片60女人毛片免费| 天堂8中文在线网| 男女午夜视频在线观看 | 中文字幕亚洲精品专区| 国产精品国产三级专区第一集| 咕卡用的链子| 久久鲁丝午夜福利片| 日韩中文字幕视频在线看片| 少妇熟女欧美另类| 天堂中文最新版在线下载| 99久久中文字幕三级久久日本| 99热6这里只有精品| 90打野战视频偷拍视频| 两个人看的免费小视频| 午夜福利乱码中文字幕| 久久精品久久久久久噜噜老黄| 下体分泌物呈黄色| 欧美日韩综合久久久久久| 欧美少妇被猛烈插入视频| 99久久人妻综合| 汤姆久久久久久久影院中文字幕| 亚洲精品日本国产第一区| 黄色配什么色好看| 9色porny在线观看| 久久久国产欧美日韩av| 五月伊人婷婷丁香| 秋霞在线观看毛片| 最近中文字幕2019免费版| 亚洲欧洲精品一区二区精品久久久 | 日韩大片免费观看网站| 青春草国产在线视频| 国产熟女欧美一区二区| 国产日韩一区二区三区精品不卡| 国产xxxxx性猛交| 亚洲天堂av无毛| 丝袜脚勾引网站| 欧美最新免费一区二区三区| 青青草视频在线视频观看| 国产xxxxx性猛交| 久久精品久久久久久噜噜老黄| 国产精品99久久99久久久不卡 | 日韩,欧美,国产一区二区三区| av免费在线看不卡| 午夜精品国产一区二区电影| 欧美亚洲 丝袜 人妻 在线| 久久国内精品自在自线图片| av有码第一页| 亚洲情色 制服丝袜| 精品亚洲乱码少妇综合久久| 亚洲av日韩在线播放| 久久国产亚洲av麻豆专区| 国产又色又爽无遮挡免| 免费久久久久久久精品成人欧美视频 | 亚洲国产日韩一区二区| 亚洲国产精品一区三区| h视频一区二区三区| 日韩不卡一区二区三区视频在线| 韩国高清视频一区二区三区| 亚洲精品乱码久久久久久按摩| videossex国产| 精品少妇黑人巨大在线播放| 在线观看国产h片| 国产成人精品一,二区| 日本色播在线视频| 韩国av在线不卡| 寂寞人妻少妇视频99o| 免费观看无遮挡的男女| 高清视频免费观看一区二区| 中文精品一卡2卡3卡4更新| 久久久久久久大尺度免费视频| 1024视频免费在线观看| 国产老妇伦熟女老妇高清| 岛国毛片在线播放| 久久久久久久精品精品| 中国美白少妇内射xxxbb| 精品久久蜜臀av无| 男女午夜视频在线观看 | 国产又爽黄色视频| 国产成人免费观看mmmm| 精品亚洲乱码少妇综合久久| 一区二区av电影网| 国产爽快片一区二区三区| 超色免费av| 国产精品嫩草影院av在线观看| 精品酒店卫生间| 成人影院久久| 日韩电影二区| 精品午夜福利在线看| 天天躁夜夜躁狠狠躁躁| 亚洲天堂av无毛| 人妻系列 视频| 在线看a的网站| 9191精品国产免费久久| 女人久久www免费人成看片| 成人影院久久| 国产精品人妻久久久久久| 黑人高潮一二区| 伊人久久国产一区二区| 欧美bdsm另类| 香蕉精品网在线| 这个男人来自地球电影免费观看 | 好男人视频免费观看在线| 精品少妇黑人巨大在线播放| 国产成人av激情在线播放| 久久精品aⅴ一区二区三区四区 | 中文字幕最新亚洲高清| 午夜免费男女啪啪视频观看| 有码 亚洲区| 久久久国产欧美日韩av| 最近最新中文字幕免费大全7| 九九爱精品视频在线观看| 欧美日韩视频精品一区| 久久久精品区二区三区| 91午夜精品亚洲一区二区三区| 99久久综合免费| 国产探花极品一区二区| 免费观看性生交大片5| 国产又色又爽无遮挡免| av天堂久久9| 久久久精品免费免费高清| 中文精品一卡2卡3卡4更新| 男女午夜视频在线观看 | 女人被躁到高潮嗷嗷叫费观| 国产一区二区三区av在线| 国产乱来视频区| 欧美精品人与动牲交sv欧美| a级毛片黄视频| 天堂中文最新版在线下载| 咕卡用的链子| 欧美日韩一区二区视频在线观看视频在线| 婷婷色综合www| 国产免费现黄频在线看| videossex国产| 久久精品人人爽人人爽视色| 亚洲高清免费不卡视频| 亚洲成人av在线免费| 精品少妇内射三级| 亚洲精品美女久久久久99蜜臀 | 成人亚洲欧美一区二区av| 久久韩国三级中文字幕| 看十八女毛片水多多多| 人妻 亚洲 视频| 久久精品国产自在天天线| 美女国产高潮福利片在线看| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 成人亚洲欧美一区二区av| 一边亲一边摸免费视频| 亚洲欧美日韩另类电影网站| 免费av不卡在线播放| 欧美另类一区| 欧美成人午夜免费资源| 捣出白浆h1v1| 免费在线观看黄色视频的| 91精品国产国语对白视频| 国产日韩欧美视频二区| 黄色一级大片看看| 亚洲国产av影院在线观看| 国语对白做爰xxxⅹ性视频网站| 十八禁高潮呻吟视频| 国产免费福利视频在线观看| 精品第一国产精品| 久久精品国产a三级三级三级| 你懂的网址亚洲精品在线观看| 黄片播放在线免费| 亚洲少妇的诱惑av| 久久精品国产自在天天线| 国产精品蜜桃在线观看| 看非洲黑人一级黄片| 亚洲国产成人一精品久久久| 久久精品久久久久久噜噜老黄| 国产欧美日韩一区二区三区在线| 亚洲av成人精品一二三区| 韩国精品一区二区三区 | 青春草视频在线免费观看| 国产一区亚洲一区在线观看| 夜夜爽夜夜爽视频| 国产激情久久老熟女| 男人添女人高潮全过程视频| 激情五月婷婷亚洲| 深夜精品福利| 一二三四中文在线观看免费高清| 久久精品国产亚洲av涩爱| 黑人猛操日本美女一级片| av在线app专区| 男女啪啪激烈高潮av片| 青青草视频在线视频观看| 啦啦啦啦在线视频资源| 欧美日韩综合久久久久久| 欧美另类一区| 熟妇人妻不卡中文字幕| 亚洲欧美精品自产自拍| 丰满乱子伦码专区| 亚洲精品456在线播放app| 国产男女超爽视频在线观看| 多毛熟女@视频| 纯流量卡能插随身wifi吗| 大陆偷拍与自拍| 18禁在线无遮挡免费观看视频| 欧美日韩综合久久久久久| 春色校园在线视频观看| av网站免费在线观看视频| 欧美精品亚洲一区二区| 成人手机av| 国产精品久久久久久久久免| 菩萨蛮人人尽说江南好唐韦庄| 国产日韩欧美亚洲二区| 一边亲一边摸免费视频| a级片在线免费高清观看视频| 人人澡人人妻人| 久久久久国产网址| 精品久久久精品久久久| 国产成人精品久久久久久| 丝袜脚勾引网站| freevideosex欧美| 婷婷色av中文字幕| 国产一区二区在线观看av| 免费黄频网站在线观看国产| 国产国拍精品亚洲av在线观看| 久热这里只有精品99| 久久午夜综合久久蜜桃| 黄色一级大片看看| 亚洲欧美清纯卡通| 人成视频在线观看免费观看| 久久人人爽人人片av| av在线观看视频网站免费| 久久久精品区二区三区| 亚洲欧美成人综合另类久久久| 精品亚洲乱码少妇综合久久| 又粗又硬又长又爽又黄的视频| 两个人免费观看高清视频| 黑人欧美特级aaaaaa片| 亚洲经典国产精华液单| 一本大道久久a久久精品| 插逼视频在线观看| 嫩草影院入口| 久久久久久久久久久免费av| 国产精品欧美亚洲77777| 高清在线视频一区二区三区| 1024视频免费在线观看| a 毛片基地| 国产免费一级a男人的天堂| 久久99精品国语久久久| 丝袜美足系列| 久久久久久久久久成人| 精品卡一卡二卡四卡免费| 午夜福利在线观看免费完整高清在| 欧美人与性动交α欧美软件 | 亚洲国产精品一区三区| videosex国产| 亚洲精品日本国产第一区| a级毛片在线看网站| 妹子高潮喷水视频| 美女国产视频在线观看| 日韩欧美一区视频在线观看| 看免费av毛片| 99精国产麻豆久久婷婷| 一二三四在线观看免费中文在 | 下体分泌物呈黄色| 国产精品无大码| 老熟女久久久| 国产精品免费大片| 捣出白浆h1v1| 大香蕉97超碰在线| av在线观看视频网站免费| 18禁观看日本| 黑人高潮一二区| 午夜免费男女啪啪视频观看| 久久 成人 亚洲| 亚洲第一区二区三区不卡| 少妇人妻精品综合一区二区| 日本午夜av视频| 伊人久久国产一区二区| 免费av中文字幕在线| 亚洲性久久影院| 亚洲精品av麻豆狂野| 肉色欧美久久久久久久蜜桃| 侵犯人妻中文字幕一二三四区| 观看av在线不卡| av黄色大香蕉| 国产亚洲最大av| 欧美激情国产日韩精品一区| 美国免费a级毛片| 男女边摸边吃奶| 中文字幕亚洲精品专区| 亚洲精品乱久久久久久| 国产伦理片在线播放av一区| 男男h啪啪无遮挡| 永久网站在线| 欧美丝袜亚洲另类| 最近最新中文字幕免费大全7| 亚洲国产看品久久| 久久青草综合色| 美女脱内裤让男人舔精品视频| 国产成人aa在线观看| 中文字幕人妻熟女乱码| 欧美97在线视频| 男女高潮啪啪啪动态图| videosex国产| 九色亚洲精品在线播放| 久久久久精品久久久久真实原创| 国产淫语在线视频| 色视频在线一区二区三区| 国产熟女欧美一区二区| 国产乱来视频区| 日韩制服骚丝袜av| 午夜免费观看性视频| 久久97久久精品| 在线看a的网站| 婷婷色av中文字幕| 精品久久蜜臀av无| 精品少妇黑人巨大在线播放| 日韩制服骚丝袜av| 亚洲国产成人一精品久久久| 久久精品久久久久久噜噜老黄| 欧美成人精品欧美一级黄| 亚洲美女黄色视频免费看| 三级国产精品片| 汤姆久久久久久久影院中文字幕| 国产日韩欧美视频二区| 国产极品天堂在线| 欧美丝袜亚洲另类| 欧美日韩精品成人综合77777| 亚洲美女搞黄在线观看| 一区二区av电影网| 免费黄频网站在线观看国产| 日韩中文字幕视频在线看片| 男人添女人高潮全过程视频| 欧美国产精品一级二级三级| 亚洲精品一二三| 国产精品女同一区二区软件| 亚洲国产日韩一区二区| 毛片一级片免费看久久久久| 人人妻人人澡人人爽人人夜夜| videossex国产| 国产免费福利视频在线观看| 午夜激情av网站| 日韩一本色道免费dvd| 久久久久久久大尺度免费视频| 久久久国产一区二区| 免费大片黄手机在线观看| 亚洲国产精品成人久久小说| 国产极品粉嫩免费观看在线| 久久久精品免费免费高清| 男男h啪啪无遮挡| 欧美精品一区二区大全| 欧美日韩亚洲高清精品| 国产精品三级大全| 免费av不卡在线播放| 韩国av在线不卡| 桃花免费在线播放| 伦精品一区二区三区| 热99国产精品久久久久久7| 免费观看a级毛片全部| 国产成人精品一,二区| av在线播放精品| 久久久久久久久久久久大奶| 黑人巨大精品欧美一区二区蜜桃 | 国产在线免费精品| 最近2019中文字幕mv第一页| 少妇人妻久久综合中文| 国产不卡av网站在线观看| 国语对白做爰xxxⅹ性视频网站| av播播在线观看一区| 免费黄网站久久成人精品| 我的女老师完整版在线观看| 国产xxxxx性猛交| 欧美精品国产亚洲| 巨乳人妻的诱惑在线观看| 国产激情久久老熟女| 国产精品国产av在线观看| 国产男女内射视频| 久热这里只有精品99| 亚洲精品国产色婷婷电影| 精品人妻在线不人妻| 激情五月婷婷亚洲| 亚洲性久久影院| 国产成人a∨麻豆精品| 狠狠婷婷综合久久久久久88av| 亚洲国产色片| 久久99精品国语久久久| 在线亚洲精品国产二区图片欧美| 菩萨蛮人人尽说江南好唐韦庄| 国产亚洲精品第一综合不卡 | 免费在线观看完整版高清| 免费日韩欧美在线观看| av福利片在线| 国产又色又爽无遮挡免| 大香蕉97超碰在线| 又大又黄又爽视频免费| a级片在线免费高清观看视频| 国内精品宾馆在线| 免费播放大片免费观看视频在线观看| 国产不卡av网站在线观看| 欧美 亚洲 国产 日韩一| 国产欧美日韩综合在线一区二区| 免费看不卡的av| 一区二区三区四区激情视频| 国产成人精品在线电影| 又黄又粗又硬又大视频| 成人毛片60女人毛片免费| 亚洲精品第二区| 男人操女人黄网站| 中文字幕亚洲精品专区| 精品久久久久久电影网| 亚洲av在线观看美女高潮| 色婷婷av一区二区三区视频| 成人综合一区亚洲| 久久午夜综合久久蜜桃| 久久精品人人爽人人爽视色|