• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于機器學(xué)習(xí)的藥品不良反應(yīng)實體識別研究綜述

    2022-08-05 02:41:06仲雨樂馬詩雯陸豪杰
    軟件工程 2022年8期
    關(guān)鍵詞:實體神經(jīng)網(wǎng)絡(luò)領(lǐng)域

    仲雨樂,馬詩雯,陸豪杰,韓 普

    (南京郵電大學(xué)管理學(xué)院,江蘇 南京 210003)

    1715272757@qq.com;1535328066@qq.com;1071879399@qq.com;hanpu@njupt.edu.cn

    1 引言(Introduction)

    藥品不良反應(yīng)(Adverse Drug Reaction,ADR)是指在疾病的預(yù)防、診斷、治療或調(diào)節(jié)生理功能過程中,患者接受正常劑量的藥物時出現(xiàn)的所有有害的,與用藥目的無關(guān)的反應(yīng)。藥品在使用過程中出現(xiàn)的不良反應(yīng)往往會對藥物的治療效果產(chǎn)生不好的影響,更為嚴重的可能會直接危害病人的生命安全,因此藥物安全監(jiān)管與評價體系的重要工作內(nèi)容是識別、收集及分析ADR。

    命名實體識別(Named Entity Recognition,NER)是自然語言處理(Natural Language Processing,NLP)中重要的研究領(lǐng)域,主要是將具有特定意義的實體從非結(jié)構(gòu)化的自由文本中抽取出來。與通用領(lǐng)域的實體不同,ADR中的命名實體類型通常包括藥品、適應(yīng)癥、不良反應(yīng)癥狀、身體部位等。實體識別是ADR中的關(guān)鍵環(huán)節(jié),對ADR知識圖譜構(gòu)建、藥物重定位、智能醫(yī)療和藥物知識發(fā)現(xiàn)有著重要意義。

    針對ADR實體識別任務(wù),本文系統(tǒng)梳理了國內(nèi)外近些年來有關(guān)ADR實體識別領(lǐng)域的相關(guān)文獻成果,整理歸納了相關(guān)研究的主要方法及研究思路,分析其中的關(guān)鍵技術(shù)和不足之處,并給出了未來可能的研究方向和發(fā)展趨勢。

    2 ADR實體識別面臨的問題(Problems faced by ADR entity recognition)

    盡管實體識別受到醫(yī)療健康信息抽取領(lǐng)域?qū)W者的極大關(guān)注,但在ADR實體識別中仍然面臨許多亟待解決的問題,其中在中文領(lǐng)域的ADR文本實體識別方面尤為突出。一方面,中文普遍存在實體嵌套的問題,如“頭腦脹痛”既包含身體部位的實體“頭腦”,又包含癥狀類的實體“頭腦脹痛”,但目前ADR實體識別常忽略嵌套實體問題,而是選擇專注于最外層實體;另一方面,針對英文的生物醫(yī)學(xué)文獻、臨床記錄、社交媒體,ADR實體識別數(shù)據(jù)集比較完善,國內(nèi)ADR數(shù)據(jù)集相對匱乏。由于涉及隱私等問題,學(xué)界常用的數(shù)據(jù)是從社交媒體中爬取的藥品不良反應(yīng)評論,這些數(shù)據(jù)需要自行人工標注,代價高昂,并且這類數(shù)據(jù)往往存在大量口語化表述,導(dǎo)致標注的實體不夠準確,標注數(shù)據(jù)規(guī)模也非常有限,無法進行大規(guī)模的模型訓(xùn)練。

    3 ADR中實體識別方法與模型(Entity recognition methods and models in ADR)

    根據(jù)所采用的研究方法,ADR實體識別方法可分為基于規(guī)則和詞典的方法、以條件隨機場(Conditional Random Field,CRF)為代表的傳統(tǒng)機器學(xué)習(xí)方法、以循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)與BERT(Bidirectional Encoder Representations from Transformers)為代表的深度學(xué)習(xí)方法和以對抗性遷移學(xué)習(xí)為代表的遷移學(xué)習(xí)方法。

    3.1 基于規(guī)則和詞典的ADR實體識別

    實體識別中最早使用的是基于規(guī)則和詞典的方法,通過文本規(guī)則、知識庫和專業(yè)領(lǐng)域詞典實現(xiàn)實體識別。馮變玲等利用關(guān)聯(lián)規(guī)則抽取ADR實體并通過計算支持度和可信度來得到藥物不良反應(yīng)。YANG等通過爬蟲技術(shù)從MedHelp上獲取大量用戶關(guān)于使用藥品而產(chǎn)生不良反應(yīng)的留言信息,利用CHV醫(yī)學(xué)字典進行ADR實體識別,準確識別出選定藥品的不良反應(yīng),掌握了藥物和各自不良反應(yīng)之間相互聯(lián)系的內(nèi)在關(guān)系。類似地,SARKER等收集了Twitter和DailyStrenth中與選定藥物名稱相關(guān)的用戶評論,以藥學(xué)詞典為基礎(chǔ),完成了評論文本中不良反應(yīng)的實體識別。

    通過對已有研究的分析可知,基于規(guī)則和詞典的ADR實體識別方法簡單易懂,準確率高。但僅僅基于規(guī)則和詞典適用性較差,無法對ADR文本中較復(fù)雜的實體類型進行很好的識別處理,只能識別一些特定類型的實體。因此,基于規(guī)則和詞典的方法大多時候是為了補充機器學(xué)習(xí)的方法,用于輔助ADR實體識別模型。

    3.2 基于傳統(tǒng)機器學(xué)習(xí)模型的ADR實體識別

    隨著機器學(xué)習(xí)不斷更新迭代,相關(guān)機器學(xué)習(xí)模型逐漸應(yīng)用于ADR實體識別領(lǐng)域中。常用的模型有隱馬爾可夫模型(Hidden Markov Models,HMM)和條件隨機場等。

    HMM 是ADR 實體識別任務(wù)的常用模型之一。SAMPATHKUMAR等提出了一個以HMM為基礎(chǔ)的文本挖掘系統(tǒng),從醫(yī)學(xué)論壇Medications中爬取有關(guān)ADR的文本數(shù)據(jù),經(jīng)人工標注后作為ADR實體識別的數(shù)據(jù)集,對手動注釋的數(shù)據(jù)集進行10 倍交叉驗證發(fā)現(xiàn),HMM的F1值平均為0.76,遠高于基線模型。

    CRF是一種用于序列標記任務(wù)的概率統(tǒng)計模型,在ADR實體識別領(lǐng)域中廣泛使用。CRF克服了HMM的獨立性假設(shè)條件,能夠考慮連續(xù)標簽之間的依賴關(guān)系,常與其他模型結(jié)合生成全局最優(yōu)序列。TANG等將CRF和長短期記憶神經(jīng)網(wǎng)絡(luò)相結(jié)合,在ADR公開語料庫CADEC上開展系列實驗,實驗表明該方法F1值高于CRF。CHRISTOPOULOU等將CRF模型與雙向長短期記憶神經(jīng)網(wǎng)絡(luò)進行結(jié)合,構(gòu)建ADR實體識別模型,并獲得了較好的實驗結(jié)果。王姝元提出了一種帶有CRF的雙向長短期記憶體的特定體系結(jié)構(gòu),將5,865 篇Twitter帖子標注為“Drug”“Indication”和“ADR”三種標簽來進行實體識別,實驗效果明顯優(yōu)于CRF模型以及以詞典為核心的實體識別方法。

    盡管機器學(xué)習(xí)推動ADR實體識別任務(wù)取得了巨大進展,但在模型實施前期,需要大量時間對數(shù)據(jù)集進行預(yù)處理工作,且機器學(xué)習(xí)模型難以處理大規(guī)模數(shù)據(jù),無法使用復(fù)雜特征,使得基于機器學(xué)習(xí)模型的ADR實體識別結(jié)果難以進一步提高。

    3.3 基于深度學(xué)習(xí)模型的ADR實體識別

    隨著時代的發(fā)展,深度學(xué)習(xí)模型在越來越多的領(lǐng)域有著出色的表現(xiàn),各類自然語言處理任務(wù)也逐漸引入該模型。目前實體識別任務(wù)以深度學(xué)習(xí)為核心內(nèi)容,基于深度學(xué)習(xí)的實體識別方法非常適用于解決序列標注問題,ADR實體識別由此進入新階段。

    循環(huán)神經(jīng)網(wǎng)絡(luò)是一類以序列數(shù)據(jù)為輸入,在序列的演進方向進行遞歸且所有節(jié)點(循環(huán)單元)按鏈式連接的遞歸神經(jīng)網(wǎng)絡(luò)。PANDEY等搭建了一個帶有注意力機制的雙向遞歸神經(jīng)網(wǎng)絡(luò),將雙向RNN用于自建數(shù)據(jù)集編碼,然后將其輸入生成注意權(quán)重的注意力層,并在RNN中使用注意力權(quán)重來進行ADR實體識別。

    長短期記憶神經(jīng)網(wǎng)絡(luò)(Long Short-Term Memory,LSTM)是一種較為特殊的RNN,主要包含遺忘門、輸入門、輸出門與一個記憶單元。傳統(tǒng)的RNN在訓(xùn)練中很容易出現(xiàn)梯度爆炸或者梯度消失的問題,導(dǎo)致無法處理較長的序列數(shù)據(jù),而LSTM能夠很好地洞悉并獲取在字段中相隔較遠的依賴關(guān)系。雙向長短期記憶神經(jīng)網(wǎng)絡(luò)(Bidirectional Long Short-Term Memory,BiLSTM)是LSTM的變體,能夠更加有效地提取文本的上下文信息,在ADR實體識別中取得了較好的效果。GUPTA等提出了一種基于半監(jiān)督BiLSTM的ADR實體識別模型,在2007—2010 年收集的ADR推文上開展實驗,實驗F1值比CRF高出3.01%。為了進一步提升模型效果,不少研究往往將BiLSTM與CRF進行結(jié)合。朱笑笑等構(gòu)建了基于BiLSTM與CRF的ADR抽取模型,在Twitter數(shù)據(jù)集上進行實驗,結(jié)果表明結(jié)合BiLSTM和CRF能夠有效識別出社交媒體上不規(guī)范的不良反應(yīng)實體。張亞飛等構(gòu)建了BiLSTM-CRF實體識別方法,從“39健康藥物論壇”上爬取26 種藥物用戶評論數(shù)據(jù)來識別ADR實體,從而挖掘出藥物論壇上潛在的ADR。CHEN等在國內(nèi)ADR報告上對比了CRF、BiLSTM-CRF和基于詞匯特征的BiLSTM-CRF模型實體識別任務(wù)的效果,結(jié)果表明基于詞匯特征的BiLSTMCRF模型實驗F1達到94.35%,表現(xiàn)最優(yōu)。

    GRU(Gated Recurrent Unit,門控循環(huán)單元)模型是LSTM模型的創(chuàng)新模型之一,其特點在于同時具備LSTM的遺忘、更新機制,且簡化了LSTM模型架構(gòu),提高了運行速度,降低了梯度彌散的風(fēng)險。陳瑤等以雙向門控循環(huán)單元(Bidirectional Gated Recurrent Unit,Bi-GRU)結(jié)構(gòu)為基礎(chǔ),引入注意力機制以及字向量與分詞向量優(yōu)化模型,對國內(nèi)ADR報告中的ADR過程描述部分進行“藥品-不良反應(yīng)”的實體識別和關(guān)系抽取研究,取得了較好效果。

    為了解決單一特征的神經(jīng)網(wǎng)絡(luò)模型不能充分利用文本信息的問題,趙鑫等提出了一種混合多特征的神經(jīng)網(wǎng)絡(luò)模型,使用包含卷積計算且具有深度結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)和LSTM對ADR文本進行實體識別研究,研究表明混合模型效果優(yōu)于單一特征的神經(jīng)網(wǎng)絡(luò)模型。楊文明等以BiLSTM-CRF為基準模型,設(shè)計了IndRNN-CRF和IDCNN-BiLSTM-CRF兩種不同的實體識別模型,并從尋醫(yī)問藥等網(wǎng)站爬取有關(guān)藥物不良反應(yīng)的評論構(gòu)建數(shù)據(jù)集,在此數(shù)據(jù)集上驗證模型的有效性。對比實驗結(jié)果可知,IDCNN-BiLSTM-CRF模型在精確率、召回率和F1值上均超過了基準模型BiLSTM-CRF模型,總體性能最好。TIFTIKCI等集成了BiLSTM、CNN和CRF用于ADR實體識別,并構(gòu)建了基于規(guī)則的方法規(guī)范已識別的ADR實體,在2017 年文本分析會議藥物不良反應(yīng)挑戰(zhàn)測試數(shù)據(jù)集上進行評估,結(jié)果表明由深度學(xué)習(xí)構(gòu)建的實體識別架構(gòu)和基于規(guī)則的實體規(guī)范化模型組成的系統(tǒng)是從藥物標簽中提取ADR的一種很有前途的方法。

    傳統(tǒng)的實體識別方法將字映射成One-hot編碼,難以表明一詞多義。為了解決這一問題,學(xué)者們提出了一種利用預(yù)訓(xùn)練語言模型進行單詞表示的方法。雖然該方法計算較為復(fù)雜,但可以充分捕捉長距離依賴關(guān)系,在ADR實體識別任務(wù)中常用來生成詞向量。

    早期運用較為廣泛的預(yù)訓(xùn)練模型大多以Word2Vec工具對詞向量進行訓(xùn)練,LIN等采用Word2Vec單詞嵌入方法識別Twitter數(shù)據(jù)集上的ADR,實驗結(jié)果表明Word2Vec在縮小特征空間的同時讓召回率和總體F1值都達到更高。GUPTA等使用Word2Vec在大型通用語料庫上訓(xùn)練詞向量作為ADR實體識別模型的輸入。然而Word2Vec僅關(guān)注到了詞的部分信息,沒有考慮到詞與局部窗口外詞的聯(lián)系,所以后續(xù)出現(xiàn)了GloVe和ELMo算法。GloVe利用共現(xiàn)矩陣,同時考慮了局部信息和整體信息。ELMo則針對Word2Vec和GloVe存在詞在不同的語境下有不同的含義,而向量表示卻相同這一問題進行了優(yōu)化,使其能夠?qū)W習(xí)到單詞用法的復(fù)雜特性。PANDEY等采用Word2Vec和GloVe從大量的ADR資源中實現(xiàn)了無監(jiān)督的單詞嵌入來改善RNN,提高了ADR實體識別的準確性。

    隨著預(yù)訓(xùn)練模型受到越來越多的關(guān)注,更多的預(yù)訓(xùn)練模型用于ADR實體識別。2018 年,DEVLIN等提出了BERT模型,其關(guān)鍵部分是Transformer結(jié)構(gòu),它是一個基于自注意力機制的深度網(wǎng)絡(luò)。朱曉旭在ADR的實體識別階段,以BiLSTM-CRF模型為基礎(chǔ),融入基于醫(yī)學(xué)文獻的預(yù)訓(xùn)練語言模型Bio-BERT作為詞表示,并加入自注意力機制來更好地處理長距離的依賴問題。WU等將BERT、BiLSTM與CRF相結(jié)合,令微調(diào)BERT模型獲得的詞特征作為輸入,通過BiLSTM-CRF進行特征提取,準確識別出國內(nèi)ADR報告中的目標實體,遠優(yōu)于其他基線模型。

    從目前的研究成果來看,深度學(xué)習(xí)模型是端到端的訓(xùn)練方式,自動提取特征,能夠?qū)W習(xí)ADR文本當中的深層語義信息,在各種ADR實體識別任務(wù)中均取得較好結(jié)果。近年來,學(xué)者們嘗試在基于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)上引入注意力機制、遷移學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)、遠程監(jiān)督學(xué)習(xí)等以進一步提升ADR實體識別效果。

    3.4 基于遷移學(xué)習(xí)方法的ADR實體識別

    遷移學(xué)習(xí)是深度學(xué)習(xí)前沿的研究領(lǐng)域,許多學(xué)者利用深度學(xué)習(xí)技術(shù)構(gòu)建遷移學(xué)習(xí)模型,將源域和模型的相關(guān)信息遷移到目標域,提高目標領(lǐng)域的實驗效果,能夠有效解決ADR實體識別任務(wù)資源匱乏、實體類型多樣化等問題,提升了ADR實體識別效果。

    ZHANG等提出了一種針對ADR實體識別任務(wù)的對抗性遷移學(xué)習(xí)模型,引入共享的字符級卷積神經(jīng)網(wǎng)絡(luò)(charCNN)學(xué)習(xí)兩個域數(shù)據(jù)集之間相似的字符級特征,通過融合來自PubMed(源域)的生物醫(yī)學(xué)領(lǐng)域信息,提高Twitter數(shù)據(jù)集(目標域)上的ADR實體識別效果,并根據(jù)兩個域的比例設(shè)置最終損失函數(shù)平衡任務(wù)。該方法的F1值在Twitter數(shù)據(jù)集上為68.58%,實現(xiàn)了最優(yōu)的性能。KANG等構(gòu)建了由對抗性遷移學(xué)習(xí)組成的神經(jīng)網(wǎng)絡(luò)模型ASAIBC,以分詞數(shù)據(jù)集為源域,以人工標注的新疆地區(qū)ADR數(shù)據(jù)集為目標域,結(jié)合自注意力機制和獨立循環(huán)神經(jīng)網(wǎng)絡(luò)(Independently Recurrent Neural Network,IndRNN)捕捉句子整體依賴性,充分利用中文分詞任務(wù)和NER任務(wù)的邊界來實現(xiàn)信息共享,該模型F1評分均值為90.57%,優(yōu)于現(xiàn)有模型,可以進一步提高ADR實體識別效果。

    4 數(shù)據(jù)集和評估效果(Datasets and evaluating performance)

    4.1 ADR實體識別常用數(shù)據(jù)集

    在ADR實體識別研究早期,常見的ADR數(shù)據(jù)來源有自發(fā)報告系統(tǒng)、電子健康記錄(EHR)、醫(yī)學(xué)文獻等,其中自發(fā)報告系統(tǒng)所收集的ADR報告和電子健康記錄較為常用。但是這些數(shù)據(jù)來源依舊有很多弊端,自發(fā)報告系統(tǒng)就存在錯報漏報、上報缺乏主觀能動性的缺陷,EHR文檔所涵蓋的數(shù)據(jù)范疇也并不全面,因此,系統(tǒng)全面的數(shù)據(jù)來源是開展ADR實體識別研究的關(guān)鍵。

    隨著互聯(lián)網(wǎng)的盛行,社交媒體已經(jīng)成為近年來ADR數(shù)據(jù)量大幅增長的領(lǐng)域之一。基于社交網(wǎng)絡(luò)的評論給ADR實體識別研究提供了寶貴的數(shù)據(jù)源,除了Twitter和微博社交平臺,還有一些專注于疾病和健康領(lǐng)域的網(wǎng)站,如國外的Dailystrenth、MedHelp、SteadyHealth以及國內(nèi)的“39健康網(wǎng)”“丁香園”和“尋醫(yī)問藥”,吸引一大批用戶通過發(fā)帖方式表達用藥或治療經(jīng)歷,或是向線上專業(yè)的醫(yī)護人員進行提問。這些包含大量ADR信息的網(wǎng)站近期成為ADR研究的重要數(shù)據(jù)源。除此以外,一些公開的語料數(shù)據(jù)庫或者比賽提供的數(shù)據(jù)集也是ADR實體識別研究常用的數(shù)據(jù)集,如MIMIC-III語料數(shù)據(jù)庫和n2c2數(shù)據(jù)集常用于各類實體識別研究。

    由此可見,無論是自發(fā)報告系統(tǒng)、社交媒體或是公開數(shù)據(jù)庫,都為ADR實體識別研究提供了新的視野,使得近幾年來ADR實體識別研究取得了明顯進展。

    4.2 數(shù)據(jù)集標注策略

    ADR實體識別數(shù)據(jù)集一般采用BIO、BIOE和BIOES等標注格式。在BIO標注格式中,B表示實體開端字符(Begin),I表示內(nèi)部(Inside),O表示外部(Outside)。BIOES是BIO的擴展,在BIO的基礎(chǔ)上,E表示一個詞處于某個實體的結(jié)束,S表示這個詞自己就可以組成一個實體(Single),O含義不變。在標注數(shù)據(jù)時,常采用以上兩種標注策略來進行ADR實體識別。由于BIOES具有更強的指向性和可識別度,因此能顯著提高識別效率,但后續(xù)出現(xiàn)的深度學(xué)習(xí)模型中學(xué)者們會更傾向于使用BIO標注。

    ADR 數(shù)據(jù)集通常有13 種標簽結(jié)果,分別為:“O”“B-Drug(藥品)”“I-Drug(藥品)”“BDose(劑量)”“I-Dose(劑量)”“B-Indication(適應(yīng)癥)”“I-Indication(適應(yīng)癥)”“B-Part(部位)”“IPart(部位)”“B-Symptom(癥狀)”“I-Symptom(癥狀)”“B-Time(時間)”“I-Time(時間)”。如“效果還行但副作用好大,吃了幾天后頭暈嗜睡,四肢無力”,經(jīng)BIO策略標注后為“效/O果/O還/O行/O但/O副/O作/O用/O好/O大/O,/O吃/O了/O幾/B-Time天/I-Time后/O頭/B-Symptom暈/I-Symptom嗜/I-Symptom睡/I-Symptom,/O四/B-Part肢/I-Part無/B-Symptom力/I-Symptom。/O”。

    4.3 評價指標

    ADR實體識別任務(wù)一般采用的評價指標包括精確率(Precision)、召回率(Recall)及F1值(F1-Measure)等。具體計算公式如下:

    其中,表示原本屬于正例的樣本被準確地分類為正例的數(shù)量,即正確識別為ADR實體的數(shù)量;表示原本為負例的樣本被錯誤地分類為正例的數(shù)量,即錯誤識別為ADR個體的數(shù)量;表示原本屬于正例的樣本被錯誤地分類為負例的數(shù)量,即錯誤地識別為非不良反應(yīng)的數(shù)量。

    5 ADR實體識別未來研究趨勢(Future research trend of ADR entity recognition)

    近年來科技發(fā)展迅速,各種實體識別方法層出不窮,但是如何解決ADR文本的復(fù)雜性、數(shù)據(jù)稀缺和實體嵌套等疑難點,更好地開展ADR實體識別研究仍然面臨著諸多挑戰(zhàn)?;贏DR實體識別廣闊的應(yīng)用前景,未來可以從以下三個方面對ADR實體識別開展研究:

    (1)模型創(chuàng)新,引入混合深度學(xué)習(xí)、持續(xù)學(xué)習(xí)、主動學(xué)習(xí)和多任務(wù)學(xué)習(xí)等前沿學(xué)習(xí)方法?;旌仙疃葘W(xué)習(xí)將傳統(tǒng)機器學(xué)習(xí)與主流的深度學(xué)習(xí)模型相結(jié)合,充分利用各學(xué)習(xí)方法的優(yōu)勢提高對多義詞、低頻實體等復(fù)雜實體的識別性能;持續(xù)學(xué)習(xí)在多個時間段的數(shù)據(jù)流中學(xué)習(xí),建立知識記憶以便在新知識的學(xué)習(xí)過程中不會忘記舊有的特征,減輕災(zāi)難性遺忘;主動學(xué)習(xí)通過選擇最有用未標記樣本,降低人工標注成本,有利于解決實體識別數(shù)據(jù)標注問題;多任務(wù)學(xué)習(xí)同時學(xué)習(xí)多個相關(guān)任務(wù),相比于單任務(wù)學(xué)習(xí),多任務(wù)學(xué)習(xí)能夠共享任務(wù)信息,提升泛化效果。這些前沿學(xué)習(xí)方法目前已經(jīng)常用于生物醫(yī)學(xué)命名實體識別領(lǐng)域,且效果較基礎(chǔ)模型有顯著提高,在該領(lǐng)域發(fā)揮了較為可觀的作用,因此后續(xù)可以在已有研究的基礎(chǔ)上引入這些學(xué)習(xí)方法來進一步提高ADR實體識別效果。

    (2)多特征融合,融合部首、詞性、字詞、詞典、依存句法分析及外部語義等多重特征。近年來,多特征融合在醫(yī)療實體識別領(lǐng)域應(yīng)用廣泛,能夠多方面抽取醫(yī)學(xué)專業(yè)領(lǐng)域知識,準確且完整地提取句子的特征信息,增強詞與詞之間的關(guān)聯(lián)性,充分挖掘文本上下文深層語義信息。而目前ADR實體識別領(lǐng)域相關(guān)模型向量特征表示過于單一,多特征融合方法尚未充分應(yīng)用,因此未來融合多特征也是提升ADR實體識別性能的一個方案。

    (3)構(gòu)建中文領(lǐng)域ADR實體識別大規(guī)模高質(zhì)量數(shù)據(jù)集。目前ADR實體識別研究通常需要大量的標注數(shù)據(jù),然而標注龐大的數(shù)據(jù)集需要大量的人力、時間和更多的領(lǐng)域?qū)<抑R。因此,如何利用小規(guī)模的標注語料構(gòu)建大規(guī)模的數(shù)據(jù)集是一個可參考的方向。未來或許可以整合現(xiàn)存的多個語料庫,利用自動化的方法進行數(shù)據(jù)集構(gòu)建來提高ADR實體識別的準確性。

    6 結(jié)論(Conclusion)

    目前,ADR實體識別是藥物警戒和智能醫(yī)療的熱門研究領(lǐng)域。本文首先分析了ADR實體識別目前面臨的問題;其次將現(xiàn)有ADR實體識別領(lǐng)域的研究方法進行歸納和分類,總結(jié)了包括基于規(guī)則和詞典、傳統(tǒng)機器學(xué)習(xí)、深度學(xué)習(xí)和遷移學(xué)習(xí)方法這四類ADR實體識別的方法與模型,分析得到當前基于遷移學(xué)習(xí)的方法在ADR實體識別任務(wù)上性能較優(yōu);接著介紹了ADR實體識別常用的數(shù)據(jù)集和當前較為流行的數(shù)據(jù)集標注策略以及評估指標;最后給出了ADR實體識別研究的研究趨勢,預(yù)計未來可以通過模型創(chuàng)新、多特征融合和構(gòu)建大規(guī)模高質(zhì)量數(shù)據(jù)集來提升ADR實體識別效果,為該領(lǐng)域深入研究提供參考。

    猜你喜歡
    實體神經(jīng)網(wǎng)絡(luò)領(lǐng)域
    前海自貿(mào)區(qū):金融服務(wù)實體
    中國外匯(2019年18期)2019-11-25 01:41:54
    神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    領(lǐng)域·對峙
    青年生活(2019年23期)2019-09-10 12:55:43
    實體的可感部分與實體——兼論亞里士多德分析實體的兩種模式
    兩會進行時:緊扣實體經(jīng)濟“釘釘子”
    振興實體經(jīng)濟地方如何“釘釘子”
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機控制模型建立
    重型機械(2016年1期)2016-03-01 03:42:04
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    新常態(tài)下推動多層次多領(lǐng)域依法治理初探
    基于支持向量機回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
    中文精品一卡2卡3卡4更新| 亚洲av福利一区| 国产免费福利视频在线观看| 国产色爽女视频免费观看| 婷婷色综合www| 啦啦啦在线观看免费高清www| 草草在线视频免费看| 国产成人freesex在线| 国产日韩欧美视频二区| 欧美性感艳星| 久久精品久久久久久噜噜老黄| av.在线天堂| 一级毛片aaaaaa免费看小| 我的女老师完整版在线观看| 黄色一级大片看看| 日本欧美视频一区| 免费看日本二区| 大香蕉97超碰在线| 99久久精品国产国产毛片| 国产免费视频播放在线视频| 国产男女内射视频| 婷婷色综合大香蕉| 久久久久久久久久久免费av| 18+在线观看网站| 观看免费一级毛片| 久久人人爽人人片av| 啦啦啦中文免费视频观看日本| 欧美日韩在线观看h| 久久99一区二区三区| 久久久精品免费免费高清| 夜夜爽夜夜爽视频| 免费在线观看成人毛片| 天堂8中文在线网| 五月伊人婷婷丁香| 久久久久久久久久人人人人人人| 国产精品一区www在线观看| 99九九在线精品视频 | 亚洲四区av| 国产综合精华液| 18禁裸乳无遮挡动漫免费视频| 汤姆久久久久久久影院中文字幕| 免费av不卡在线播放| 免费少妇av软件| 如何舔出高潮| 亚洲精品日本国产第一区| 最近中文字幕高清免费大全6| 又粗又硬又长又爽又黄的视频| 欧美日韩视频精品一区| 制服丝袜香蕉在线| 亚洲精品一二三| 乱码一卡2卡4卡精品| 建设人人有责人人尽责人人享有的| 一本久久精品| 人人澡人人妻人| 日韩大片免费观看网站| 三级国产精品欧美在线观看| 少妇高潮的动态图| 成年女人在线观看亚洲视频| 亚洲不卡免费看| 少妇 在线观看| 国产精品久久久久久av不卡| 国产精品三级大全| 日韩精品有码人妻一区| 欧美精品人与动牲交sv欧美| 99视频精品全部免费 在线| 亚洲无线观看免费| 欧美97在线视频| 久久精品国产亚洲av天美| 国产精品一二三区在线看| 人妻人人澡人人爽人人| av卡一久久| 国产男人的电影天堂91| 又大又黄又爽视频免费| 日韩欧美 国产精品| 人体艺术视频欧美日本| 国产精品99久久久久久久久| 久久亚洲国产成人精品v| 男人添女人高潮全过程视频| 三上悠亚av全集在线观看 | 在线播放无遮挡| 乱人伦中国视频| 99热这里只有是精品在线观看| 免费观看的影片在线观看| 一区二区三区四区激情视频| 国产亚洲最大av| 国产精品秋霞免费鲁丝片| 亚洲av中文av极速乱| 亚洲成人av在线免费| 麻豆成人av视频| 亚洲av综合色区一区| 午夜老司机福利剧场| 国产免费视频播放在线视频| 九色成人免费人妻av| 99久久精品热视频| h日本视频在线播放| 国产色爽女视频免费观看| 内地一区二区视频在线| 免费看av在线观看网站| 国产精品嫩草影院av在线观看| 国模一区二区三区四区视频| 午夜91福利影院| 天天躁夜夜躁狠狠久久av| 大香蕉久久网| 精品人妻熟女毛片av久久网站| 久久久久国产网址| 麻豆成人av视频| 在线精品无人区一区二区三| 国产精品不卡视频一区二区| 日韩在线高清观看一区二区三区| 日韩在线高清观看一区二区三区| 日韩欧美一区视频在线观看 | 伊人亚洲综合成人网| 国产精品一区二区性色av| 亚洲av日韩在线播放| 亚洲国产精品一区二区三区在线| 国产男女超爽视频在线观看| 免费大片黄手机在线观看| 亚洲国产日韩一区二区| 亚洲性久久影院| 精品人妻一区二区三区麻豆| 涩涩av久久男人的天堂| 乱人伦中国视频| 少妇精品久久久久久久| 99久久人妻综合| 亚洲精品第二区| 中文字幕精品免费在线观看视频 | 国产午夜精品一二区理论片| 国产免费又黄又爽又色| 久久久久久久亚洲中文字幕| 美女中出高潮动态图| 成年女人在线观看亚洲视频| 国产淫语在线视频| 午夜影院在线不卡| 丝瓜视频免费看黄片| 妹子高潮喷水视频| 少妇 在线观看| 久久久久精品性色| 欧美日韩av久久| 热99国产精品久久久久久7| 乱系列少妇在线播放| 日本欧美国产在线视频| 亚洲国产色片| 妹子高潮喷水视频| 国产精品伦人一区二区| 久久精品国产亚洲网站| a 毛片基地| 五月天丁香电影| 免费在线观看成人毛片| 亚洲av综合色区一区| 韩国高清视频一区二区三区| 久久99热6这里只有精品| 久久精品夜色国产| 99热全是精品| 韩国高清视频一区二区三区| 啦啦啦啦在线视频资源| 另类精品久久| 97精品久久久久久久久久精品| 国产乱来视频区| 日本欧美国产在线视频| 99热这里只有是精品在线观看| 亚洲av不卡在线观看| 中文字幕制服av| 18禁动态无遮挡网站| 新久久久久国产一级毛片| 亚洲精品456在线播放app| 91精品国产九色| 免费黄色在线免费观看| 精品一区二区三区视频在线| 亚洲欧美一区二区三区国产| 久久精品夜色国产| 亚洲国产精品成人久久小说| 亚洲精品中文字幕在线视频 | 中文字幕人妻熟人妻熟丝袜美| 国产在线一区二区三区精| 国产色爽女视频免费观看| 秋霞伦理黄片| 赤兔流量卡办理| 精品少妇黑人巨大在线播放| 黄色一级大片看看| 亚洲成人av在线免费| 国产精品一区二区性色av| 日韩av在线免费看完整版不卡| 只有这里有精品99| 国产精品偷伦视频观看了| 如日韩欧美国产精品一区二区三区 | 国产极品粉嫩免费观看在线 | 欧美激情极品国产一区二区三区 | 欧美另类一区| 欧美国产精品一级二级三级 | 国产在线一区二区三区精| 国产一区有黄有色的免费视频| 免费人成在线观看视频色| 91精品一卡2卡3卡4卡| 高清欧美精品videossex| 一本久久精品| 欧美日韩av久久| 久久99热6这里只有精品| 亚洲国产成人一精品久久久| 91成人精品电影| 日韩一区二区视频免费看| 国产精品不卡视频一区二区| 看免费成人av毛片| 国产有黄有色有爽视频| 天天操日日干夜夜撸| 这个男人来自地球电影免费观看 | 一级黄片播放器| 久久久久国产精品人妻一区二区| 韩国av在线不卡| 久久久久久人妻| 成人综合一区亚洲| 日韩成人伦理影院| www.av在线官网国产| 熟女电影av网| 亚洲精品视频女| 欧美精品一区二区免费开放| 最新中文字幕久久久久| 一本—道久久a久久精品蜜桃钙片| 国产男女内射视频| 免费大片18禁| 欧美日韩国产mv在线观看视频| 老司机影院成人| 99热这里只有是精品在线观看| 亚洲精品国产av蜜桃| 在线观看一区二区三区激情| 国产午夜精品一二区理论片| 人妻制服诱惑在线中文字幕| 全区人妻精品视频| 久久久亚洲精品成人影院| 一区在线观看完整版| 亚洲av男天堂| 一级a做视频免费观看| 亚洲,一卡二卡三卡| 最后的刺客免费高清国语| 国产乱来视频区| 国产精品久久久久久精品古装| 精品亚洲成国产av| 两个人免费观看高清视频 | 国产免费福利视频在线观看| 国产 一区精品| 精品午夜福利在线看| 久久久精品94久久精品| 国产成人免费无遮挡视频| 性色avwww在线观看| 最近的中文字幕免费完整| 内地一区二区视频在线| 久久婷婷青草| 国产在线免费精品| 在线天堂最新版资源| 亚洲欧美精品专区久久| 日韩中文字幕视频在线看片| 久久午夜综合久久蜜桃| 亚洲综合精品二区| a级毛色黄片| 在线观看一区二区三区激情| 欧美日本中文国产一区发布| 91久久精品电影网| 日韩精品有码人妻一区| 国产精品免费大片| 黄色毛片三级朝国网站 | 最近中文字幕2019免费版| 国产午夜精品久久久久久一区二区三区| 各种免费的搞黄视频| 国产精品女同一区二区软件| 春色校园在线视频观看| 亚洲成人一二三区av| 久久久久久久亚洲中文字幕| 欧美日本中文国产一区发布| 美女大奶头黄色视频| 免费播放大片免费观看视频在线观看| 欧美精品国产亚洲| 精品久久久精品久久久| 妹子高潮喷水视频| 免费少妇av软件| 女人久久www免费人成看片| 日日啪夜夜撸| 日韩三级伦理在线观看| 久久 成人 亚洲| 少妇人妻精品综合一区二区| 久久久国产欧美日韩av| 亚洲国产日韩一区二区| 日韩一本色道免费dvd| 99热网站在线观看| 久久午夜综合久久蜜桃| 在现免费观看毛片| 亚洲不卡免费看| 国产毛片在线视频| av网站免费在线观看视频| 一区二区av电影网| 日本av手机在线免费观看| 男人爽女人下面视频在线观看| 香蕉精品网在线| av视频免费观看在线观看| 精品国产一区二区三区久久久樱花| 亚洲熟女精品中文字幕| 一级毛片电影观看| 大香蕉97超碰在线| 丝瓜视频免费看黄片| 人人妻人人爽人人添夜夜欢视频 | 日本黄色日本黄色录像| av网站免费在线观看视频| 人妻制服诱惑在线中文字幕| 亚洲av二区三区四区| 免费观看a级毛片全部| 黑人猛操日本美女一级片| 国内精品宾馆在线| 国产在线一区二区三区精| 欧美人与善性xxx| 22中文网久久字幕| 黑人高潮一二区| 嫩草影院入口| 男人狂女人下面高潮的视频| 午夜视频国产福利| 欧美xxⅹ黑人| 桃花免费在线播放| 久久97久久精品| 蜜桃久久精品国产亚洲av| 国产免费福利视频在线观看| 中文精品一卡2卡3卡4更新| 久久99热这里只频精品6学生| 在线免费观看不下载黄p国产| 精品久久久噜噜| av福利片在线观看| 哪个播放器可以免费观看大片| 欧美性感艳星| 国产日韩欧美视频二区| 青春草视频在线免费观看| 国产av码专区亚洲av| 国产欧美日韩综合在线一区二区 | 国产视频内射| 成人午夜精彩视频在线观看| 肉色欧美久久久久久久蜜桃| 中国三级夫妇交换| 国产成人a∨麻豆精品| 亚洲av在线观看美女高潮| 黑丝袜美女国产一区| 亚洲欧美成人综合另类久久久| 精品少妇久久久久久888优播| 狂野欧美激情性bbbbbb| 国产精品麻豆人妻色哟哟久久| 女人久久www免费人成看片| 亚洲精品日韩av片在线观看| 中国国产av一级| 久久99热6这里只有精品| 麻豆成人av视频| 国产精品福利在线免费观看| 一级毛片久久久久久久久女| 久久精品国产亚洲网站| 80岁老熟妇乱子伦牲交| 日韩欧美 国产精品| 精品午夜福利在线看| 亚洲精品日本国产第一区| 日本欧美视频一区| 两个人的视频大全免费| 久久人人爽人人爽人人片va| 啦啦啦视频在线资源免费观看| 香蕉精品网在线| 久久亚洲国产成人精品v| 2022亚洲国产成人精品| 搡老乐熟女国产| 亚洲av综合色区一区| 亚洲国产精品999| 国产午夜精品久久久久久一区二区三区| 国产成人免费无遮挡视频| av线在线观看网站| 久久久国产精品麻豆| 亚洲欧美成人综合另类久久久| 啦啦啦视频在线资源免费观看| 亚洲人成网站在线播| 成人免费观看视频高清| 精品久久久久久电影网| 午夜福利影视在线免费观看| 一个人免费看片子| 日韩欧美 国产精品| 国产精品女同一区二区软件| 国产精品伦人一区二区| 女人久久www免费人成看片| 亚洲国产av新网站| 美女福利国产在线| 亚洲国产成人一精品久久久| 黑丝袜美女国产一区| 久久久久视频综合| 日韩亚洲欧美综合| 久久久久久久亚洲中文字幕| 纵有疾风起免费观看全集完整版| 国产男女内射视频| 精品一区二区三区视频在线| av视频免费观看在线观看| 22中文网久久字幕| 亚洲欧洲精品一区二区精品久久久 | 成年人午夜在线观看视频| h视频一区二区三区| 亚洲精品乱码久久久久久按摩| 亚洲欧洲精品一区二区精品久久久 | 亚洲av在线观看美女高潮| 日韩熟女老妇一区二区性免费视频| 最新中文字幕久久久久| 春色校园在线视频观看| 欧美高清成人免费视频www| 国产亚洲5aaaaa淫片| 午夜免费鲁丝| 亚洲成人一二三区av| 久久精品国产亚洲av涩爱| 亚洲伊人久久精品综合| 大香蕉97超碰在线| 午夜免费观看性视频| 国产真实伦视频高清在线观看| 精品国产国语对白av| 国产欧美日韩精品一区二区| 只有这里有精品99| 毛片一级片免费看久久久久| 丝袜喷水一区| 国产黄色免费在线视频| 国产成人免费无遮挡视频| 国产免费又黄又爽又色| 日本与韩国留学比较| 亚洲婷婷狠狠爱综合网| 国产午夜精品一二区理论片| 亚洲av中文av极速乱| 综合色丁香网| 中国三级夫妇交换| 麻豆成人午夜福利视频| 久久精品国产亚洲av涩爱| 菩萨蛮人人尽说江南好唐韦庄| 国产在视频线精品| 国产又色又爽无遮挡免| 日本av免费视频播放| 日韩欧美精品免费久久| 久久久欧美国产精品| 五月伊人婷婷丁香| 一本一本综合久久| av视频免费观看在线观看| www.色视频.com| 亚洲国产色片| 黄色一级大片看看| 中文精品一卡2卡3卡4更新| 建设人人有责人人尽责人人享有的| 色94色欧美一区二区| 国产精品三级大全| 国产91av在线免费观看| 汤姆久久久久久久影院中文字幕| 亚洲精品久久午夜乱码| 中文字幕久久专区| 欧美日韩在线观看h| 国产亚洲精品久久久com| 国产精品不卡视频一区二区| 草草在线视频免费看| 欧美xxxx性猛交bbbb| 亚洲成色77777| 97在线视频观看| 久久久久久人妻| av网站免费在线观看视频| 国产av国产精品国产| 成年女人在线观看亚洲视频| av福利片在线| 国产老妇伦熟女老妇高清| 亚洲在久久综合| 亚洲精品乱久久久久久| 99热这里只有是精品在线观看| 大陆偷拍与自拍| 欧美另类一区| 99久久人妻综合| 蜜臀久久99精品久久宅男| 午夜老司机福利剧场| 尾随美女入室| 亚洲精品乱久久久久久| 嘟嘟电影网在线观看| 成人毛片60女人毛片免费| 日日摸夜夜添夜夜爱| 日韩欧美一区视频在线观看 | 久久久久久久久久人人人人人人| 男人爽女人下面视频在线观看| 在线播放无遮挡| 在线天堂最新版资源| av卡一久久| 黑人巨大精品欧美一区二区蜜桃 | 赤兔流量卡办理| 日韩av免费高清视频| 久久久精品免费免费高清| 久久ye,这里只有精品| 另类亚洲欧美激情| 美女xxoo啪啪120秒动态图| 欧美激情国产日韩精品一区| 精品少妇内射三级| 亚洲欧美精品自产自拍| 日本欧美国产在线视频| a级毛片在线看网站| 国产亚洲一区二区精品| 人人妻人人澡人人看| av在线app专区| 又粗又硬又长又爽又黄的视频| 99久久精品一区二区三区| 9色porny在线观看| 三级经典国产精品| 日韩亚洲欧美综合| 亚洲精品久久久久久婷婷小说| 一级av片app| 又大又黄又爽视频免费| 国产色爽女视频免费观看| √禁漫天堂资源中文www| 亚洲性久久影院| 啦啦啦视频在线资源免费观看| 在线天堂最新版资源| 狂野欧美白嫩少妇大欣赏| 五月伊人婷婷丁香| tube8黄色片| 欧美少妇被猛烈插入视频| 国产伦理片在线播放av一区| 黄色毛片三级朝国网站 | 秋霞在线观看毛片| 国产欧美日韩综合在线一区二区 | 人人妻人人澡人人看| 国产日韩欧美在线精品| 国产精品三级大全| 久久鲁丝午夜福利片| 美女内射精品一级片tv| 亚洲av欧美aⅴ国产| 亚洲成人一二三区av| 久久久久久伊人网av| 久久久精品免费免费高清| 国产av国产精品国产| 一级毛片黄色毛片免费观看视频| 亚洲va在线va天堂va国产| 男人舔奶头视频| 三上悠亚av全集在线观看 | 欧美高清成人免费视频www| 国产精品一区二区在线不卡| 亚洲av二区三区四区| 亚洲精品日本国产第一区| av在线观看视频网站免费| 成年av动漫网址| 久久久国产一区二区| 国产精品99久久久久久久久| 人妻人人澡人人爽人人| 日日啪夜夜撸| 国产乱人偷精品视频| 伦理电影免费视频| 色94色欧美一区二区| 亚洲欧美一区二区三区国产| 成人国产麻豆网| 美女中出高潮动态图| 天美传媒精品一区二区| 肉色欧美久久久久久久蜜桃| 国产视频内射| 我的女老师完整版在线观看| 18+在线观看网站| 毛片一级片免费看久久久久| 91久久精品电影网| 如何舔出高潮| 国产亚洲91精品色在线| 99国产精品免费福利视频| 最近手机中文字幕大全| 免费高清在线观看视频在线观看| 国产乱人偷精品视频| 搡老乐熟女国产| 欧美最新免费一区二区三区| 国产精品99久久99久久久不卡 | 91精品伊人久久大香线蕉| 成人毛片a级毛片在线播放| 美女视频免费永久观看网站| 爱豆传媒免费全集在线观看| 高清视频免费观看一区二区| 国产在视频线精品| 久久99蜜桃精品久久| 观看免费一级毛片| 免费大片18禁| 天堂中文最新版在线下载| 超碰97精品在线观看| 日韩三级伦理在线观看| 99re6热这里在线精品视频| 国产亚洲精品久久久com| 在线观看免费日韩欧美大片 | 制服丝袜香蕉在线| 嘟嘟电影网在线观看| 国产一区亚洲一区在线观看| 国产一区二区三区综合在线观看 | 欧美日韩国产mv在线观看视频| 国产黄色免费在线视频| 97在线人人人人妻| 一级二级三级毛片免费看| 免费观看av网站的网址| 国产精品久久久久久精品古装| 国产一区亚洲一区在线观看| 看免费成人av毛片| 国产 精品1| 国产精品秋霞免费鲁丝片| 国产在线男女| 成人无遮挡网站| av在线观看视频网站免费| 亚洲av成人精品一区久久| 久久青草综合色| 91久久精品电影网| 久久精品国产鲁丝片午夜精品| 亚洲情色 制服丝袜| 午夜福利在线观看免费完整高清在| 香蕉精品网在线| 国产亚洲午夜精品一区二区久久| av福利片在线观看| 国产亚洲一区二区精品| 国产国拍精品亚洲av在线观看| 精品酒店卫生间| 国产中年淑女户外野战色| 七月丁香在线播放| 精品少妇黑人巨大在线播放| 男人爽女人下面视频在线观看| 日韩制服骚丝袜av| 国产成人一区二区在线| 男人爽女人下面视频在线观看| 日韩制服骚丝袜av| 99re6热这里在线精品视频| 乱系列少妇在线播放| 久久久久久伊人网av| 日本黄色日本黄色录像| 亚洲精品第二区| 亚洲av福利一区| 成人亚洲精品一区在线观看|