• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于機器學(xué)習(xí)的藥品不良反應(yīng)實體識別研究綜述

    2022-08-05 02:41:06仲雨樂馬詩雯陸豪杰
    軟件工程 2022年8期
    關(guān)鍵詞:實體神經(jīng)網(wǎng)絡(luò)領(lǐng)域

    仲雨樂,馬詩雯,陸豪杰,韓 普

    (南京郵電大學(xué)管理學(xué)院,江蘇 南京 210003)

    1715272757@qq.com;1535328066@qq.com;1071879399@qq.com;hanpu@njupt.edu.cn

    1 引言(Introduction)

    藥品不良反應(yīng)(Adverse Drug Reaction,ADR)是指在疾病的預(yù)防、診斷、治療或調(diào)節(jié)生理功能過程中,患者接受正常劑量的藥物時出現(xiàn)的所有有害的,與用藥目的無關(guān)的反應(yīng)。藥品在使用過程中出現(xiàn)的不良反應(yīng)往往會對藥物的治療效果產(chǎn)生不好的影響,更為嚴重的可能會直接危害病人的生命安全,因此藥物安全監(jiān)管與評價體系的重要工作內(nèi)容是識別、收集及分析ADR。

    命名實體識別(Named Entity Recognition,NER)是自然語言處理(Natural Language Processing,NLP)中重要的研究領(lǐng)域,主要是將具有特定意義的實體從非結(jié)構(gòu)化的自由文本中抽取出來。與通用領(lǐng)域的實體不同,ADR中的命名實體類型通常包括藥品、適應(yīng)癥、不良反應(yīng)癥狀、身體部位等。實體識別是ADR中的關(guān)鍵環(huán)節(jié),對ADR知識圖譜構(gòu)建、藥物重定位、智能醫(yī)療和藥物知識發(fā)現(xiàn)有著重要意義。

    針對ADR實體識別任務(wù),本文系統(tǒng)梳理了國內(nèi)外近些年來有關(guān)ADR實體識別領(lǐng)域的相關(guān)文獻成果,整理歸納了相關(guān)研究的主要方法及研究思路,分析其中的關(guān)鍵技術(shù)和不足之處,并給出了未來可能的研究方向和發(fā)展趨勢。

    2 ADR實體識別面臨的問題(Problems faced by ADR entity recognition)

    盡管實體識別受到醫(yī)療健康信息抽取領(lǐng)域?qū)W者的極大關(guān)注,但在ADR實體識別中仍然面臨許多亟待解決的問題,其中在中文領(lǐng)域的ADR文本實體識別方面尤為突出。一方面,中文普遍存在實體嵌套的問題,如“頭腦脹痛”既包含身體部位的實體“頭腦”,又包含癥狀類的實體“頭腦脹痛”,但目前ADR實體識別常忽略嵌套實體問題,而是選擇專注于最外層實體;另一方面,針對英文的生物醫(yī)學(xué)文獻、臨床記錄、社交媒體,ADR實體識別數(shù)據(jù)集比較完善,國內(nèi)ADR數(shù)據(jù)集相對匱乏。由于涉及隱私等問題,學(xué)界常用的數(shù)據(jù)是從社交媒體中爬取的藥品不良反應(yīng)評論,這些數(shù)據(jù)需要自行人工標注,代價高昂,并且這類數(shù)據(jù)往往存在大量口語化表述,導(dǎo)致標注的實體不夠準確,標注數(shù)據(jù)規(guī)模也非常有限,無法進行大規(guī)模的模型訓(xùn)練。

    3 ADR中實體識別方法與模型(Entity recognition methods and models in ADR)

    根據(jù)所采用的研究方法,ADR實體識別方法可分為基于規(guī)則和詞典的方法、以條件隨機場(Conditional Random Field,CRF)為代表的傳統(tǒng)機器學(xué)習(xí)方法、以循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)與BERT(Bidirectional Encoder Representations from Transformers)為代表的深度學(xué)習(xí)方法和以對抗性遷移學(xué)習(xí)為代表的遷移學(xué)習(xí)方法。

    3.1 基于規(guī)則和詞典的ADR實體識別

    實體識別中最早使用的是基于規(guī)則和詞典的方法,通過文本規(guī)則、知識庫和專業(yè)領(lǐng)域詞典實現(xiàn)實體識別。馮變玲等利用關(guān)聯(lián)規(guī)則抽取ADR實體并通過計算支持度和可信度來得到藥物不良反應(yīng)。YANG等通過爬蟲技術(shù)從MedHelp上獲取大量用戶關(guān)于使用藥品而產(chǎn)生不良反應(yīng)的留言信息,利用CHV醫(yī)學(xué)字典進行ADR實體識別,準確識別出選定藥品的不良反應(yīng),掌握了藥物和各自不良反應(yīng)之間相互聯(lián)系的內(nèi)在關(guān)系。類似地,SARKER等收集了Twitter和DailyStrenth中與選定藥物名稱相關(guān)的用戶評論,以藥學(xué)詞典為基礎(chǔ),完成了評論文本中不良反應(yīng)的實體識別。

    通過對已有研究的分析可知,基于規(guī)則和詞典的ADR實體識別方法簡單易懂,準確率高。但僅僅基于規(guī)則和詞典適用性較差,無法對ADR文本中較復(fù)雜的實體類型進行很好的識別處理,只能識別一些特定類型的實體。因此,基于規(guī)則和詞典的方法大多時候是為了補充機器學(xué)習(xí)的方法,用于輔助ADR實體識別模型。

    3.2 基于傳統(tǒng)機器學(xué)習(xí)模型的ADR實體識別

    隨著機器學(xué)習(xí)不斷更新迭代,相關(guān)機器學(xué)習(xí)模型逐漸應(yīng)用于ADR實體識別領(lǐng)域中。常用的模型有隱馬爾可夫模型(Hidden Markov Models,HMM)和條件隨機場等。

    HMM 是ADR 實體識別任務(wù)的常用模型之一。SAMPATHKUMAR等提出了一個以HMM為基礎(chǔ)的文本挖掘系統(tǒng),從醫(yī)學(xué)論壇Medications中爬取有關(guān)ADR的文本數(shù)據(jù),經(jīng)人工標注后作為ADR實體識別的數(shù)據(jù)集,對手動注釋的數(shù)據(jù)集進行10 倍交叉驗證發(fā)現(xiàn),HMM的F1值平均為0.76,遠高于基線模型。

    CRF是一種用于序列標記任務(wù)的概率統(tǒng)計模型,在ADR實體識別領(lǐng)域中廣泛使用。CRF克服了HMM的獨立性假設(shè)條件,能夠考慮連續(xù)標簽之間的依賴關(guān)系,常與其他模型結(jié)合生成全局最優(yōu)序列。TANG等將CRF和長短期記憶神經(jīng)網(wǎng)絡(luò)相結(jié)合,在ADR公開語料庫CADEC上開展系列實驗,實驗表明該方法F1值高于CRF。CHRISTOPOULOU等將CRF模型與雙向長短期記憶神經(jīng)網(wǎng)絡(luò)進行結(jié)合,構(gòu)建ADR實體識別模型,并獲得了較好的實驗結(jié)果。王姝元提出了一種帶有CRF的雙向長短期記憶體的特定體系結(jié)構(gòu),將5,865 篇Twitter帖子標注為“Drug”“Indication”和“ADR”三種標簽來進行實體識別,實驗效果明顯優(yōu)于CRF模型以及以詞典為核心的實體識別方法。

    盡管機器學(xué)習(xí)推動ADR實體識別任務(wù)取得了巨大進展,但在模型實施前期,需要大量時間對數(shù)據(jù)集進行預(yù)處理工作,且機器學(xué)習(xí)模型難以處理大規(guī)模數(shù)據(jù),無法使用復(fù)雜特征,使得基于機器學(xué)習(xí)模型的ADR實體識別結(jié)果難以進一步提高。

    3.3 基于深度學(xué)習(xí)模型的ADR實體識別

    隨著時代的發(fā)展,深度學(xué)習(xí)模型在越來越多的領(lǐng)域有著出色的表現(xiàn),各類自然語言處理任務(wù)也逐漸引入該模型。目前實體識別任務(wù)以深度學(xué)習(xí)為核心內(nèi)容,基于深度學(xué)習(xí)的實體識別方法非常適用于解決序列標注問題,ADR實體識別由此進入新階段。

    循環(huán)神經(jīng)網(wǎng)絡(luò)是一類以序列數(shù)據(jù)為輸入,在序列的演進方向進行遞歸且所有節(jié)點(循環(huán)單元)按鏈式連接的遞歸神經(jīng)網(wǎng)絡(luò)。PANDEY等搭建了一個帶有注意力機制的雙向遞歸神經(jīng)網(wǎng)絡(luò),將雙向RNN用于自建數(shù)據(jù)集編碼,然后將其輸入生成注意權(quán)重的注意力層,并在RNN中使用注意力權(quán)重來進行ADR實體識別。

    長短期記憶神經(jīng)網(wǎng)絡(luò)(Long Short-Term Memory,LSTM)是一種較為特殊的RNN,主要包含遺忘門、輸入門、輸出門與一個記憶單元。傳統(tǒng)的RNN在訓(xùn)練中很容易出現(xiàn)梯度爆炸或者梯度消失的問題,導(dǎo)致無法處理較長的序列數(shù)據(jù),而LSTM能夠很好地洞悉并獲取在字段中相隔較遠的依賴關(guān)系。雙向長短期記憶神經(jīng)網(wǎng)絡(luò)(Bidirectional Long Short-Term Memory,BiLSTM)是LSTM的變體,能夠更加有效地提取文本的上下文信息,在ADR實體識別中取得了較好的效果。GUPTA等提出了一種基于半監(jiān)督BiLSTM的ADR實體識別模型,在2007—2010 年收集的ADR推文上開展實驗,實驗F1值比CRF高出3.01%。為了進一步提升模型效果,不少研究往往將BiLSTM與CRF進行結(jié)合。朱笑笑等構(gòu)建了基于BiLSTM與CRF的ADR抽取模型,在Twitter數(shù)據(jù)集上進行實驗,結(jié)果表明結(jié)合BiLSTM和CRF能夠有效識別出社交媒體上不規(guī)范的不良反應(yīng)實體。張亞飛等構(gòu)建了BiLSTM-CRF實體識別方法,從“39健康藥物論壇”上爬取26 種藥物用戶評論數(shù)據(jù)來識別ADR實體,從而挖掘出藥物論壇上潛在的ADR。CHEN等在國內(nèi)ADR報告上對比了CRF、BiLSTM-CRF和基于詞匯特征的BiLSTM-CRF模型實體識別任務(wù)的效果,結(jié)果表明基于詞匯特征的BiLSTMCRF模型實驗F1達到94.35%,表現(xiàn)最優(yōu)。

    GRU(Gated Recurrent Unit,門控循環(huán)單元)模型是LSTM模型的創(chuàng)新模型之一,其特點在于同時具備LSTM的遺忘、更新機制,且簡化了LSTM模型架構(gòu),提高了運行速度,降低了梯度彌散的風(fēng)險。陳瑤等以雙向門控循環(huán)單元(Bidirectional Gated Recurrent Unit,Bi-GRU)結(jié)構(gòu)為基礎(chǔ),引入注意力機制以及字向量與分詞向量優(yōu)化模型,對國內(nèi)ADR報告中的ADR過程描述部分進行“藥品-不良反應(yīng)”的實體識別和關(guān)系抽取研究,取得了較好效果。

    為了解決單一特征的神經(jīng)網(wǎng)絡(luò)模型不能充分利用文本信息的問題,趙鑫等提出了一種混合多特征的神經(jīng)網(wǎng)絡(luò)模型,使用包含卷積計算且具有深度結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)和LSTM對ADR文本進行實體識別研究,研究表明混合模型效果優(yōu)于單一特征的神經(jīng)網(wǎng)絡(luò)模型。楊文明等以BiLSTM-CRF為基準模型,設(shè)計了IndRNN-CRF和IDCNN-BiLSTM-CRF兩種不同的實體識別模型,并從尋醫(yī)問藥等網(wǎng)站爬取有關(guān)藥物不良反應(yīng)的評論構(gòu)建數(shù)據(jù)集,在此數(shù)據(jù)集上驗證模型的有效性。對比實驗結(jié)果可知,IDCNN-BiLSTM-CRF模型在精確率、召回率和F1值上均超過了基準模型BiLSTM-CRF模型,總體性能最好。TIFTIKCI等集成了BiLSTM、CNN和CRF用于ADR實體識別,并構(gòu)建了基于規(guī)則的方法規(guī)范已識別的ADR實體,在2017 年文本分析會議藥物不良反應(yīng)挑戰(zhàn)測試數(shù)據(jù)集上進行評估,結(jié)果表明由深度學(xué)習(xí)構(gòu)建的實體識別架構(gòu)和基于規(guī)則的實體規(guī)范化模型組成的系統(tǒng)是從藥物標簽中提取ADR的一種很有前途的方法。

    傳統(tǒng)的實體識別方法將字映射成One-hot編碼,難以表明一詞多義。為了解決這一問題,學(xué)者們提出了一種利用預(yù)訓(xùn)練語言模型進行單詞表示的方法。雖然該方法計算較為復(fù)雜,但可以充分捕捉長距離依賴關(guān)系,在ADR實體識別任務(wù)中常用來生成詞向量。

    早期運用較為廣泛的預(yù)訓(xùn)練模型大多以Word2Vec工具對詞向量進行訓(xùn)練,LIN等采用Word2Vec單詞嵌入方法識別Twitter數(shù)據(jù)集上的ADR,實驗結(jié)果表明Word2Vec在縮小特征空間的同時讓召回率和總體F1值都達到更高。GUPTA等使用Word2Vec在大型通用語料庫上訓(xùn)練詞向量作為ADR實體識別模型的輸入。然而Word2Vec僅關(guān)注到了詞的部分信息,沒有考慮到詞與局部窗口外詞的聯(lián)系,所以后續(xù)出現(xiàn)了GloVe和ELMo算法。GloVe利用共現(xiàn)矩陣,同時考慮了局部信息和整體信息。ELMo則針對Word2Vec和GloVe存在詞在不同的語境下有不同的含義,而向量表示卻相同這一問題進行了優(yōu)化,使其能夠?qū)W習(xí)到單詞用法的復(fù)雜特性。PANDEY等采用Word2Vec和GloVe從大量的ADR資源中實現(xiàn)了無監(jiān)督的單詞嵌入來改善RNN,提高了ADR實體識別的準確性。

    隨著預(yù)訓(xùn)練模型受到越來越多的關(guān)注,更多的預(yù)訓(xùn)練模型用于ADR實體識別。2018 年,DEVLIN等提出了BERT模型,其關(guān)鍵部分是Transformer結(jié)構(gòu),它是一個基于自注意力機制的深度網(wǎng)絡(luò)。朱曉旭在ADR的實體識別階段,以BiLSTM-CRF模型為基礎(chǔ),融入基于醫(yī)學(xué)文獻的預(yù)訓(xùn)練語言模型Bio-BERT作為詞表示,并加入自注意力機制來更好地處理長距離的依賴問題。WU等將BERT、BiLSTM與CRF相結(jié)合,令微調(diào)BERT模型獲得的詞特征作為輸入,通過BiLSTM-CRF進行特征提取,準確識別出國內(nèi)ADR報告中的目標實體,遠優(yōu)于其他基線模型。

    從目前的研究成果來看,深度學(xué)習(xí)模型是端到端的訓(xùn)練方式,自動提取特征,能夠?qū)W習(xí)ADR文本當中的深層語義信息,在各種ADR實體識別任務(wù)中均取得較好結(jié)果。近年來,學(xué)者們嘗試在基于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)上引入注意力機制、遷移學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)、遠程監(jiān)督學(xué)習(xí)等以進一步提升ADR實體識別效果。

    3.4 基于遷移學(xué)習(xí)方法的ADR實體識別

    遷移學(xué)習(xí)是深度學(xué)習(xí)前沿的研究領(lǐng)域,許多學(xué)者利用深度學(xué)習(xí)技術(shù)構(gòu)建遷移學(xué)習(xí)模型,將源域和模型的相關(guān)信息遷移到目標域,提高目標領(lǐng)域的實驗效果,能夠有效解決ADR實體識別任務(wù)資源匱乏、實體類型多樣化等問題,提升了ADR實體識別效果。

    ZHANG等提出了一種針對ADR實體識別任務(wù)的對抗性遷移學(xué)習(xí)模型,引入共享的字符級卷積神經(jīng)網(wǎng)絡(luò)(charCNN)學(xué)習(xí)兩個域數(shù)據(jù)集之間相似的字符級特征,通過融合來自PubMed(源域)的生物醫(yī)學(xué)領(lǐng)域信息,提高Twitter數(shù)據(jù)集(目標域)上的ADR實體識別效果,并根據(jù)兩個域的比例設(shè)置最終損失函數(shù)平衡任務(wù)。該方法的F1值在Twitter數(shù)據(jù)集上為68.58%,實現(xiàn)了最優(yōu)的性能。KANG等構(gòu)建了由對抗性遷移學(xué)習(xí)組成的神經(jīng)網(wǎng)絡(luò)模型ASAIBC,以分詞數(shù)據(jù)集為源域,以人工標注的新疆地區(qū)ADR數(shù)據(jù)集為目標域,結(jié)合自注意力機制和獨立循環(huán)神經(jīng)網(wǎng)絡(luò)(Independently Recurrent Neural Network,IndRNN)捕捉句子整體依賴性,充分利用中文分詞任務(wù)和NER任務(wù)的邊界來實現(xiàn)信息共享,該模型F1評分均值為90.57%,優(yōu)于現(xiàn)有模型,可以進一步提高ADR實體識別效果。

    4 數(shù)據(jù)集和評估效果(Datasets and evaluating performance)

    4.1 ADR實體識別常用數(shù)據(jù)集

    在ADR實體識別研究早期,常見的ADR數(shù)據(jù)來源有自發(fā)報告系統(tǒng)、電子健康記錄(EHR)、醫(yī)學(xué)文獻等,其中自發(fā)報告系統(tǒng)所收集的ADR報告和電子健康記錄較為常用。但是這些數(shù)據(jù)來源依舊有很多弊端,自發(fā)報告系統(tǒng)就存在錯報漏報、上報缺乏主觀能動性的缺陷,EHR文檔所涵蓋的數(shù)據(jù)范疇也并不全面,因此,系統(tǒng)全面的數(shù)據(jù)來源是開展ADR實體識別研究的關(guān)鍵。

    隨著互聯(lián)網(wǎng)的盛行,社交媒體已經(jīng)成為近年來ADR數(shù)據(jù)量大幅增長的領(lǐng)域之一。基于社交網(wǎng)絡(luò)的評論給ADR實體識別研究提供了寶貴的數(shù)據(jù)源,除了Twitter和微博社交平臺,還有一些專注于疾病和健康領(lǐng)域的網(wǎng)站,如國外的Dailystrenth、MedHelp、SteadyHealth以及國內(nèi)的“39健康網(wǎng)”“丁香園”和“尋醫(yī)問藥”,吸引一大批用戶通過發(fā)帖方式表達用藥或治療經(jīng)歷,或是向線上專業(yè)的醫(yī)護人員進行提問。這些包含大量ADR信息的網(wǎng)站近期成為ADR研究的重要數(shù)據(jù)源。除此以外,一些公開的語料數(shù)據(jù)庫或者比賽提供的數(shù)據(jù)集也是ADR實體識別研究常用的數(shù)據(jù)集,如MIMIC-III語料數(shù)據(jù)庫和n2c2數(shù)據(jù)集常用于各類實體識別研究。

    由此可見,無論是自發(fā)報告系統(tǒng)、社交媒體或是公開數(shù)據(jù)庫,都為ADR實體識別研究提供了新的視野,使得近幾年來ADR實體識別研究取得了明顯進展。

    4.2 數(shù)據(jù)集標注策略

    ADR實體識別數(shù)據(jù)集一般采用BIO、BIOE和BIOES等標注格式。在BIO標注格式中,B表示實體開端字符(Begin),I表示內(nèi)部(Inside),O表示外部(Outside)。BIOES是BIO的擴展,在BIO的基礎(chǔ)上,E表示一個詞處于某個實體的結(jié)束,S表示這個詞自己就可以組成一個實體(Single),O含義不變。在標注數(shù)據(jù)時,常采用以上兩種標注策略來進行ADR實體識別。由于BIOES具有更強的指向性和可識別度,因此能顯著提高識別效率,但后續(xù)出現(xiàn)的深度學(xué)習(xí)模型中學(xué)者們會更傾向于使用BIO標注。

    ADR 數(shù)據(jù)集通常有13 種標簽結(jié)果,分別為:“O”“B-Drug(藥品)”“I-Drug(藥品)”“BDose(劑量)”“I-Dose(劑量)”“B-Indication(適應(yīng)癥)”“I-Indication(適應(yīng)癥)”“B-Part(部位)”“IPart(部位)”“B-Symptom(癥狀)”“I-Symptom(癥狀)”“B-Time(時間)”“I-Time(時間)”。如“效果還行但副作用好大,吃了幾天后頭暈嗜睡,四肢無力”,經(jīng)BIO策略標注后為“效/O果/O還/O行/O但/O副/O作/O用/O好/O大/O,/O吃/O了/O幾/B-Time天/I-Time后/O頭/B-Symptom暈/I-Symptom嗜/I-Symptom睡/I-Symptom,/O四/B-Part肢/I-Part無/B-Symptom力/I-Symptom。/O”。

    4.3 評價指標

    ADR實體識別任務(wù)一般采用的評價指標包括精確率(Precision)、召回率(Recall)及F1值(F1-Measure)等。具體計算公式如下:

    其中,表示原本屬于正例的樣本被準確地分類為正例的數(shù)量,即正確識別為ADR實體的數(shù)量;表示原本為負例的樣本被錯誤地分類為正例的數(shù)量,即錯誤識別為ADR個體的數(shù)量;表示原本屬于正例的樣本被錯誤地分類為負例的數(shù)量,即錯誤地識別為非不良反應(yīng)的數(shù)量。

    5 ADR實體識別未來研究趨勢(Future research trend of ADR entity recognition)

    近年來科技發(fā)展迅速,各種實體識別方法層出不窮,但是如何解決ADR文本的復(fù)雜性、數(shù)據(jù)稀缺和實體嵌套等疑難點,更好地開展ADR實體識別研究仍然面臨著諸多挑戰(zhàn)?;贏DR實體識別廣闊的應(yīng)用前景,未來可以從以下三個方面對ADR實體識別開展研究:

    (1)模型創(chuàng)新,引入混合深度學(xué)習(xí)、持續(xù)學(xué)習(xí)、主動學(xué)習(xí)和多任務(wù)學(xué)習(xí)等前沿學(xué)習(xí)方法?;旌仙疃葘W(xué)習(xí)將傳統(tǒng)機器學(xué)習(xí)與主流的深度學(xué)習(xí)模型相結(jié)合,充分利用各學(xué)習(xí)方法的優(yōu)勢提高對多義詞、低頻實體等復(fù)雜實體的識別性能;持續(xù)學(xué)習(xí)在多個時間段的數(shù)據(jù)流中學(xué)習(xí),建立知識記憶以便在新知識的學(xué)習(xí)過程中不會忘記舊有的特征,減輕災(zāi)難性遺忘;主動學(xué)習(xí)通過選擇最有用未標記樣本,降低人工標注成本,有利于解決實體識別數(shù)據(jù)標注問題;多任務(wù)學(xué)習(xí)同時學(xué)習(xí)多個相關(guān)任務(wù),相比于單任務(wù)學(xué)習(xí),多任務(wù)學(xué)習(xí)能夠共享任務(wù)信息,提升泛化效果。這些前沿學(xué)習(xí)方法目前已經(jīng)常用于生物醫(yī)學(xué)命名實體識別領(lǐng)域,且效果較基礎(chǔ)模型有顯著提高,在該領(lǐng)域發(fā)揮了較為可觀的作用,因此后續(xù)可以在已有研究的基礎(chǔ)上引入這些學(xué)習(xí)方法來進一步提高ADR實體識別效果。

    (2)多特征融合,融合部首、詞性、字詞、詞典、依存句法分析及外部語義等多重特征。近年來,多特征融合在醫(yī)療實體識別領(lǐng)域應(yīng)用廣泛,能夠多方面抽取醫(yī)學(xué)專業(yè)領(lǐng)域知識,準確且完整地提取句子的特征信息,增強詞與詞之間的關(guān)聯(lián)性,充分挖掘文本上下文深層語義信息。而目前ADR實體識別領(lǐng)域相關(guān)模型向量特征表示過于單一,多特征融合方法尚未充分應(yīng)用,因此未來融合多特征也是提升ADR實體識別性能的一個方案。

    (3)構(gòu)建中文領(lǐng)域ADR實體識別大規(guī)模高質(zhì)量數(shù)據(jù)集。目前ADR實體識別研究通常需要大量的標注數(shù)據(jù),然而標注龐大的數(shù)據(jù)集需要大量的人力、時間和更多的領(lǐng)域?qū)<抑R。因此,如何利用小規(guī)模的標注語料構(gòu)建大規(guī)模的數(shù)據(jù)集是一個可參考的方向。未來或許可以整合現(xiàn)存的多個語料庫,利用自動化的方法進行數(shù)據(jù)集構(gòu)建來提高ADR實體識別的準確性。

    6 結(jié)論(Conclusion)

    目前,ADR實體識別是藥物警戒和智能醫(yī)療的熱門研究領(lǐng)域。本文首先分析了ADR實體識別目前面臨的問題;其次將現(xiàn)有ADR實體識別領(lǐng)域的研究方法進行歸納和分類,總結(jié)了包括基于規(guī)則和詞典、傳統(tǒng)機器學(xué)習(xí)、深度學(xué)習(xí)和遷移學(xué)習(xí)方法這四類ADR實體識別的方法與模型,分析得到當前基于遷移學(xué)習(xí)的方法在ADR實體識別任務(wù)上性能較優(yōu);接著介紹了ADR實體識別常用的數(shù)據(jù)集和當前較為流行的數(shù)據(jù)集標注策略以及評估指標;最后給出了ADR實體識別研究的研究趨勢,預(yù)計未來可以通過模型創(chuàng)新、多特征融合和構(gòu)建大規(guī)模高質(zhì)量數(shù)據(jù)集來提升ADR實體識別效果,為該領(lǐng)域深入研究提供參考。

    猜你喜歡
    實體神經(jīng)網(wǎng)絡(luò)領(lǐng)域
    前海自貿(mào)區(qū):金融服務(wù)實體
    中國外匯(2019年18期)2019-11-25 01:41:54
    神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    領(lǐng)域·對峙
    青年生活(2019年23期)2019-09-10 12:55:43
    實體的可感部分與實體——兼論亞里士多德分析實體的兩種模式
    兩會進行時:緊扣實體經(jīng)濟“釘釘子”
    振興實體經(jīng)濟地方如何“釘釘子”
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機控制模型建立
    重型機械(2016年1期)2016-03-01 03:42:04
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    新常態(tài)下推動多層次多領(lǐng)域依法治理初探
    基于支持向量機回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
    91精品三级在线观看| 精品久久蜜臀av无| 日韩av免费高清视频| 亚洲成人手机| 日韩制服丝袜自拍偷拍| 性高湖久久久久久久久免费观看| 日本色播在线视频| 久久ye,这里只有精品| 老司机亚洲免费影院| 极品少妇高潮喷水抽搐| 国产精品av久久久久免费| 26uuu在线亚洲综合色| 成人18禁高潮啪啪吃奶动态图| 色婷婷久久久亚洲欧美| 男人添女人高潮全过程视频| 老鸭窝网址在线观看| 亚洲成国产人片在线观看| 午夜日韩欧美国产| 男女午夜视频在线观看| 中文字幕另类日韩欧美亚洲嫩草| 日韩三级伦理在线观看| 亚洲国产欧美网| 久久久久久人妻| 十八禁网站网址无遮挡| 成人手机av| 91久久精品国产一区二区三区| 曰老女人黄片| 午夜免费男女啪啪视频观看| 久久99精品国语久久久| 久久影院123| 九色亚洲精品在线播放| 日韩一区二区视频免费看| 亚洲人成77777在线视频| 国产成人午夜福利电影在线观看| 亚洲精品一区蜜桃| 久久精品久久久久久久性| 国产精品99久久99久久久不卡 | 国产免费一区二区三区四区乱码| 婷婷色综合www| 国产 精品1| 国产精品蜜桃在线观看| 国产野战对白在线观看| 国产av一区二区精品久久| 在线精品无人区一区二区三| 精品国产一区二区三区久久久樱花| 电影成人av| 国产麻豆69| 黄色毛片三级朝国网站| 国产日韩欧美亚洲二区| 午夜福利在线观看免费完整高清在| 中国三级夫妇交换| 亚洲精品国产av成人精品| 日韩人妻精品一区2区三区| 精品久久久久久电影网| 老司机亚洲免费影院| 亚洲三级黄色毛片| 国产女主播在线喷水免费视频网站| 久久久久视频综合| 2021少妇久久久久久久久久久| 欧美av亚洲av综合av国产av | 一本—道久久a久久精品蜜桃钙片| 久久 成人 亚洲| 久久久精品94久久精品| 又大又黄又爽视频免费| 一区二区三区精品91| 老司机影院毛片| 波野结衣二区三区在线| 精品福利永久在线观看| 国产一区二区三区av在线| 久久久久久伊人网av| 97在线视频观看| 大片免费播放器 马上看| 中文乱码字字幕精品一区二区三区| 久久精品久久久久久久性| 在线观看人妻少妇| 伦精品一区二区三区| 亚洲第一区二区三区不卡| 亚洲美女黄色视频免费看| 各种免费的搞黄视频| 青青草视频在线视频观看| 免费在线观看视频国产中文字幕亚洲 | 91精品三级在线观看| 久久女婷五月综合色啪小说| 99re6热这里在线精品视频| 国产精品不卡视频一区二区| 色94色欧美一区二区| 交换朋友夫妻互换小说| 日韩伦理黄色片| 男女边吃奶边做爰视频| 午夜福利视频精品| a 毛片基地| 亚洲成人一二三区av| 一个人免费看片子| 亚洲久久久国产精品| 天堂中文最新版在线下载| 如日韩欧美国产精品一区二区三区| 色吧在线观看| 看免费av毛片| 丝袜脚勾引网站| 一区二区三区激情视频| 美女视频免费永久观看网站| 女的被弄到高潮叫床怎么办| 日韩制服丝袜自拍偷拍| 考比视频在线观看| 精品国产乱码久久久久久男人| 亚洲人成电影观看| 少妇的丰满在线观看| av在线播放精品| 免费黄色在线免费观看| 丁香六月天网| 国产一区二区三区综合在线观看| 国产福利在线免费观看视频| 免费播放大片免费观看视频在线观看| 国产精品三级大全| 亚洲精品国产av成人精品| 亚洲国产成人一精品久久久| 久久亚洲国产成人精品v| 一级毛片黄色毛片免费观看视频| 香蕉丝袜av| 国产伦理片在线播放av一区| 久久久久久久久久人人人人人人| 日韩制服骚丝袜av| 亚洲国产色片| 成年人免费黄色播放视频| 日本vs欧美在线观看视频| 亚洲婷婷狠狠爱综合网| 1024视频免费在线观看| 亚洲精品aⅴ在线观看| 久久免费观看电影| 中文字幕人妻熟女乱码| 制服人妻中文乱码| 一二三四中文在线观看免费高清| 1024香蕉在线观看| 亚洲av中文av极速乱| 日本wwww免费看| 日本午夜av视频| 色哟哟·www| 国产 精品1| 欧美在线黄色| 欧美日韩一区二区视频在线观看视频在线| 日韩av在线免费看完整版不卡| av网站在线播放免费| a级毛片黄视频| 少妇精品久久久久久久| 黄色配什么色好看| 母亲3免费完整高清在线观看 | 中文欧美无线码| 国产乱人偷精品视频| 国产爽快片一区二区三区| 久久精品国产鲁丝片午夜精品| 蜜桃在线观看..| 成人毛片60女人毛片免费| av片东京热男人的天堂| 午夜免费鲁丝| 国产黄色视频一区二区在线观看| 国产日韩欧美亚洲二区| 日韩,欧美,国产一区二区三区| 伊人亚洲综合成人网| 亚洲成国产人片在线观看| 91精品国产国语对白视频| 搡老乐熟女国产| 久久97久久精品| 亚洲图色成人| 1024视频免费在线观看| 9191精品国产免费久久| 亚洲精品一二三| 最黄视频免费看| 99久久精品国产国产毛片| 亚洲精华国产精华液的使用体验| 一级毛片 在线播放| 九色亚洲精品在线播放| 黑丝袜美女国产一区| 熟女少妇亚洲综合色aaa.| 激情视频va一区二区三区| 国产白丝娇喘喷水9色精品| xxx大片免费视频| 精品国产超薄肉色丝袜足j| 女性生殖器流出的白浆| 成人影院久久| 国产免费又黄又爽又色| 观看av在线不卡| 免费日韩欧美在线观看| 国产欧美亚洲国产| 欧美另类一区| tube8黄色片| 国产精品成人在线| 亚洲国产最新在线播放| 国产一区二区三区综合在线观看| 97在线视频观看| 欧美成人午夜免费资源| 一区二区三区精品91| 日韩欧美精品免费久久| 看免费成人av毛片| 欧美少妇被猛烈插入视频| 亚洲精品国产av蜜桃| 国产免费福利视频在线观看| 在线观看免费高清a一片| 在线观看免费视频网站a站| 日本色播在线视频| 精品一区在线观看国产| 丰满少妇做爰视频| 亚洲欧美一区二区三区国产| 天天躁狠狠躁夜夜躁狠狠躁| 尾随美女入室| 2022亚洲国产成人精品| 欧美国产精品va在线观看不卡| 亚洲久久久国产精品| 国产一区亚洲一区在线观看| 久久精品国产亚洲av天美| 母亲3免费完整高清在线观看 | 国产成人欧美| 在线观看一区二区三区激情| 国产野战对白在线观看| 国产精品二区激情视频| 国产极品天堂在线| 国产精品欧美亚洲77777| 欧美国产精品va在线观看不卡| 女人被躁到高潮嗷嗷叫费观| a级片在线免费高清观看视频| 男女啪啪激烈高潮av片| av一本久久久久| 国产精品一二三区在线看| 97在线人人人人妻| 国产成人精品在线电影| 中文精品一卡2卡3卡4更新| 18禁动态无遮挡网站| 美女大奶头黄色视频| 少妇猛男粗大的猛烈进出视频| 秋霞伦理黄片| 99热国产这里只有精品6| 9热在线视频观看99| videosex国产| 看免费av毛片| 欧美黄色片欧美黄色片| 国产精品亚洲av一区麻豆 | 国产精品不卡视频一区二区| 高清av免费在线| 丝瓜视频免费看黄片| 亚洲精品自拍成人| 亚洲国产最新在线播放| 美女中出高潮动态图| 精品酒店卫生间| 1024视频免费在线观看| 亚洲成国产人片在线观看| 国精品久久久久久国模美| 亚洲三区欧美一区| 欧美黄色片欧美黄色片| 街头女战士在线观看网站| 久久久久久久精品精品| 九九爱精品视频在线观看| 国产av精品麻豆| xxx大片免费视频| 国产精品99久久99久久久不卡 | kizo精华| 日本午夜av视频| 精品少妇内射三级| 极品少妇高潮喷水抽搐| 国产女主播在线喷水免费视频网站| 黑人猛操日本美女一级片| 性色av一级| 欧美日本中文国产一区发布| 欧美日韩精品成人综合77777| 亚洲欧洲精品一区二区精品久久久 | 国产成人精品久久久久久| xxxhd国产人妻xxx| 亚洲国产精品999| 又粗又硬又长又爽又黄的视频| 老熟女久久久| 免费播放大片免费观看视频在线观看| 国产一级毛片在线| 一区二区三区精品91| 美女国产高潮福利片在线看| 日本免费在线观看一区| 亚洲国产最新在线播放| 免费高清在线观看日韩| av卡一久久| 午夜福利,免费看| 欧美中文综合在线视频| 欧美在线黄色| av又黄又爽大尺度在线免费看| 中文字幕亚洲精品专区| 在线观看免费日韩欧美大片| 少妇 在线观看| 亚洲国产精品一区二区三区在线| 91精品伊人久久大香线蕉| 亚洲国产看品久久| 亚洲一区二区三区欧美精品| 激情五月婷婷亚洲| 亚洲av免费高清在线观看| 免费少妇av软件| 婷婷色麻豆天堂久久| 日本爱情动作片www.在线观看| 久久精品国产a三级三级三级| 免费女性裸体啪啪无遮挡网站| 欧美精品av麻豆av| av视频免费观看在线观看| 国产一区亚洲一区在线观看| 欧美av亚洲av综合av国产av | 91精品伊人久久大香线蕉| 国产精品二区激情视频| 我的亚洲天堂| 中文字幕人妻丝袜一区二区 | 三级国产精品片| 久久99一区二区三区| 在线观看美女被高潮喷水网站| 十八禁高潮呻吟视频| 国产一区二区三区av在线| 少妇人妻精品综合一区二区| 成人毛片60女人毛片免费| 亚洲欧美清纯卡通| 人体艺术视频欧美日本| 咕卡用的链子| 最近中文字幕2019免费版| 啦啦啦视频在线资源免费观看| 熟女av电影| 一级毛片电影观看| 久久久欧美国产精品| 亚洲综合色网址| 精品亚洲乱码少妇综合久久| 在线观看免费日韩欧美大片| 午夜91福利影院| 国产日韩欧美在线精品| 满18在线观看网站| 国产亚洲最大av| 久久人人爽人人片av| 久久久久国产网址| 日本爱情动作片www.在线观看| 尾随美女入室| 激情五月婷婷亚洲| 18禁国产床啪视频网站| 国产一区二区 视频在线| 少妇被粗大的猛进出69影院| 中文字幕最新亚洲高清| 黄片小视频在线播放| 国产亚洲最大av| 成人午夜精彩视频在线观看| av一本久久久久| 日韩欧美一区视频在线观看| www.熟女人妻精品国产| 18禁国产床啪视频网站| 黄片播放在线免费| 欧美+日韩+精品| 久久热在线av| 在线精品无人区一区二区三| av国产精品久久久久影院| 欧美人与善性xxx| 9色porny在线观看| 伦精品一区二区三区| 久久热在线av| 国产在线视频一区二区| 日日摸夜夜添夜夜爱| 久久鲁丝午夜福利片| 在线观看美女被高潮喷水网站| 亚洲国产精品999| 国产日韩一区二区三区精品不卡| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 男人舔女人的私密视频| 精品久久久久久电影网| 高清在线视频一区二区三区| 成人国语在线视频| 日本欧美视频一区| 熟女少妇亚洲综合色aaa.| 久久狼人影院| 亚洲欧洲精品一区二区精品久久久 | 国产精品蜜桃在线观看| 成人毛片a级毛片在线播放| 国产成人av激情在线播放| 三上悠亚av全集在线观看| 成人毛片a级毛片在线播放| 欧美精品av麻豆av| 涩涩av久久男人的天堂| 美女主播在线视频| 天天躁夜夜躁狠狠躁躁| 亚洲美女视频黄频| 老女人水多毛片| 亚洲精品乱久久久久久| 国产精品香港三级国产av潘金莲 | 色婷婷av一区二区三区视频| 91成人精品电影| 爱豆传媒免费全集在线观看| 亚洲三级黄色毛片| 亚洲欧洲精品一区二区精品久久久 | 丝袜喷水一区| 国产成人精品婷婷| 国产又色又爽无遮挡免| 黑人欧美特级aaaaaa片| 国产一区二区三区综合在线观看| 99久久综合免费| 大陆偷拍与自拍| 高清欧美精品videossex| 成年美女黄网站色视频大全免费| 国产精品久久久久久精品电影小说| 欧美精品人与动牲交sv欧美| 国产日韩欧美视频二区| 国产精品一国产av| 日韩制服丝袜自拍偷拍| 国产精品亚洲av一区麻豆 | 纵有疾风起免费观看全集完整版| 在线免费观看不下载黄p国产| 视频在线观看一区二区三区| 欧美亚洲日本最大视频资源| 亚洲美女视频黄频| 国产一区有黄有色的免费视频| 中文字幕色久视频| 少妇被粗大的猛进出69影院| 日本av手机在线免费观看| 看免费成人av毛片| 午夜日韩欧美国产| 亚洲国产精品一区二区三区在线| 亚洲五月色婷婷综合| 成人手机av| 中文字幕亚洲精品专区| 色吧在线观看| 人妻 亚洲 视频| 国产亚洲最大av| 欧美黄色片欧美黄色片| 久久韩国三级中文字幕| 天堂中文最新版在线下载| 下体分泌物呈黄色| 街头女战士在线观看网站| 久久久久久久大尺度免费视频| 欧美日韩成人在线一区二区| 色婷婷久久久亚洲欧美| 深夜精品福利| 精品国产一区二区久久| 欧美日韩av久久| 亚洲av电影在线进入| 99久久中文字幕三级久久日本| 丰满饥渴人妻一区二区三| 亚洲欧美一区二区三区黑人 | 国产一区二区激情短视频 | 久久精品国产综合久久久| kizo精华| 欧美精品国产亚洲| 精品99又大又爽又粗少妇毛片| 午夜日本视频在线| 国精品久久久久久国模美| 日日啪夜夜爽| 99香蕉大伊视频| 一本大道久久a久久精品| 日本黄色日本黄色录像| 大片免费播放器 马上看| 免费观看av网站的网址| 一级黄片播放器| 欧美人与性动交α欧美精品济南到 | 看免费成人av毛片| 午夜91福利影院| 亚洲一码二码三码区别大吗| 久久精品久久久久久久性| 免费播放大片免费观看视频在线观看| 国产日韩欧美在线精品| 成人18禁高潮啪啪吃奶动态图| 久久久久国产网址| 春色校园在线视频观看| freevideosex欧美| 天天躁夜夜躁狠狠躁躁| 亚洲综合色网址| 熟女av电影| 啦啦啦视频在线资源免费观看| 国产熟女欧美一区二区| 日韩 亚洲 欧美在线| 欧美精品一区二区免费开放| 中文字幕制服av| 亚洲成国产人片在线观看| 国产av一区二区精品久久| 久久久久久久精品精品| 国产乱来视频区| 亚洲天堂av无毛| 亚洲国产欧美日韩在线播放| 2022亚洲国产成人精品| 女性被躁到高潮视频| 国产一区二区 视频在线| 十八禁高潮呻吟视频| 免费人妻精品一区二区三区视频| 秋霞在线观看毛片| 亚洲欧美成人综合另类久久久| 国产日韩欧美在线精品| 免费av中文字幕在线| 欧美日本中文国产一区发布| 欧美 亚洲 国产 日韩一| 汤姆久久久久久久影院中文字幕| 国产爽快片一区二区三区| av又黄又爽大尺度在线免费看| 蜜桃在线观看..| 国产成人免费无遮挡视频| 永久网站在线| 成人二区视频| 爱豆传媒免费全集在线观看| 免费在线观看完整版高清| 99久久综合免费| 亚洲av欧美aⅴ国产| 国产一级毛片在线| av免费在线看不卡| 日韩欧美一区视频在线观看| 国产av国产精品国产| 国产男女超爽视频在线观看| 国产 精品1| 中文字幕人妻熟女乱码| 精品国产一区二区三区四区第35| 欧美日韩视频高清一区二区三区二| 大陆偷拍与自拍| 免费黄色在线免费观看| 久久久精品国产亚洲av高清涩受| 精品人妻在线不人妻| 午夜免费鲁丝| 制服丝袜香蕉在线| 欧美亚洲日本最大视频资源| 成年女人毛片免费观看观看9 | 日韩中文字幕欧美一区二区 | 99香蕉大伊视频| 亚洲第一av免费看| 综合色丁香网| 亚洲欧美精品自产自拍| 免费看av在线观看网站| 可以免费在线观看a视频的电影网站 | 美女高潮到喷水免费观看| 超碰成人久久| 亚洲熟女精品中文字幕| 国产xxxxx性猛交| xxxhd国产人妻xxx| 最近最新中文字幕大全免费视频 | 亚洲精品第二区| 国产精品秋霞免费鲁丝片| 精品人妻在线不人妻| 国产成人免费无遮挡视频| 国产福利在线免费观看视频| 亚洲成人一二三区av| 成年女人毛片免费观看观看9 | 国产精品一国产av| 少妇人妻精品综合一区二区| 成人毛片60女人毛片免费| 亚洲精品国产av成人精品| 女人久久www免费人成看片| 91在线精品国自产拍蜜月| 波野结衣二区三区在线| 在线免费观看不下载黄p国产| 久久这里只有精品19| 久久毛片免费看一区二区三区| 99久久综合免费| 亚洲精品自拍成人| 女人高潮潮喷娇喘18禁视频| 国产日韩一区二区三区精品不卡| 香蕉丝袜av| 亚洲成人一二三区av| 亚洲国产欧美在线一区| 国产欧美亚洲国产| 水蜜桃什么品种好| 日韩制服骚丝袜av| a级片在线免费高清观看视频| 天天躁日日躁夜夜躁夜夜| 亚洲精品,欧美精品| tube8黄色片| 久久久久久久久免费视频了| 亚洲欧美一区二区三区黑人 | 亚洲成国产人片在线观看| 中文字幕人妻丝袜一区二区 | 在线观看免费视频网站a站| 在线观看免费高清a一片| 日韩av在线免费看完整版不卡| 国产乱人偷精品视频| 久久热在线av| 男女免费视频国产| 国产精品久久久久久久久免| 国产男女内射视频| 亚洲av电影在线进入| 麻豆精品久久久久久蜜桃| 爱豆传媒免费全集在线观看| 成年人免费黄色播放视频| 欧美精品亚洲一区二区| 少妇人妻久久综合中文| 亚洲第一青青草原| 在现免费观看毛片| 人人妻人人澡人人看| kizo精华| av不卡在线播放| av免费观看日本| 久热这里只有精品99| 丰满少妇做爰视频| 国产 一区精品| 精品国产一区二区三区四区第35| 91精品伊人久久大香线蕉| 2022亚洲国产成人精品| 国产一区有黄有色的免费视频| 久久97久久精品| 视频在线观看一区二区三区| tube8黄色片| 日日爽夜夜爽网站| 丝袜人妻中文字幕| 国产又爽黄色视频| 黄色毛片三级朝国网站| 日产精品乱码卡一卡2卡三| 天天影视国产精品| 久久韩国三级中文字幕| 久久99精品国语久久久| 精品国产一区二区三区四区第35| 精品少妇内射三级| 中文欧美无线码| 一区福利在线观看| 性色avwww在线观看| 国产熟女午夜一区二区三区| 欧美变态另类bdsm刘玥| 又黄又粗又硬又大视频| 99热国产这里只有精品6| a级片在线免费高清观看视频| 色婷婷久久久亚洲欧美| 久久这里只有精品19| 欧美+日韩+精品| 777久久人妻少妇嫩草av网站| 桃花免费在线播放| 日韩,欧美,国产一区二区三区| 在线免费观看不下载黄p国产| 中文字幕色久视频| 人人妻人人澡人人爽人人夜夜| 国产无遮挡羞羞视频在线观看| 亚洲欧洲日产国产|