• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種自適應(yīng)記憶神經(jīng)網(wǎng)絡(luò)多跳讀取與覆蓋度機(jī)制結(jié)合的藥物推薦模型

    2022-05-17 04:18:36王延達(dá)陳煒通皮德常
    電子學(xué)報(bào) 2022年4期
    關(guān)鍵詞:覆蓋度注意力次數(shù)

    王延達(dá),陳煒通,皮德常,岳 琳

    (1. 南京航空航天大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,江蘇南京 211106;2. 昆士蘭大學(xué)信息技術(shù)與電子工程學(xué)院,澳大利亞昆士蘭布里斯班 4072)

    1 引言

    隨著機(jī)器學(xué)習(xí)技術(shù)的快速發(fā)展,相關(guān)研究成果在多個(gè)學(xué)科交叉融合領(lǐng)域取得了令人矚目的研究成果,例如智能交通、智慧城市以及智慧醫(yī)療等[1~5]. 其中,智慧醫(yī)療旨在借助人工智能技術(shù),以病人臨床數(shù)據(jù)為基礎(chǔ),做出疾病診斷與治療建議,為醫(yī)生提供臨床決策支持,提升診療質(zhì)量與治療效率. 與此同時(shí),電子醫(yī)療記錄(Electronic Healthcare Records,EHRs)系統(tǒng)的廣泛應(yīng)用,為臨床決策支持相關(guān)研究的開展提供了充足的數(shù)據(jù).EHRs 記錄了病人入院后各項(xiàng)生理指標(biāo)的變化情況,以及使用的藥物和接受的治療手段等數(shù)據(jù),能夠滿足不同臨床應(yīng)用研究對(duì)數(shù)據(jù)的需求. 借助深度學(xué)習(xí)對(duì)EHRs 開展分析,協(xié)助醫(yī)護(hù)人員應(yīng)對(duì)復(fù)雜多變的病人健康狀況,是提升診療質(zhì)量的重要手段.作為構(gòu)建智慧醫(yī)療體系的重要一環(huán),相關(guān)研究成果是提升醫(yī)療效率、節(jié)省醫(yī)療資源及應(yīng)對(duì)人口老齡化的關(guān)鍵所在.

    針對(duì)臨床決策支持的研究克服了EHRs 帶來的種種挑戰(zhàn),已經(jīng)在疾病診斷、死亡預(yù)測(cè)以及藥物推薦等問題上取得了諸多進(jìn)展[6~9],涉及的研究議題包括EHRs信息提取、EHRs 表示學(xué)習(xí)以及輸出預(yù)測(cè)等.EHRs 信息提取的目標(biāo),是從數(shù)據(jù)中提取結(jié)構(gòu)化的醫(yī)學(xué)概念,例如疾病和藥品名稱,并通過對(duì)縮寫進(jìn)行擴(kuò)展和標(biāo)準(zhǔn)化來統(tǒng)一概念名稱,作為概念之間關(guān)系提取的基礎(chǔ),用以明確不同概念之間的影響方式,例如藥品A 能夠緩解疾病B 的癥狀. EHRs 包含兩方面的內(nèi)容表示學(xué)習(xí),即針對(duì)醫(yī)學(xué)概念的表示學(xué)習(xí)和針對(duì)病人的表示學(xué)習(xí). 針對(duì)醫(yī)學(xué)概念的表示學(xué)習(xí),目標(biāo)是以不同概念之間的相似性為基礎(chǔ),提取具有臨床意義的概念表示向量. 針對(duì)病人的表示學(xué)習(xí),則是以病人對(duì)應(yīng)的各項(xiàng)概念表示向量為基礎(chǔ),構(gòu)建其對(duì)應(yīng)的綜合表示向量,作為輸出預(yù)測(cè)的依據(jù). 輸出預(yù)測(cè)依據(jù)病人表示向量對(duì)病人對(duì)應(yīng)的臨床輸出進(jìn)行預(yù)測(cè),例如診斷病人所患疾病或疾病發(fā)作時(shí)間. 根據(jù)模型使用數(shù)據(jù)的時(shí)間跨度,相關(guān)研究可以分為兩類,即不考慮時(shí)序模式的靜態(tài)預(yù)測(cè)和考慮時(shí)序模式的趨勢(shì)預(yù)測(cè).

    藥物推薦作為臨床決策支持相關(guān)研究中的重要課題[7,10],目標(biāo)是以EHRs為依據(jù),預(yù)測(cè)病人的藥物使用情況,作為醫(yī)生開具處方的參考,其所涉及的研究?jī)?nèi)容包括獲取EHRs 中蘊(yùn)含的病人健康狀況變化規(guī)律,消解因藥物反應(yīng)(Drug-Drug Interaction,DDI)造成的副作用,以及利用反事實(shí)推理評(píng)估藥物治療效果. 為獲取病人健康狀況變化規(guī)律,以往研究大多使用循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)對(duì)EHRs 中的時(shí)序模式進(jìn)行編碼,并基于注意力機(jī)制對(duì)存儲(chǔ)歷史編碼結(jié)果的記憶神經(jīng)網(wǎng)絡(luò)(Memory Neural Network,MemNN)進(jìn)行多跳讀取,提取其中的上下文信息[7]. 為消解DDI 引起的副作用,相關(guān)研究使用DDI 信息構(gòu)建圖結(jié)構(gòu)數(shù)據(jù)[10],并利用圖卷積網(wǎng)絡(luò)(Graph Convolutional Networks,GCN)[11]獲取節(jié)點(diǎn)表示向量,為模型提供藥物不良反應(yīng)信息. 另一些研究基于強(qiáng)化學(xué)習(xí)(Reinforcement Learning,RL)或生成對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Network,GAN)對(duì)藥物推薦過程進(jìn)行修正,避免生成會(huì)引起不良反應(yīng)的藥物組合[7,12]. 反事實(shí)推理通常將病人接受某項(xiàng)治療方案的情形稱為事實(shí),將沒有接受治療的情形稱之為反事實(shí),并通過對(duì)比兩種場(chǎng)景下病人群體的輸出結(jié)果,明確藥物與疾病之間的因果關(guān)系[13]. 干擾因素(Confounder)是該過程面臨的主要問題[14],已有研究的應(yīng)對(duì)方法包括基于逆治療概率加權(quán)(Inverse Probability of Treatment Weighting,IPTW)的邊際結(jié)構(gòu)模型(Marginal Structural Models,MSMs)、循環(huán)邊際結(jié)構(gòu)網(wǎng)絡(luò)(Recurrent Marginal Structural Networks,RMSNs)以及反事實(shí)循環(huán)網(wǎng)絡(luò)(Counterfactual Recurrent Network,CRN)[15,16].

    在藥物推薦涉及的各項(xiàng)研究?jī)?nèi)容中,準(zhǔn)確獲取EHRs 中蘊(yùn)含的病人健康狀況變化規(guī)律以構(gòu)建病人表示向量是藥物推薦成功與否的關(guān)鍵所在. 然而,以往方法使用的常規(guī)MemNN 多跳讀取使用同一固定數(shù)值作為所有病人的MemNN 讀取次數(shù),忽略了不同病人所對(duì)應(yīng)的入院次數(shù)以及所患疾病等數(shù)據(jù)存在差異這一情況. 當(dāng)MemNN 讀取次數(shù)不足時(shí),模型無法獲得全部的上下文信息,而對(duì)MemNN 的不必要讀取,則會(huì)導(dǎo)致讀取結(jié)果中包含冗余數(shù)據(jù). 此外,常規(guī)注意力機(jī)制對(duì)注意力權(quán)重的分布沒有限制,應(yīng)用于MemNN 多跳讀取時(shí)很有可能重復(fù)關(guān)注MemNN 的相同位置,從而讀取冗余數(shù)據(jù). 為神經(jīng)機(jī)器翻譯(Neural Machine Translation,NMT)設(shè)計(jì)的覆蓋度機(jī)制(Coverage Mechanism)是解決該問題的一種方案[17]. 但是,NMT 與藥物推薦對(duì)注意力機(jī)制的使用存在顯著差異.NMT 任務(wù)要求將注意力權(quán)重分散到所有待翻譯詞匯,確保語(yǔ)句中的所有詞匯均被準(zhǔn)確翻譯. 藥物推薦模型則需要通過變換注意力機(jī)制的關(guān)注重點(diǎn),有選擇地讀取MemNN 中的上下文信息. 因此,對(duì)于藥物推薦問題,合理的MemNN 讀取方法是將注意力權(quán)重的調(diào)整與分布限定在選定的重要數(shù)據(jù)范圍內(nèi).

    為解決上述問題,本文提出自適應(yīng)MemNN 多跳讀取機(jī)制與選擇性覆蓋度機(jī)制,結(jié)合二者構(gòu)建藥物推薦模型AMHSC(Adaptive Multi-Hop reading with Selective Coverage mechanism). 該模型根據(jù)病人自身情況決定對(duì)應(yīng)的MemNN 多跳讀取次數(shù),取代了常規(guī)方法使用單一數(shù)值作為全局讀取次數(shù)的做法. 同時(shí),AMHSC 模型使用門控循環(huán)單元(Gated Recurrent Unit,GRU)對(duì)多跳讀取過程中MemNN 數(shù)據(jù)的覆蓋度進(jìn)行記錄和更新,基于覆蓋度信息對(duì)MemNN 數(shù)據(jù)進(jìn)行選擇,并對(duì)注意力權(quán)重進(jìn)行調(diào)整,保證注意力權(quán)重合理地分散于所選定的重要數(shù)據(jù)范圍內(nèi). 兩種機(jī)制的結(jié)合保證了AMHSC 對(duì)EHRs 的合理讀取,避免了重要數(shù)據(jù)缺失或冗余數(shù)據(jù)造成的消極影響. 同時(shí),為每個(gè)病人構(gòu)建獨(dú)有的MemNN并自適應(yīng)地決定MemNN 讀取次數(shù)的做法,能夠考慮病人獨(dú)有的生理特征,準(zhǔn)確獲取病人健康狀況表示向量,作為藥物推薦的依據(jù).

    2 AMHSC模型

    AMHSC模型整體框架如圖1所示.

    圖1 AMHSC模型整體框架

    AMHSC 模型首先對(duì)病人的歷史EHRs 進(jìn)行編碼,獲取病人健康狀況表示向量qt,并在此過程中構(gòu)建記憶神經(jīng)網(wǎng)絡(luò)KV. 然后,模型針對(duì)KV開展基于注意力機(jī)制的多跳讀取,并對(duì)覆蓋度進(jìn)行更新. 在進(jìn)行J輪讀取后,依據(jù)覆蓋度CJ對(duì)KV 進(jìn)行過濾以獲取. 接著,模型針對(duì)進(jìn)行基于注意力機(jī)制的多跳讀取,并在計(jì)算注意力權(quán)重時(shí)將覆蓋度作為依據(jù). 在依據(jù)推薦結(jié)果獲取多跳讀取的最佳次數(shù)后,將其作為監(jiān)督信息,用于訓(xùn)練MemNN 讀取次數(shù)的自適應(yīng)決定模塊,得到最佳讀取次數(shù)預(yù)測(cè)結(jié)果?,完成最后的藥物推薦.

    2.1 基本符號(hào)與問題定義

    病人對(duì)應(yīng)的EHRs 可看作是一個(gè)序列x=[x1,x2,…,xT],其中T為總?cè)朐捍螖?shù),xt為第t次入院對(duì)應(yīng)的數(shù)據(jù). 原始EHRs 使用ICD(International Classification of Diseases)代碼記錄病人的疾病診斷結(jié)果和手術(shù)治療方案,使用(National Drug Codes)NDC 代碼記錄病人服用的藥物. 這些代碼在分別經(jīng)過字典化處理后,均被轉(zhuǎn)化為唯一的整數(shù)數(shù)值,得到對(duì)應(yīng)的整數(shù)集合Sd,Sp和Sm,其中包含的整數(shù)數(shù)量分別為|Sd|,|Sp|和|Sm|.xt中包含了第t次入院時(shí)的疾病診斷結(jié)果、手術(shù)治療方案以及服用的藥物,分別對(duì)應(yīng)三個(gè)整數(shù)集合dt∈Sd,pt∈Sp和mt∈Sm. 在使用x作為輸入數(shù)據(jù)時(shí),模型會(huì)將dt,pt和mt分別轉(zhuǎn)化為multi-hot向量和.

    基于EHRs編碼結(jié)果構(gòu)建的MemNN中包含T-1對(duì)鍵-值,第t對(duì)鍵-值對(duì)應(yīng)第t次入院時(shí)的數(shù)據(jù),分別是由連續(xù)型數(shù)值構(gòu)成的病人健康狀況表示向量qt和以整數(shù)集合形式存在的藥物mt. 使用注意力機(jī)制對(duì)MemNN 進(jìn)行多跳讀取時(shí),模型會(huì)計(jì)算當(dāng)前的查詢條件uk-1與MemNN 中各個(gè)鍵對(duì)應(yīng)的注意力權(quán)重ak,以此權(quán)重為依據(jù),從MemNN 中讀取內(nèi)容ok,用以完成查詢條件從uk-1到uk的更新. 同時(shí),模型會(huì)依據(jù)讀取過程中的各項(xiàng)數(shù)據(jù),對(duì)MemNN 中qt對(duì)應(yīng)的覆蓋度信息進(jìn)行更新,得到.

    AMHSC 模型針對(duì)藥品的共同使用情況構(gòu)建關(guān)系圖,基于藥品的臨床醫(yī)學(xué)關(guān)系獲取對(duì)應(yīng)的表示向量. 模型使用矩陣CG表示關(guān)系圖,CG維度為|Sm|×|Sm|. 若某次入院記錄對(duì)應(yīng)的EHRs 中同時(shí)包含藥品i與j,則CGi,j=CGj,i=1,否則CGi,j=CGj,i=0.

    給定病人對(duì)應(yīng)的EHRs,AMHSC 模型的目標(biāo)是預(yù)測(cè)病人需要服用的藥物mT.

    2.2 EHRs編碼

    對(duì)EHRs 進(jìn)行編碼的目的在于獲取病人每次入院對(duì)應(yīng)的健康狀況表示向量,作為構(gòu)建MemNN 和藥物推薦的基礎(chǔ). 首先,模型分別借助嵌入矩陣和,將與轉(zhuǎn)換為對(duì)應(yīng)的特征向量,如式(1)和式(2)所示,其中dim表示轉(zhuǎn)化后特征向量的長(zhǎng)度. 得到的特征向量與將作為GRU 當(dāng)前時(shí)刻的輸入數(shù)據(jù),依據(jù)式(3)和式(4)進(jìn)行更新,獲取與中蘊(yùn)含的時(shí)序模式. 二者對(duì)應(yīng)的GRU狀態(tài)htd與將在被連接為單一特征向量后,經(jīng)線性轉(zhuǎn)換得到第t次入院對(duì)應(yīng)的病人健康狀況表示向量qt. 隨后,qt和對(duì)應(yīng)的藥品集合mt一起組成一對(duì)鍵-值,存儲(chǔ)于MemNN 中. 在完成對(duì)所有EHRs 的編碼后,MemNN 中共包含T-1 對(duì)鍵-值,分別對(duì)應(yīng)第1次至第T-1次入院的數(shù)據(jù).

    對(duì)MemNN 進(jìn)行的多跳讀取分兩階段進(jìn)行. 第一階段,模型基于常規(guī)注意力機(jī)制讀取數(shù)據(jù),不考慮覆蓋度信息對(duì)注意力權(quán)重計(jì)算的影響. 對(duì)于第k輪讀取,模型首先依據(jù)上一輪讀取結(jié)果uk-1與MemNN 的鍵qt(t<T)之間的交互信息,計(jì)算注意力權(quán)重ak,計(jì)算過程如式(5)和式(6)所示. 隨后,模型使用權(quán)重ak從MemNN 讀取藥品數(shù)據(jù),并依據(jù)各藥品對(duì)應(yīng)的表示向量Zk對(duì)讀取結(jié)果進(jìn)行轉(zhuǎn)化,得到本次讀取的內(nèi)容ok,如式(7)所示.讀取結(jié)果ok會(huì)被用于對(duì)uk-1依照式(8)進(jìn)行更新,并將讀取結(jié)果uk作為下一輪讀取的查詢依據(jù).

    AMHSC 模型使用GCN 處理藥品關(guān)系矩陣CG,獲取式(7)使用的藥品表示向量Zk,計(jì)算過程如式(9)所示. 其中為對(duì)角矩陣,計(jì)算方式為則為單位矩陣. 模型會(huì)對(duì)CG使用兩層GCN 操作,所獲取的節(jié)點(diǎn)特征即為藥品的表示向量,計(jì)算過程如式(10)所示.

    第二階段MemNN 多跳讀取過程中,模型使用覆蓋度機(jī)制對(duì)注意力權(quán)重的計(jì)算進(jìn)行調(diào)整,將其作為注意力權(quán)重的計(jì)算依據(jù)之一. 具體計(jì)算細(xì)節(jié)將在2.3 節(jié)介紹.

    2.3 結(jié)合選擇性覆蓋度機(jī)制的MemNN多跳讀取

    AMHSC 模型使用覆蓋度信息記錄MemNN 中鍵-值對(duì)被讀取的程度,并基于覆蓋度信息完成兩項(xiàng)工作:篩選MemNN 中的重要數(shù)據(jù),以及對(duì)MemNN 讀取過程中的注意力權(quán)重進(jìn)行調(diào)整,確保模型關(guān)注所有重要數(shù)據(jù).

    2.3.1 基于GRU的覆蓋度信息更新

    基于GRU 對(duì)覆蓋度信息進(jìn)行更新的過程如圖2 所示. 對(duì)于第k輪讀取過程,模型對(duì)截至k-1 輪的覆蓋度信息Ck-1更新時(shí)使用的數(shù)據(jù)包括qt,uk-1以及注意力權(quán)重ak.ak是第k輪讀取時(shí)uk-1與qt(t<T)之間的注意力權(quán)重,其計(jì)算過程如式(11)及式(12)所示,其中Ctk-1表示第t對(duì)鍵-值對(duì)應(yīng)的覆蓋度信息. 相比于常規(guī)注意力權(quán)重只考慮qt與uk-1的做法,該計(jì)算過程通過對(duì)concat 注意力機(jī)制的修改[18],將覆蓋度信息納入考慮之中.

    圖2 基于GRU的覆蓋度信息計(jì)算流程

    將Ck-1更新至Ck的過程如式(13)至式(16)所示,其中σ(·)為sigmoid 函數(shù). 根據(jù)GRU 的計(jì)算過程可知,式(13)和式(14)首先分別基于sigmoid函數(shù)構(gòu)建更新門(update gate)和重置門(reset gate),用于決定原覆蓋度信息Ck-1中被保留以及被去除的數(shù)據(jù)量. 接著,式(15)基于輸入數(shù)據(jù)以及Ck-1生成當(dāng)前時(shí)刻的新數(shù)據(jù)最后,式(16)基于更新門結(jié)合Ck-1與,生成更新后的覆蓋度信息Ck.

    2.3.2 選擇性覆蓋度機(jī)制

    AMHSC 模型根據(jù)病人歷史入院次數(shù)決定是否使用選擇性覆蓋度機(jī)制. 當(dāng)病人入院次數(shù)較少時(shí),對(duì)應(yīng)EHRs 包含的數(shù)據(jù)量有限,模型需要充分利用所有數(shù)據(jù),因此不對(duì)MemNN 進(jìn)行數(shù)據(jù)過濾和注意力權(quán)重調(diào)整,僅依據(jù)常規(guī)注意力權(quán)重進(jìn)行MemNN 多跳讀?。ň唧w見第2.2節(jié)). 當(dāng)病人入院次數(shù)超過L時(shí),模型啟動(dòng)選擇性覆蓋度機(jī)制,依據(jù)覆蓋度信息對(duì)存儲(chǔ)在MemNN 中的數(shù)據(jù)進(jìn)行過濾,并對(duì)注意力權(quán)重進(jìn)行調(diào)整,避免注意力機(jī)制重復(fù)關(guān)注MemNN相同位置的數(shù)據(jù).

    選擇性覆蓋度機(jī)制工作流程如圖3 所示,以MemNN數(shù)據(jù)選擇為界,分為兩步進(jìn)行.

    圖3 結(jié)合選擇性覆蓋度機(jī)制的MemNN多跳讀取

    首先,模型依照第2.2 節(jié)的描述,基于常規(guī)注意力機(jī)制對(duì)MemNN 進(jìn)行多跳讀取. 在此過程中,模型會(huì)使用GRU 對(duì)鍵-值對(duì)的覆蓋度信息進(jìn)行記錄和更新,但不會(huì)使用Ctk調(diào)整注意力權(quán)重.Ctk記錄了MemNN 中不同鍵-值對(duì)被讀取和使用的情況,反應(yīng)了相應(yīng)數(shù)據(jù)對(duì)于藥物推薦的重要性. 因此,在對(duì)MemNN 進(jìn)行J輪讀取后,模型以CtJ為依據(jù)計(jì)算qt中各元素對(duì)應(yīng)的門(element-wise gate),利用門控機(jī)制對(duì)qt進(jìn)行數(shù)據(jù)篩選,以達(dá)到保留重要數(shù)據(jù)并去除冗余數(shù)據(jù)的目的. 計(jì)算過程如式(17)所示:.

    完成MemNN 數(shù)據(jù)篩選后,模型繼續(xù)基于注意力權(quán)重對(duì)MemNN 進(jìn)行讀取,并使用覆蓋度信息對(duì)注意力權(quán)重進(jìn)行調(diào)整,保證其適當(dāng)?shù)胤稚⒂贛emNN 不同位置.計(jì)算過程如式(18)和式(19)所示. 得到的注意力權(quán)重將被用于從過濾后的MemNN 中讀取數(shù)據(jù)會(huì)被用于將更新為,計(jì)算過程如式(20)和式(21)所示:

    2.4 自適應(yīng)MemNN多跳讀取

    自適應(yīng)MemNN 多跳讀取根據(jù)病人自身情況,確定對(duì)應(yīng)的MemNN 讀取次數(shù),用以取代常規(guī)方法使用單一數(shù)值作為所有病人MemNN 讀取次數(shù)的做法. 不同病人對(duì)應(yīng)的入院次數(shù)、住院時(shí)間以及所患疾病種類等數(shù)據(jù)存在差異,對(duì)應(yīng)的EHRs 中包含的數(shù)據(jù)量不盡相同. 根據(jù)病人自身EHRs 的數(shù)據(jù)量確定MemNN 讀取次數(shù),能夠在獲取充足數(shù)據(jù)完善病人健康狀況表示向量的同時(shí),避免讀取冗余數(shù)據(jù).

    監(jiān)督信息的缺失是實(shí)現(xiàn)自適應(yīng)讀取的難點(diǎn),即缺少病人對(duì)應(yīng)的最佳MemNN 讀取次數(shù). 為解決該問題,AMHSC 模型首先使用單一固定數(shù)值作為所有病人的MemNN 讀取次數(shù),用以完成數(shù)據(jù)讀取以及藥物推薦.然后,依據(jù)每輪MemNN 讀取結(jié)果生成藥物,評(píng)估推薦性能,以最佳性能對(duì)應(yīng)的讀取次數(shù)作為自適應(yīng)讀取的監(jiān)督信息,用于模型訓(xùn)練.

    2.4.1 監(jiān)督信息獲取

    在使用固定數(shù)值K作為所有病人的MemNN 讀取次數(shù)時(shí),模型首先按照2.2 節(jié)介紹的常規(guī)讀取方式,基于注意力機(jī)制對(duì)MemNN 進(jìn)行J輪讀取. 若病人住院次數(shù)超過L次,模型會(huì)使用2.3 節(jié)介紹的選擇性覆蓋度機(jī)制繼續(xù)對(duì)MemNN 進(jìn)行讀取,直至完成K輪讀取. 否則,模型將繼續(xù)使用常規(guī)讀取模式,完成剩余讀取.

    在完成K輪讀取后,模型將得到最終讀取結(jié)果uK.該讀取結(jié)果將與病人最后一次入院對(duì)應(yīng)的健康狀況表示向量qT,以及qT與藥品表示向量ZK之間的關(guān)聯(lián)信息r一起,作為生成最終藥品推薦結(jié)果的依據(jù). 關(guān)聯(lián)信息r反映了病人健康狀況與藥品之間的關(guān)聯(lián),其計(jì)算過程同樣依據(jù)注意力機(jī)制進(jìn)行. 模型首先依據(jù)式(22)和式(23)計(jì)算注意力權(quán)重ar,然后依照式(24)使用ar整合藥品表示向量ZK,得到結(jié)果r.

    獲取上述qT,uK以及r三項(xiàng)數(shù)據(jù)后,模型對(duì)三者進(jìn)行連接,并利用全連接層處理,作為sigmoid函數(shù)的輸入數(shù)據(jù),用以計(jì)算每種藥品被推薦的概率,得到概率向量. 計(jì)算過程如式(25)所示,其中f(·)表示全連接層,σ(·)為sigmoid 函數(shù). 若藥品i對(duì)應(yīng)的概率? 大于預(yù)先設(shè)定的概率閾值pr,則該藥品會(huì)被選取作為推薦藥品之一,包含在最終生成的藥品集合中,否則該藥品不會(huì)被推薦.

    在以固定數(shù)值K作為所有病人MemNN 讀取次數(shù)完成模型訓(xùn)練后,AMHSC 模型會(huì)依據(jù)每一輪MemNN讀取結(jié)果生成藥物集合,用于與真實(shí)藥物集合mT進(jìn)行對(duì)比. 對(duì)比時(shí)使用F1 作為評(píng)價(jià)指標(biāo),選取對(duì)應(yīng)最高數(shù)值的MemNN 讀取次數(shù)K′作為病人對(duì)應(yīng)的MemNN 最佳讀取次數(shù). 生成藥物集合的過程如式(26)所示,其中uk是MemNN第k輪讀取得到的結(jié)果,rk是qT與第k輪讀讀取后的藥品表示向量Zk之間的關(guān)聯(lián)信息,計(jì)算過程參照式(22)至式(24)進(jìn)行.

    2.4.2 自適應(yīng)MemNN讀取

    為完成自適應(yīng)MemNN 讀取,AMHSC 模型需要依據(jù)病人自身數(shù)據(jù),預(yù)測(cè)對(duì)應(yīng)的MemNN 最佳讀取次數(shù).模型首先以qT為初始查詢條件,進(jìn)行基于常規(guī)注意力機(jī)制的MemNN 讀取,得到讀取結(jié)果u1.u1在經(jīng)過全連接層和sigmoid 函數(shù)處理后,得到概率向量?,處理過程如式(27)所示. 概率向量?維度為K,包含的元素表示i+1 作為MemNN 最佳讀取次數(shù)的概率. 隨后,模型選取中概率最高的數(shù)值,以其對(duì)應(yīng)位置作為MemNN自適應(yīng)讀取次數(shù),完成MemNN讀取以及藥物推薦.

    2.5 模型訓(xùn)練

    AMHSC 訓(xùn)練過程分為兩步. 首先,模型使用單一固定數(shù)值作為所有病人的MemNN 讀取次數(shù),進(jìn)行藥物推薦,并根據(jù)每一輪MemNN 讀取后對(duì)應(yīng)的推薦結(jié)果,確定每一位病人對(duì)應(yīng)的最佳MemNN 讀取次數(shù). 然后,使用得到的最佳MemNN 讀取次數(shù)作為監(jiān)督信息,訓(xùn)練模型自適應(yīng)地決定每一位病人的MemNN 讀取次數(shù),完成最終的模型訓(xùn)練.

    第一步訓(xùn)練使用的損失函數(shù)如式(28)所示,由二元交叉熵?fù)p失函數(shù)(Binary Cross Entropy Loss)Lb以及多標(biāo)簽邊際損失函數(shù)(Multi-label Margin Loss)Lm的加權(quán)和組成.Lb計(jì)算過程如式(29)所示,其中y即為則是藥品對(duì)應(yīng)的預(yù)測(cè)概率向量.Lm計(jì)算過程如式(30)所示,公式中包含的?是模型預(yù)測(cè)得到的藥品集合. 在使用常規(guī)損失函數(shù)Lb的基礎(chǔ)上使用Lm的原因在于,Lm能夠擴(kuò)大真實(shí)標(biāo)簽對(duì)應(yīng)的預(yù)測(cè)概率與錯(cuò)誤標(biāo)簽對(duì)應(yīng)的預(yù)測(cè)概率之間的差距,提升正確標(biāo)簽對(duì)應(yīng)的預(yù)測(cè)概率并降低錯(cuò)誤標(biāo)簽對(duì)應(yīng)的概率,從而能使用預(yù)先設(shè)定的概率閾值為界限,更容易的區(qū)分二者.

    第二步訓(xùn)練使用的損失函數(shù)如式(31)所示,其中是由自適應(yīng)讀取監(jiān)督信息K′轉(zhuǎn)化得到的one-hot向量,即=1,其余位置元素?cái)?shù)值為零. 該損失函數(shù)只會(huì)對(duì)式(27)描述的全連接層進(jìn)行訓(xùn)練,模型其余部分的參數(shù)不會(huì)收到影響,仍然為使用固定MemNN 讀取次數(shù)K時(shí)得到的訓(xùn)練結(jié)果. 這么做的目的是保證基于固定讀取次數(shù)獲取的監(jiān)督信息始終有效,可用于自適應(yīng)模型的訓(xùn)練.

    3 實(shí)驗(yàn)結(jié)果與分析

    本文所有實(shí)驗(yàn)均基于真實(shí)的臨床醫(yī)療數(shù)據(jù)集Medical Information Mart for Intensive Care-III v1.4(MIMIC-III)[19]完成. AMHSC 模型使用PyTorch 編寫**https://github.com/yanda-wang/AMHSC,其訓(xùn)練借助英偉達(dá)TITAN XP GPU完成.

    3.1 數(shù)據(jù)集

    MIMIC-III v1.4 收集了超過四萬名病人住院期間的各項(xiàng)臨床數(shù)據(jù),從不同角度描述和記錄了病人健康狀況變化過程,涉及的數(shù)據(jù)包括生命指征、診斷結(jié)果、服用藥物以及手術(shù)治療等.AMHSC 模型選取具有至少兩次住院記錄的病人,選取的數(shù)據(jù)包括病人的疾病診斷結(jié)果、接受的手術(shù)治療方案以及服用的藥物等. 該過程共計(jì)選取了6 350 名病人的數(shù)據(jù),這些病人被隨機(jī)劃分為訓(xùn)練集、測(cè)試集以及驗(yàn)證集,各集合占比分別為80%、10%和10%,其中不同性別及年齡段病人統(tǒng)計(jì)情況如表1所示.

    表1 不同性別及年齡段病人數(shù)量統(tǒng)計(jì)信息

    3.2 對(duì)比方法

    選取以下方法與AMHSC模型進(jìn)行對(duì)比:

    (1)ARMR[7]:ARMR 使用MemNN 對(duì)歷史EHRs 的編碼結(jié)果進(jìn)行存儲(chǔ),并對(duì)MemNN 進(jìn)行基于注意力機(jī)制的多跳讀取,通過每次讀取時(shí)注意力權(quán)重的變化關(guān)注不同數(shù)據(jù),獲取EHRs 中蘊(yùn)含的上下文信息,用于藥物推薦.

    (2)DMNC[20]:EHRs中包含多種從不同角度描述病人健康狀況的數(shù)據(jù),DMNC 模型使用MemNN 存儲(chǔ)不同角度數(shù)據(jù)之間的交互信息,并將其用于自身數(shù)據(jù)的更新,以此提升藥物推薦性能.

    (3)GAMENet[10]:GAMENet 使用MemNN 存儲(chǔ)歷史EHRs 的編碼結(jié)果,基于注意力機(jī)制從中讀取數(shù)據(jù),并基于圖數(shù)據(jù)表示藥物之間的相互聯(lián)系,使用GCN 獲取其表示向量用于藥物推薦.

    (4)Leap[12]:Leap 將藥物推薦看作序列決策問題,基于藥物不良反應(yīng)信息制定獎(jiǎng)勵(lì)函數(shù),使用強(qiáng)化學(xué)習(xí)對(duì)序列式的藥物推薦過程進(jìn)行修正.

    (5)RETAIN[21]:RETAIN 基于雙層級(jí)注意力機(jī)制,從歷史醫(yī)療記錄中獲取對(duì)當(dāng)前藥物推薦具有重大影響的歷史數(shù)據(jù),用于提升藥物推薦性能.

    3.3 實(shí)驗(yàn)結(jié)果

    AMHSC 模型及各對(duì)比方法的性能,通過以下三項(xiàng)評(píng)價(jià)指標(biāo)進(jìn)行比較:Jaccard 相似度(Jaccard)、Precision Recall AUC(PRAUC)及F1值.

    3.3.1 性能比較與分析

    AMHSC 模型與各對(duì)比方法的比較結(jié)果如表2 所示. 由表2 可知,AMHSC 模型性能在各指標(biāo)上均優(yōu)于對(duì)比方法,其Jaccard,PRAUC 和F1 值分別為0.5080,0.7704 和0.6646. 在幾種不同對(duì)比方法中,DMNC 使用了與AMHSC 相似的數(shù)據(jù)編碼方法,對(duì)數(shù)據(jù)中從不同角度描述病人健康狀況的臨床記錄分別進(jìn)行建模及結(jié)合,但其性能相較于AMHSC 有一定差距,這說明以鍵-值對(duì)形式的MemNN 對(duì)歷史數(shù)據(jù)建模,有利于提升藥物推薦性能. 此外,GAMENet 采用了類似的鍵-值對(duì)形式MemNN 對(duì)歷史EHRs 進(jìn)行存儲(chǔ),并基于注意力機(jī)制從中讀取數(shù)據(jù). 但是,對(duì)于所有病人,GAMENet均只進(jìn)行一次MemNN 讀取,而不是由模型根據(jù)不同病人的健康狀況,自適應(yīng)地決定讀取次數(shù). 這種設(shè)定使得GAMENet的性能與AMHSC 相比有一定差距,同時(shí)也與進(jìn)行MemNN 多跳讀取的ARMR 存在差距.ARMR 模型與AMHSC 模型均使用鍵-值對(duì)形式的MemNN 對(duì)歷史EHRs 進(jìn)行建模,并通過對(duì)MemNN 進(jìn)行多跳讀取獲取數(shù)據(jù). 但是,ARMR 沒有使用覆蓋度對(duì)注意力權(quán)重進(jìn)行調(diào)整,注意力權(quán)重有可能重復(fù)關(guān)注MemNN中若干個(gè)鍵-值對(duì),使得所讀取數(shù)據(jù)包含冗余信息. 同時(shí),ARMR 針對(duì)所有病人均進(jìn)行相同次數(shù)的MemNN 讀取,忽略了不同病人EHRs 數(shù)據(jù)量不同,從而需要進(jìn)行不同次數(shù)MemNN 讀取. 上述原因?qū)е翧RMR 的性能雖然優(yōu)于其他對(duì)比方法,但與AMHSC相比仍然存在差距.

    表2 AMHSC模型與對(duì)比方法性能比較結(jié)果

    使用不同性別及年齡段病人所對(duì)應(yīng)數(shù)據(jù)對(duì)AMHSC 模型的有效性進(jìn)行測(cè)試,結(jié)果如表3 所示. 針對(duì)模型有效性的測(cè)試結(jié)果表明,AMHSC 模型對(duì)于MIMIC 數(shù)據(jù)集中不同群體的病人均可以取得較好的藥物推薦效果. 其中,60~79 歲年齡段女性病人對(duì)應(yīng)的Jaccard,PRAUC 以及F1 三項(xiàng)指標(biāo)的數(shù)值最高,分別達(dá)到0.5320,0.7873 和0.6878;其次為針對(duì)40~59 歲年齡段女性病人的測(cè)試結(jié)果,對(duì)應(yīng)的Jaccard,PRAUC 以及F1 達(dá)到了0.5167,0.7733 和0.6719. 相比之下,應(yīng)用于20~39 歲以及80 歲以上女性病人群體時(shí)所取得的效果稍差. 模型針對(duì)男性病人的藥物推薦效果呈現(xiàn)出類似的規(guī)律,即針對(duì)40~59 歲以及60~79 歲病人取得的推薦效果,要優(yōu)于對(duì)20~39 以及80 歲以上病人取得的推薦效果. 同時(shí),對(duì)比不同性別病人的數(shù)據(jù)可知,模型對(duì)于女性病人表現(xiàn)出更加良好的整體推薦性能.

    表3 AMHSC針對(duì)不同性別及年齡段病人的藥物推薦性能

    為進(jìn)一步測(cè)試當(dāng)AMHSC 被應(yīng)用于不同類型疾病時(shí)的有效性,選取了9種人體不同器官或系統(tǒng)特有的疾病,并從MIMIC 數(shù)據(jù)集中選取患有相應(yīng)疾病的病人,使用他們對(duì)應(yīng)的數(shù)據(jù)對(duì)AMHSC 進(jìn)行測(cè)試,結(jié)果如表4 所示,模型對(duì)于MIMIC 數(shù)據(jù)集中患有不同類型疾病的病人均可以取得較好的藥物推薦效果. 模型對(duì)絕大多數(shù)疾病可以取得0.67 以上的F1,其中最高數(shù)值0.6860 出現(xiàn)在敗血癥病人對(duì)應(yīng)的推薦結(jié)果中,糖尿病和腦血管疾病對(duì)應(yīng)的F1 數(shù)值也分別達(dá)到了0.6852 以及0.6811.此外,針對(duì)心臟病、高血壓、肺部疾病以及胰腺疾病的F1 數(shù)值也在0.67 以上,僅有肝臟疾病和胃部疾病的F1數(shù)值小于0.66.

    表4 AMHSC針對(duì)患有不同類別疾病病人的藥物推薦性能

    3.3.2 AMHSC模型消融實(shí)驗(yàn)

    為評(píng)估AMHSC 中各組件的必要性,模型被拆解為不同形式的變型. 每次拆解會(huì)去除模型中包含的某一組件,并保留其余組件. 去除單一組件后,組件負(fù)責(zé)的相應(yīng)功能也隨之消除,無法在藥物推薦過程中發(fā)揮作用. 因此,各種變型與AMHSC的對(duì)比,能夠說明不同組件對(duì)于模型的重要性,以及是否對(duì)提升藥物推薦性能發(fā)揮了積極作用. 同時(shí),為說明自適應(yīng)決定MemNN 讀取次數(shù)的重要性,各變型會(huì)被進(jìn)一步去除該功能,改為對(duì)所有病人使用相同的MemNN 讀取次數(shù). 拆解后得到的不同變型具體情況如下.

    (1)Single-GRU:AMHSC 模型使用GRU 對(duì)診斷結(jié)果以及病人接受的手術(shù)治療手段分別進(jìn)行編碼,然后對(duì)編碼結(jié)果進(jìn)行整合,而Single-GRU 則將兩種數(shù)據(jù)作為單一序列數(shù)據(jù)處理.

    (2)No-Coverage:該變型放棄使用覆蓋度信息對(duì)注意力權(quán)重進(jìn)行調(diào)整,在MemNN 多跳讀取過程中不會(huì)對(duì)注意力權(quán)重施加任何限制條件.

    (3)Arbitrary Coverage(Arb-Coverage):AMHSC 模型根據(jù)病人歷史入院次數(shù)決定是否使用覆蓋度信息對(duì)讀取MemNN 時(shí)使用的注意力權(quán)重進(jìn)行調(diào)整,而Arb-Coverage 忽略對(duì)歷史入院次數(shù)的限制,處理所有病人數(shù)據(jù)時(shí)均使用覆蓋度信息對(duì)注意力權(quán)重進(jìn)行調(diào)整.

    (4)No-Selection:AMHSC 模型會(huì)依據(jù)覆蓋度信息,對(duì)MemNN 中的數(shù)據(jù)進(jìn)行選擇,隨后依據(jù)覆蓋度信息對(duì)過濾后數(shù)據(jù)對(duì)應(yīng)的注意力權(quán)重進(jìn)行調(diào)整,而No-Selection變型則舍棄數(shù)據(jù)過濾這一步驟,對(duì)原始MemNN 的注意力權(quán)重直接進(jìn)行調(diào)整.

    (5)No-GCN:AMHSC 模型使用GCN 獲取藥品表示向量,對(duì)MemNN 讀取結(jié)果進(jìn)行編碼,而No-GCN 使用嵌入矩陣替代GCN,舍棄藥品之間的關(guān)系對(duì)獲取表示向量的影響.

    (6)No-Adaptability(No-Adap):AMHSC 模型依據(jù)病人自身數(shù)據(jù),自適應(yīng)地決定MemNN 讀取次數(shù),而No-Adap不具備自適應(yīng)MemNN 讀取功能,使用單一固定數(shù)值作為所有病人的讀取次數(shù).

    上述變型與AMHSC的比較結(jié)果如表5所示.

    表5 AMHSC模型與不同變型性能比較結(jié)果

    實(shí)驗(yàn)結(jié)果顯示,AMHSC 能夠取得最佳的藥物推薦效果,對(duì)應(yīng)的Jaccard,PRAUC 以及F1 指標(biāo)數(shù)值分別為0.508 0,0.770 4和0.664 6,證明了模型各組件對(duì)于藥物推薦的必要性. 具體來說,No-Coverage 缺少覆蓋度信息對(duì)注意力權(quán)重進(jìn)行調(diào)整,在Jaccard 和F1 兩項(xiàng)指標(biāo)上取得的數(shù)值最低,分別為0.490 8 和0.648 9. 與之相對(duì)的Arb-Coverage 則是對(duì)所有病人均使用覆蓋度機(jī)制,忽略了病人自身數(shù)據(jù)量對(duì)使用覆蓋度機(jī)制的影響,得到的性能同樣欠佳. 上述結(jié)果說明覆蓋度機(jī)制對(duì)MemNN讀取效果影響顯著,但需要具備足夠數(shù)據(jù)量時(shí)才能夠發(fā)揮預(yù)期作用. 合理使用覆蓋度機(jī)制的Single-GRU 相較于上述兩種變型在Jaccard 和F1 兩項(xiàng)指標(biāo)上有所提升,但仍然與AMHSC 有一定差距. 這說明EHRs 中包含的數(shù)據(jù)從不同角度對(duì)病人健康狀況變化過程進(jìn)行了記錄,相關(guān)時(shí)序模式應(yīng)當(dāng)被分別處理后再予以合并.No-Adap 在各項(xiàng)指標(biāo)上的表現(xiàn)與AMHSC 最為接近,是除AMHSC 模型外推薦性能最佳的變型. 但是,使用單一固定數(shù)值作為所有病人MemNN 讀取次數(shù)的做法,令其表現(xiàn)沒有能超越AMHSC. 其余兩種變型No-Selection與No-GCN 的表現(xiàn)比較相似,各項(xiàng)指標(biāo)對(duì)應(yīng)數(shù)據(jù)均不如AMHSC. 上述結(jié)果驗(yàn)證了AMHSC 模型中各組件對(duì)提升模型性能的必要性,同時(shí)也說明根據(jù)病人數(shù)據(jù)自適應(yīng)決定MemNN 讀取次數(shù)有助于獲取更佳的藥物推薦效果.

    3.3.3 MemNN讀取次數(shù)對(duì)推薦性能的影響

    AMHSC 模型自適應(yīng)決定的MemNN 讀取次數(shù)統(tǒng)計(jì)情況如表6所示,表中匯總了不同MemNN 讀取次數(shù)對(duì)應(yīng)的病例數(shù)目. 由該表可知,對(duì)MemNN 進(jìn)行單次讀取的情況占據(jù)絕大多數(shù),對(duì)應(yīng)病例數(shù)目為3 251,其次是進(jìn)行兩次讀取的情況,對(duì)應(yīng)病例數(shù)目為1 180. 剩余讀取次數(shù)對(duì)應(yīng)的病例數(shù)目呈現(xiàn)出一定起伏,但對(duì)應(yīng)病例數(shù)目相對(duì)較少,均沒有超過500. 該統(tǒng)計(jì)結(jié)果顯示,由于自身數(shù)據(jù)量的差異,病人對(duì)應(yīng)的最佳MemNN讀取次數(shù)并不相同,應(yīng)當(dāng)根據(jù)病人具體情況,自適應(yīng)決定MemNN 讀取次數(shù).

    表6 最佳MemNN讀取次數(shù)對(duì)應(yīng)病例數(shù)目

    若對(duì)所有病人均使用同一數(shù)值作為MemNN 讀取次數(shù),則模型No-Adap 推薦性能隨數(shù)值變化的情況如表7 所示. 表7 包含了MemNN 讀取次數(shù)由1 次至14 次時(shí),No-Adap 模型在各項(xiàng)性能評(píng)價(jià)指標(biāo)上的表現(xiàn). 與AMHSC 的性能對(duì)比可知,采用自適應(yīng)方法的AMHSC模型能夠取得最佳的藥物推薦結(jié)果. 此外,隨著統(tǒng)一的固定MemNN 讀取次數(shù)的增加,No-Adap 模型性能呈現(xiàn)先上升后下降的趨勢(shì). 在MemNN 讀取次數(shù)為5 時(shí),其取得的效果相對(duì)最佳. 隨后No-Adap 模型性能整體呈現(xiàn)出下降趨勢(shì),并在MemNN 讀取次數(shù)為14 時(shí),表現(xiàn)相對(duì)最差. 這種對(duì)比和變化說明,根據(jù)病人自身特定情況,自適應(yīng)決定MemNN 讀取次數(shù),能夠從MemNN 中獲取最佳推理信息,用于完善病人健康狀況表示向量,提升藥物推薦性能.

    表7 不同MemNN讀取次數(shù)下No-Adap對(duì)應(yīng)推薦性能

    4 結(jié)論

    本文針對(duì)藥物推薦問題,提出了選擇性覆蓋度機(jī)制與自適應(yīng)MemNN 讀取機(jī)制,在此基礎(chǔ)上構(gòu)建了一種新穎的藥物推薦模型AMHSC. AMHSC 模型使用GRU對(duì)MemNN 所存儲(chǔ)數(shù)據(jù)對(duì)應(yīng)的覆蓋度信息進(jìn)行記錄和更新,作為選取MemNN 重要數(shù)據(jù)的依據(jù),并利用覆蓋度信息對(duì)MemNN 讀取過程中的注意力權(quán)重進(jìn)行調(diào)整,保證其適當(dāng)?shù)胤稚⒂贛emNN 中的重要數(shù)據(jù)范圍內(nèi),避免了常規(guī)注意力機(jī)制重復(fù)關(guān)注MemNN 相同區(qū)域的問題. 此外,AMHSC 模型根據(jù)每個(gè)病人自身數(shù)據(jù)的不同情況,自適應(yīng)地決定病人對(duì)應(yīng)的MemNN 讀取次數(shù),保證模型在充分利用重要數(shù)據(jù)的同時(shí),避免從MemNN 讀取冗余數(shù)據(jù). 基于真實(shí)臨床數(shù)據(jù)集MIMIC- III 對(duì)模型的有效性進(jìn)行測(cè)試,結(jié)果顯示,AMHSC 在各項(xiàng)指標(biāo)上的表現(xiàn)均優(yōu)于對(duì)比方法. 同時(shí),消融實(shí)驗(yàn)證明模型各組件發(fā)揮了預(yù)期作用,保證了數(shù)據(jù)讀取和推理過程的有效性和高效性.

    AMHSC 模型對(duì)于疾病與藥物之間對(duì)應(yīng)關(guān)系的利用,以及對(duì)病人健康狀況和用藥過程個(gè)體化差異的考慮仍然存在不足,未來仍需要進(jìn)一步研究. 利用疾病與藥物之間的對(duì)應(yīng)關(guān)系直接生成備選方案,能夠提升藥物推薦效率與準(zhǔn)確性. 該過程需要考慮如何獲取藥物與疾病之間的對(duì)應(yīng)關(guān)系,以及如何有效利用該對(duì)應(yīng)關(guān)系. 同時(shí),由于病理的復(fù)雜性以及病人自身獨(dú)特的生理特性,疾病癥狀的表現(xiàn)往往復(fù)雜多變,對(duì)應(yīng)的藥物使用情況也呈現(xiàn)出高度的個(gè)體化差異. 對(duì)這種個(gè)體化差異的考慮能夠進(jìn)一步提升推薦模型性能.

    未來研究中,計(jì)劃以醫(yī)學(xué)知識(shí)數(shù)據(jù)庫(kù)中疾病與藥物的映射關(guān)系以及藥物不良反應(yīng)相關(guān)知識(shí)等為依據(jù),構(gòu)建疾病與藥物之間的對(duì)應(yīng)關(guān)系. 同時(shí),嘗試構(gòu)建圖形式的數(shù)據(jù),以節(jié)點(diǎn)表示疾病或者藥物,以節(jié)點(diǎn)之間的邊表示對(duì)應(yīng)關(guān)系,使用圖神經(jīng)網(wǎng)絡(luò)或知識(shí)圖譜獲取節(jié)點(diǎn)表示向量,為模型提供疾病與藥物對(duì)應(yīng)關(guān)系的相關(guān)知識(shí). 針對(duì)病人的個(gè)體化差異,計(jì)劃在依據(jù)病人所患疾病對(duì)病人健康狀況進(jìn)行編碼的同時(shí),使用病人對(duì)應(yīng)的生理監(jiān)測(cè)數(shù)據(jù)以及各項(xiàng)化驗(yàn)指標(biāo)作為模型輸入,例如心率、血氧含量和血液白細(xì)胞數(shù)目等,從而使模型能夠以病人健康狀況的變化為依據(jù),考慮個(gè)體之間的差異性和疾病所表現(xiàn)癥狀的復(fù)雜性.

    猜你喜歡
    覆蓋度注意力次數(shù)
    呼和浩特市和林格爾縣植被覆蓋度變化遙感監(jiān)測(cè)
    讓注意力“飛”回來
    機(jī)場(chǎng)航站樓年雷擊次數(shù)計(jì)算
    基于NDVI的晉州市植被覆蓋信息提取
    2020年,我國(guó)汽車召回次數(shù)同比減少10.8%,召回?cái)?shù)量同比增長(zhǎng)3.9%
    商用汽車(2021年4期)2021-10-13 07:16:02
    一類無界算子的二次數(shù)值域和譜
    低覆蓋度CO分子在Ni(110)面的吸附研究
    “揚(yáng)眼”APP:讓注意力“變現(xiàn)”
    依據(jù)“次數(shù)”求概率
    A Beautiful Way Of Looking At Things
    久久精品国产99精品国产亚洲性色| 午夜免费男女啪啪视频观看 | 亚洲国产日韩欧美精品在线观看 | 国产午夜精品论理片| 国产高清videossex| 午夜激情福利司机影院| 嫩草影院入口| 欧美一区二区亚洲| 午夜福利免费观看在线| 91麻豆精品激情在线观看国产| 每晚都被弄得嗷嗷叫到高潮| 中文字幕人妻熟人妻熟丝袜美 | 国产亚洲精品av在线| 成人av在线播放网站| 床上黄色一级片| 男人舔奶头视频| 在线观看舔阴道视频| 一进一出抽搐动态| 国产精品爽爽va在线观看网站| 嫩草影视91久久| 麻豆一二三区av精品| 国产成人aa在线观看| 亚洲精品国产精品久久久不卡| 1000部很黄的大片| 欧美精品啪啪一区二区三区| 色视频www国产| 久久精品影院6| 亚洲 国产 在线| 国产伦在线观看视频一区| 少妇人妻精品综合一区二区 | 国产男靠女视频免费网站| 91在线观看av| 中文字幕av在线有码专区| www.www免费av| 中文字幕人成人乱码亚洲影| 久久精品国产亚洲av涩爱 | 免费在线观看影片大全网站| 在线国产一区二区在线| 女人被狂操c到高潮| 男人和女人高潮做爰伦理| 最近最新中文字幕大全免费视频| 国产精品久久久人人做人人爽| 午夜免费成人在线视频| 在线a可以看的网站| 亚洲一区二区三区不卡视频| 日韩大尺度精品在线看网址| 国产在视频线在精品| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 一夜夜www| 欧美xxxx黑人xx丫x性爽| 麻豆成人午夜福利视频| 欧美3d第一页| 欧美xxxx黑人xx丫x性爽| 成年女人永久免费观看视频| 久久这里只有精品中国| 国产99白浆流出| 午夜视频国产福利| 夜夜夜夜夜久久久久| 国产精品精品国产色婷婷| 久久精品国产自在天天线| 成年版毛片免费区| 久久久精品大字幕| 日韩有码中文字幕| 成人特级av手机在线观看| 欧美av亚洲av综合av国产av| 欧美最新免费一区二区三区 | 99国产综合亚洲精品| 亚洲精品亚洲一区二区| 内射极品少妇av片p| 制服人妻中文乱码| 最近在线观看免费完整版| 亚洲国产欧美人成| 欧美午夜高清在线| 丁香欧美五月| 国产亚洲精品久久久久久毛片| 精品国内亚洲2022精品成人| e午夜精品久久久久久久| 日本 欧美在线| 国产伦人伦偷精品视频| 十八禁网站免费在线| 精华霜和精华液先用哪个| 99视频精品全部免费 在线| 亚洲一区二区三区不卡视频| 国产激情欧美一区二区| 又爽又黄无遮挡网站| 俺也久久电影网| 国产精品女同一区二区软件 | 十八禁人妻一区二区| 哪里可以看免费的av片| 国产成人系列免费观看| 亚洲人成网站在线播放欧美日韩| 中文字幕av在线有码专区| 日韩高清综合在线| 丰满人妻一区二区三区视频av | 久久中文看片网| 日韩精品青青久久久久久| 在线a可以看的网站| 身体一侧抽搐| 色老头精品视频在线观看| 精品人妻一区二区三区麻豆 | 18禁裸乳无遮挡免费网站照片| 51午夜福利影视在线观看| 少妇裸体淫交视频免费看高清| 欧美黑人巨大hd| 欧美成狂野欧美在线观看| 狂野欧美白嫩少妇大欣赏| 国产精品亚洲av一区麻豆| 欧美成人免费av一区二区三区| 欧美中文综合在线视频| 99久久成人亚洲精品观看| 国产又黄又爽又无遮挡在线| 啦啦啦观看免费观看视频高清| 久久久久久久久中文| 欧美高清成人免费视频www| 国产成+人综合+亚洲专区| 婷婷精品国产亚洲av| 白带黄色成豆腐渣| 欧美乱色亚洲激情| 女同久久另类99精品国产91| 我的老师免费观看完整版| 男人舔奶头视频| 亚洲乱码一区二区免费版| 久久人人精品亚洲av| 国产免费av片在线观看野外av| 免费av毛片视频| 久久精品夜夜夜夜夜久久蜜豆| www日本黄色视频网| 少妇人妻一区二区三区视频| 午夜福利18| 久久国产乱子伦精品免费另类| 在线观看一区二区三区| 亚洲激情在线av| 麻豆国产97在线/欧美| 国产伦人伦偷精品视频| 18禁在线播放成人免费| 欧美在线一区亚洲| 久久午夜亚洲精品久久| 日本撒尿小便嘘嘘汇集6| 蜜桃久久精品国产亚洲av| 中文字幕人妻熟人妻熟丝袜美 | 中文字幕人成人乱码亚洲影| 精品国产美女av久久久久小说| 久久婷婷人人爽人人干人人爱| 国产私拍福利视频在线观看| 国产黄a三级三级三级人| 欧美性猛交黑人性爽| 51午夜福利影视在线观看| 嫁个100分男人电影在线观看| 99久久精品国产亚洲精品| 欧洲精品卡2卡3卡4卡5卡区| 国产亚洲精品av在线| 在线十欧美十亚洲十日本专区| 黄色成人免费大全| 午夜福利在线观看免费完整高清在 | 999久久久精品免费观看国产| 不卡一级毛片| 亚洲av成人不卡在线观看播放网| 啦啦啦免费观看视频1| 婷婷六月久久综合丁香| 精品乱码久久久久久99久播| 丰满人妻一区二区三区视频av | 免费看日本二区| 观看免费一级毛片| 婷婷亚洲欧美| 最好的美女福利视频网| 久久婷婷人人爽人人干人人爱| 亚洲av成人av| 欧美日韩中文字幕国产精品一区二区三区| 天美传媒精品一区二区| 国模一区二区三区四区视频| 国产精品嫩草影院av在线观看 | 99热精品在线国产| 亚洲av成人精品一区久久| 国产综合懂色| 日日摸夜夜添夜夜添小说| 中文字幕av在线有码专区| 日韩欧美在线乱码| 白带黄色成豆腐渣| 熟女电影av网| 亚洲精品一区av在线观看| 搡老岳熟女国产| 色吧在线观看| 国产高清视频在线观看网站| 最后的刺客免费高清国语| 国产精品嫩草影院av在线观看 | 99热这里只有是精品50| 夜夜躁狠狠躁天天躁| 又黄又粗又硬又大视频| 韩国av一区二区三区四区| 亚洲中文日韩欧美视频| 欧美日本视频| 岛国在线观看网站| 精品人妻偷拍中文字幕| 日韩欧美国产一区二区入口| 国产一区二区在线观看日韩 | 国产高清有码在线观看视频| av视频在线观看入口| 99久久无色码亚洲精品果冻| 午夜精品在线福利| 99精品久久久久人妻精品| 国产麻豆成人av免费视频| 久久久久性生活片| 91麻豆av在线| 两个人看的免费小视频| 日韩大尺度精品在线看网址| 在线国产一区二区在线| 18+在线观看网站| 伊人久久精品亚洲午夜| 老司机在亚洲福利影院| 夜夜看夜夜爽夜夜摸| 大型黄色视频在线免费观看| 免费看a级黄色片| av欧美777| 国产高清视频在线观看网站| or卡值多少钱| 亚洲国产精品成人综合色| 好男人在线观看高清免费视频| 国产单亲对白刺激| 日韩欧美国产在线观看| 欧美日本视频| av天堂中文字幕网| 亚洲av成人不卡在线观看播放网| 麻豆久久精品国产亚洲av| 国产三级中文精品| 亚洲真实伦在线观看| 国产主播在线观看一区二区| 亚洲国产欧洲综合997久久,| 深爱激情五月婷婷| 最近最新免费中文字幕在线| 最近在线观看免费完整版| 99热6这里只有精品| 美女 人体艺术 gogo| www国产在线视频色| 亚洲人成网站高清观看| 香蕉久久夜色| 免费无遮挡裸体视频| 少妇熟女aⅴ在线视频| 日韩国内少妇激情av| 亚洲国产高清在线一区二区三| 大型黄色视频在线免费观看| 午夜影院日韩av| 亚洲18禁久久av| 嫩草影院精品99| 日韩高清综合在线| 成年免费大片在线观看| 黄色丝袜av网址大全| 窝窝影院91人妻| 久久久久免费精品人妻一区二区| 变态另类成人亚洲欧美熟女| 老汉色∧v一级毛片| 日韩精品青青久久久久久| 一区福利在线观看| www.999成人在线观看| 乱人视频在线观看| 啪啪无遮挡十八禁网站| 亚洲人成电影免费在线| 99久国产av精品| 禁无遮挡网站| 国内毛片毛片毛片毛片毛片| www日本黄色视频网| 国产午夜精品久久久久久一区二区三区 | 精品熟女少妇八av免费久了| 欧美zozozo另类| 中国美女看黄片| 热99re8久久精品国产| www国产在线视频色| 久久精品国产99精品国产亚洲性色| 制服人妻中文乱码| 国产激情偷乱视频一区二区| 欧美一级a爱片免费观看看| 国产 一区 欧美 日韩| 久久久精品大字幕| 欧美最黄视频在线播放免费| 久久久久久久久中文| 老司机深夜福利视频在线观看| 国产免费男女视频| 夜夜爽天天搞| 此物有八面人人有两片| 白带黄色成豆腐渣| 最新美女视频免费是黄的| 又黄又粗又硬又大视频| 男女下面进入的视频免费午夜| 国产一区二区激情短视频| 免费看十八禁软件| 国产av一区在线观看免费| 一本久久中文字幕| 女人被狂操c到高潮| 男女那种视频在线观看| 国产精品久久久久久久电影 | 男女下面进入的视频免费午夜| 高清毛片免费观看视频网站| 精品人妻一区二区三区麻豆 | 中文字幕人妻熟人妻熟丝袜美 | 国产淫片久久久久久久久 | 精品久久久久久久久久久久久| 精品不卡国产一区二区三区| av天堂在线播放| 噜噜噜噜噜久久久久久91| 亚洲人成电影免费在线| 淫妇啪啪啪对白视频| 免费av观看视频| 精品人妻1区二区| 欧美在线一区亚洲| 午夜久久久久精精品| 久久精品亚洲精品国产色婷小说| 村上凉子中文字幕在线| 桃红色精品国产亚洲av| 国产伦一二天堂av在线观看| 日韩成人在线观看一区二区三区| 中国美女看黄片| av专区在线播放| 亚洲电影在线观看av| 久久久国产精品麻豆| 亚洲第一欧美日韩一区二区三区| 午夜两性在线视频| 极品教师在线免费播放| 黄色丝袜av网址大全| 亚洲中文字幕一区二区三区有码在线看| 极品教师在线免费播放| 观看免费一级毛片| 欧美又色又爽又黄视频| 亚洲aⅴ乱码一区二区在线播放| 两个人看的免费小视频| 两个人的视频大全免费| 国内毛片毛片毛片毛片毛片| 日本三级黄在线观看| 亚洲成人久久性| 国产一区二区三区在线臀色熟女| 女警被强在线播放| 成人永久免费在线观看视频| 亚洲美女视频黄频| 亚洲欧美日韩高清专用| 免费av观看视频| 国产蜜桃级精品一区二区三区| 啪啪无遮挡十八禁网站| 两个人看的免费小视频| 又粗又爽又猛毛片免费看| 99久久无色码亚洲精品果冻| 中文字幕av在线有码专区| 国产一级毛片七仙女欲春2| 美女高潮喷水抽搐中文字幕| 免费观看的影片在线观看| 9191精品国产免费久久| 午夜福利欧美成人| 久久九九热精品免费| www.熟女人妻精品国产| www日本在线高清视频| 国产精品久久久久久精品电影| 两个人视频免费观看高清| 99久久综合精品五月天人人| 国产熟女xx| 久久精品国产自在天天线| 99久久无色码亚洲精品果冻| 免费看日本二区| 国语自产精品视频在线第100页| 十八禁网站免费在线| 亚洲精华国产精华精| 久久久精品大字幕| 老熟妇仑乱视频hdxx| 久久久久久久午夜电影| 在线观看免费午夜福利视频| 真实男女啪啪啪动态图| 中文亚洲av片在线观看爽| 欧美午夜高清在线| 国产高清有码在线观看视频| 人妻久久中文字幕网| 九色国产91popny在线| 国产伦一二天堂av在线观看| 丁香欧美五月| 一个人观看的视频www高清免费观看| 啦啦啦韩国在线观看视频| 精品久久久久久,| 日韩高清综合在线| 欧美日本视频| 国产蜜桃级精品一区二区三区| 热99re8久久精品国产| 亚洲av五月六月丁香网| 亚洲精品国产精品久久久不卡| 亚洲av电影不卡..在线观看| 午夜福利在线观看免费完整高清在 | 一区福利在线观看| 啪啪无遮挡十八禁网站| 中文字幕人妻熟人妻熟丝袜美 | 亚洲欧美日韩卡通动漫| 色尼玛亚洲综合影院| 日本黄大片高清| 国产欧美日韩一区二区三| 日本一二三区视频观看| 亚洲国产欧美网| 国产一区在线观看成人免费| 午夜免费激情av| 午夜视频国产福利| 国产亚洲欧美98| 手机成人av网站| www.999成人在线观看| 免费在线观看成人毛片| 国产精品1区2区在线观看.| 岛国视频午夜一区免费看| 欧美午夜高清在线| 亚洲av免费高清在线观看| 成人欧美大片| 欧美bdsm另类| 在线观看日韩欧美| 无限看片的www在线观看| 一级a爱片免费观看的视频| 日韩av在线大香蕉| 亚洲人成网站高清观看| 国产高清视频在线播放一区| 性色av乱码一区二区三区2| 老司机午夜十八禁免费视频| 免费人成在线观看视频色| 国产黄片美女视频| 国产精品久久久久久精品电影| 十八禁人妻一区二区| 国产探花在线观看一区二区| 男人舔奶头视频| 欧美一区二区国产精品久久精品| 国产单亲对白刺激| 亚洲av五月六月丁香网| 精品国产美女av久久久久小说| 18美女黄网站色大片免费观看| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 成人特级av手机在线观看| 午夜激情欧美在线| 国产伦精品一区二区三区四那| 日本与韩国留学比较| 男女之事视频高清在线观看| 欧洲精品卡2卡3卡4卡5卡区| ponron亚洲| 成人午夜高清在线视频| 国产av一区在线观看免费| 动漫黄色视频在线观看| 久久精品国产清高在天天线| 麻豆成人午夜福利视频| 亚洲一区二区三区不卡视频| 男人舔女人下体高潮全视频| 最近在线观看免费完整版| 久久久久久久久中文| 国产欧美日韩一区二区三| bbb黄色大片| 婷婷精品国产亚洲av| 色综合站精品国产| 亚洲国产欧洲综合997久久,| 精品久久久久久成人av| 亚洲电影在线观看av| 国产精品自产拍在线观看55亚洲| 国产av一区在线观看免费| 色哟哟哟哟哟哟| 免费观看人在逋| 观看免费一级毛片| 午夜免费成人在线视频| 亚洲狠狠婷婷综合久久图片| 国产成人啪精品午夜网站| av在线蜜桃| 最近最新中文字幕大全免费视频| 中文字幕高清在线视频| www日本黄色视频网| 亚洲成av人片免费观看| 国产午夜精品论理片| 五月玫瑰六月丁香| 女人被狂操c到高潮| 免费av不卡在线播放| 黄色视频,在线免费观看| 亚洲avbb在线观看| 久久久久久九九精品二区国产| 乱人视频在线观看| 久久精品国产99精品国产亚洲性色| 亚洲av二区三区四区| 国内揄拍国产精品人妻在线| 亚洲av第一区精品v没综合| 亚洲人成网站高清观看| 男女午夜视频在线观看| 国产精品 国内视频| 又黄又粗又硬又大视频| 宅男免费午夜| 校园春色视频在线观看| 人妻夜夜爽99麻豆av| 18禁在线播放成人免费| 男女那种视频在线观看| 无遮挡黄片免费观看| 亚洲欧美日韩高清专用| 国产成+人综合+亚洲专区| 99精品欧美一区二区三区四区| 免费在线观看成人毛片| 麻豆久久精品国产亚洲av| 欧美激情在线99| 日日夜夜操网爽| 一a级毛片在线观看| 中文字幕精品亚洲无线码一区| 在线观看免费视频日本深夜| 欧美性猛交黑人性爽| 欧美另类亚洲清纯唯美| 此物有八面人人有两片| 一边摸一边抽搐一进一小说| 国产亚洲精品综合一区在线观看| 91麻豆精品激情在线观看国产| 美女 人体艺术 gogo| 在线观看免费视频日本深夜| 51午夜福利影视在线观看| 波多野结衣巨乳人妻| 草草在线视频免费看| 成人av在线播放网站| 国语自产精品视频在线第100页| 欧美日韩中文字幕国产精品一区二区三区| 亚洲av不卡在线观看| 又粗又爽又猛毛片免费看| 91久久精品国产一区二区成人 | xxx96com| 国产成人系列免费观看| 美女 人体艺术 gogo| h日本视频在线播放| 一个人免费在线观看的高清视频| 中出人妻视频一区二区| 亚洲成人免费电影在线观看| 久久久精品欧美日韩精品| 国产高清三级在线| 久久国产乱子伦精品免费另类| 天堂√8在线中文| 精品一区二区三区av网在线观看| 久久人人精品亚洲av| 日韩有码中文字幕| 手机成人av网站| 久久香蕉国产精品| 欧洲精品卡2卡3卡4卡5卡区| 午夜影院日韩av| 51国产日韩欧美| 夜夜看夜夜爽夜夜摸| 丝袜美腿在线中文| 欧美日韩国产亚洲二区| 麻豆国产97在线/欧美| 亚洲天堂国产精品一区在线| 欧美bdsm另类| 成人鲁丝片一二三区免费| 日本免费一区二区三区高清不卡| 日韩欧美精品免费久久 | 日本撒尿小便嘘嘘汇集6| 三级国产精品欧美在线观看| 久久亚洲真实| 国产午夜精品论理片| 丰满乱子伦码专区| 最近最新中文字幕大全电影3| 久久这里只有精品中国| xxxwww97欧美| 又粗又爽又猛毛片免费看| 真人一进一出gif抽搐免费| 成人高潮视频无遮挡免费网站| 亚洲狠狠婷婷综合久久图片| 看免费av毛片| 日韩欧美一区二区三区在线观看| 国产中年淑女户外野战色| 中文字幕av成人在线电影| 亚洲av免费高清在线观看| 日韩中文字幕欧美一区二区| 国产精品久久视频播放| h日本视频在线播放| 老鸭窝网址在线观看| 少妇熟女aⅴ在线视频| 狠狠狠狠99中文字幕| 欧美日韩瑟瑟在线播放| 18禁美女被吸乳视频| 久久久久久久久中文| 久久久国产精品麻豆| 国产欧美日韩精品一区二区| 欧美日韩中文字幕国产精品一区二区三区| 精品国内亚洲2022精品成人| 亚洲精品色激情综合| 亚洲天堂国产精品一区在线| 欧美黄色片欧美黄色片| 99精品在免费线老司机午夜| 在线免费观看的www视频| 丁香六月欧美| 叶爱在线成人免费视频播放| 中文资源天堂在线| 亚洲欧美一区二区三区黑人| 亚洲va日本ⅴa欧美va伊人久久| 免费大片18禁| 日本熟妇午夜| 成人午夜高清在线视频| 亚洲色图av天堂| 亚洲精品影视一区二区三区av| 激情在线观看视频在线高清| 欧美zozozo另类| 黄色日韩在线| 男女视频在线观看网站免费| 国产黄片美女视频| 精品久久久久久久末码| 国产精品一区二区三区四区免费观看 | 欧美乱色亚洲激情| 天天添夜夜摸| 欧美+日韩+精品| 亚洲欧美日韩卡通动漫| 欧美+日韩+精品| 欧美性感艳星| 亚洲午夜理论影院| 偷拍熟女少妇极品色| 在线国产一区二区在线| 久久精品夜夜夜夜夜久久蜜豆| 在线免费观看不下载黄p国产 | bbb黄色大片| h日本视频在线播放| 黄色视频,在线免费观看| 韩国av一区二区三区四区| 国产欧美日韩精品亚洲av| 一卡2卡三卡四卡精品乱码亚洲| 久久久成人免费电影| 亚洲第一电影网av| 午夜免费观看网址| 男女那种视频在线观看| 亚洲精品色激情综合| 日韩大尺度精品在线看网址| 床上黄色一级片| 国产激情偷乱视频一区二区| 男人和女人高潮做爰伦理| 在线播放国产精品三级| 久久精品国产自在天天线|