深度電子病歷分析研究綜述

蔣友好

摘要：伴隨醫(yī)院信息化建設(shè)，大量的電子病歷數(shù)據(jù)得以保存，但如何分析和利用這些數(shù)據(jù)成為醫(yī)療健康領(lǐng)域一個重要的研究課題。深度電子病歷分析以深度學(xué)習(xí)技術(shù)為基礎(chǔ)，通過特征自學(xué)習(xí)，避免了在數(shù)據(jù)預(yù)處理和特征工程上耗費大量時間，而且還能有效捕獲數(shù)據(jù)間的未知關(guān)系，提高算法性能。本文首先概述了5類常用的深度學(xué)習(xí)模型及其變體，其次詳細(xì)分析了這5類模型在電子病歷分析上的應(yīng)用情況，最后從數(shù)據(jù)異質(zhì)性、公開數(shù)據(jù)集和模型可解釋性三個方面對這一領(lǐng)域當(dāng)前的機遇和挑戰(zhàn)做了總結(jié)。

關(guān)鍵詞：電子病歷；深度學(xué)習(xí)；卷積神經(jīng)網(wǎng)絡(luò)；循環(huán)神經(jīng)網(wǎng)絡(luò)

中圖分類號：TP311 文獻標(biāo)識碼：A 文章編號：1009-3044（2018）15-0301-04

An Overview of Research on Deep Electronic Health Record Analysis

JIANG You-hao1，2

（1.Department of Control Science and Engineering School of Electronics and Information Engineering Tongji University，Shanghai 201804，China；2.Shanghai Putuo District Central Hospital， Shanghai 200062， China）

Abstract：With the development of hospital informatization， the vast amounts of raw electronic health records have been saved. But how to analyze and utilize these data becomes an important research topic in the field of healthcare. Based on deep learning technologies， deep electronic health record analysis models not only can learn features directly from the data itself， avoiding the cost of time on data preprocessing and feature engineering， but also can gain high performance by effectively capturing latent relationships between data. In this paper， five commonly used deep learning models and their variants are firstly discussed， and then analyzes some electronic health record analysis applications in detail. Finally， we summarize the current opportunities and challenges from three aspects： data heterogeneity， public datasets and model interpretability.

Key words： Electronic Health Record （HER）； Deep Learning； Convolutional Neural Networks （CNN）； Recurrent Neural Network （RNN）

引言

隨著醫(yī)院信息化建設(shè)不斷深入，電子病歷（Electronic Health Record，EHR）系統(tǒng)在臨床診療過程中得到了廣泛應(yīng)用，也因此產(chǎn)生了大量的醫(yī)療數(shù)據(jù)。這些數(shù)據(jù)記錄了患者所有的診治歷史，包括人口統(tǒng)計學(xué)信息、診斷、實驗室檢驗結(jié)果、放射影像、處方、臨床記錄等[1]。之前，電子病歷數(shù)據(jù)主要被用來提高臨床診療效率，并方便醫(yī)院管理。但隨著大數(shù)據(jù)和人工智能技術(shù)的飛速發(fā)展，許多研究者認(rèn)為電子病歷數(shù)據(jù)對提高醫(yī)護質(zhì)量、保障患者安全、降低治療費用等方面大有裨益[2-4]。

盡管電子病歷數(shù)據(jù)越來越容易獲取，但其異質(zhì)的特性給分析帶來了巨大的挑戰(zhàn)。從表示形式上來看，電子病歷數(shù)據(jù)有以下5種類型：1）數(shù)值型，如年齡、體重；2）時間日期型，如入院時間、處方開立日期；3）類別型，主要是受控詞表中的代碼，如性別、國際疾病分類代碼ICD-10；4）自然語言書寫的自由文本，如放射學(xué)報告、出院小結(jié)；5）時間序列，即按時間順序排列的一段數(shù)值或一組文本，如生命體征監(jiān)護記錄、病程記錄[5]。面對這些異質(zhì)的數(shù)據(jù)類型，傳統(tǒng)的機器學(xué)習(xí)與統(tǒng)計技術(shù)通過從數(shù)據(jù)中抽取一組特征來表征數(shù)據(jù)，并作為模型的輸入，訓(xùn)練各種分析模型。但上述方法存在兩點不足：1）特征是人手工抽取，依賴于專家的領(lǐng)域知識，這些知識通常都是已知的，不能發(fā)現(xiàn)數(shù)據(jù)間的未知關(guān)系；2）80%的工作用于數(shù)據(jù)的清洗、預(yù)處理等，大大限制了模型的可伸縮性[4]。

近年來，深度學(xué)習(xí)在許多領(lǐng)域都取得了巨大的成功，通過深層次的分層特征構(gòu)建，有效地捕獲數(shù)據(jù)間的未知關(guān)系[6]。相比于傳統(tǒng)的機器學(xué)習(xí)方法，深度學(xué)習(xí)通過直接從數(shù)據(jù)本身習(xí)得最優(yōu)特征，不需要人工指導(dǎo)，實現(xiàn)了特征的自學(xué)習(xí)，并能自動發(fā)現(xiàn)那些數(shù)據(jù)間未知或隱含的關(guān)系。當(dāng)前，已有研究人員將深度學(xué)習(xí)應(yīng)用在電子病歷分析上，取得了比傳統(tǒng)機器學(xué)習(xí)方法更好的結(jié)果，而且在數(shù)據(jù)預(yù)處理和特征工程上耗費更少的時間。

基于前人工作，本文從深度學(xué)習(xí)模型的角度回顧了深度電子病歷分析領(lǐng)域取得的眾多研究成果。在接下來的部分，第2節(jié)概述5類常用的深度學(xué)習(xí)模型及其變體，第3節(jié)詳細(xì)分析這5類模型在電子病歷分析上的應(yīng)用情況，最后第4節(jié)總結(jié)當(dāng)前面臨的挑戰(zhàn)并展望未來的發(fā)展方向。

1 深度學(xué)習(xí)模型概述

經(jīng)過多年發(fā)展，深度學(xué)習(xí)已包含各種各樣的技術(shù)。本節(jié)中，我們將簡要概述最常見的5類深度學(xué)習(xí)模型，這些模型已在深度電子病歷分析上被廣泛使用。從模型架構(gòu)的角度，這5類模型可劃分成兩大類，一類使用監(jiān)督架構(gòu)（包括多層感知機、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)），另一類使用無監(jiān)督架構(gòu)（包括自編碼器、受限玻爾茲曼機）。下面我們對這5類模型逐一進行介紹。

1.1 多層感知機

多層感知器（Multilayer Perceptron，MLP）是一類包含多個隱層的人工神經(jīng)網(wǎng)絡(luò)，第[i]層的神經(jīng)元與第[i+1]層神經(jīng)元完全連接。其中，每個隱層的神經(jīng)元將前一層的輸出加權(quán)求和，再經(jīng)過一個非線性激活函數(shù)，其結(jié)果作為神經(jīng)元的輸出。常見的非線性激活函數(shù)有sigmoid和tanh，現(xiàn)在更多地使用ReLU函數(shù)。

經(jīng)過模型的訓(xùn)練，隱層神經(jīng)元的權(quán)重得到優(yōu)化，網(wǎng)絡(luò)也從學(xué)到了輸入[x]和輸出[y]之間的關(guān)系。隨著隱層的增加，輸入數(shù)據(jù)也會以更抽象的形式表達出來。雖然MLP模型結(jié)構(gòu)很簡單，但其他神經(jīng)網(wǎng)絡(luò)架構(gòu)經(jīng)常會在最后包含一個由全連接神經(jīng)元組成的MLP結(jié)構(gòu)。

1.2 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）是近幾年最流行的一個網(wǎng)絡(luò)模型，特別是在圖像處理領(lǐng)域。相比于MLP的全連接結(jié)構(gòu)，CNN只做局部連接。例如，一張50x50的圖片，MLP會將其展開成一個2500維的向量作為網(wǎng)絡(luò)的輸入，而CNN將其看成是局部像素塊的集合，對每個相同大小的像素塊乘以一組權(quán)值，該過程稱為“卷積”，這組權(quán)值稱為“卷積核”。當(dāng)卷積核在整個圖片上移動時，可以從中提取出有意義的特征。

CNN的特性可總結(jié)為：局部連接、權(quán)值共享。由于卷積核比完整的輸入要小，所以CNN的參數(shù)更少。而且卷積核在整個圖片上移動時，每個像素塊乘以的都是一組相同的權(quán)值，所以權(quán)值是共享的。卷積操作所在的層稱為卷積層，卷積層之后，通常會跟一個池化層用于聚合卷積層提取到的特征。常見的池化有最大池化和平均池化。

1.3 循環(huán)神經(jīng)網(wǎng)絡(luò)

當(dāng)輸入數(shù)據(jù)具有清晰的空間結(jié)構(gòu)（如圖片）時，卷積神經(jīng)網(wǎng)絡(luò)是一個合理的選擇。但當(dāng)輸入數(shù)據(jù)按順序排列（如自然語言或時間序列數(shù)據(jù)）時，循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network，RNN）則更合適一些，因為它具有處理長時間依賴關(guān)系的特性。RNN在更新隱態(tài)[ht]時，不僅依賴當(dāng)前時刻[t]的輸入[xt]，也依賴前一刻的隱態(tài)[ht-1]。依此類推，[ht-1]依賴于[xt-1]和[ht-2]。通過這種方式，最后輸出的隱態(tài)包含先前所有輸入元素的信息。

流行的RNN變體有長短時記憶單元（LSTM）和門控循環(huán)單元（GRU）模型，這兩者都被稱為門控循環(huán)神經(jīng)網(wǎng)絡(luò)。標(biāo)準(zhǔn)RNN由相互連接的隱藏單元組成，而門控RNN中每個隱藏單元被一個包含內(nèi)部循環(huán)的特殊單元和一組控制信息流的門所取代。相比于標(biāo)準(zhǔn)RNN，循環(huán)RNN在建模長時間依賴關(guān)系上更有優(yōu)勢。

1.4 自編碼器

自編碼器（Auto-Encoder，AE）是一個無監(jiān)督表示學(xué)習(xí)模型，最初被用于有監(jiān)督深度學(xué)習(xí)模型的預(yù)訓(xùn)練，對那些標(biāo)記數(shù)據(jù)很少的情況特別有用，但自編碼器依舊可以應(yīng)用在完整的無監(jiān)督學(xué)習(xí)任務(wù)中。自編碼器包含編碼和解碼兩部分，輸入[x]先被編碼為一個低維空間表示[z]，再通過解碼重建[x]的近似表示[x]。自編碼器訓(xùn)練時，通過最小化重建誤差[x-x]，學(xué)習(xí)表示[z]。訓(xùn)練完成之后，只使用編碼部分獲得輸入的編碼表示。

由于自編碼器將輸入數(shù)據(jù)轉(zhuǎn)換成低維的、只存儲重要信息的向量，因此它和標(biāo)準(zhǔn)的降維技術(shù)（如主成分分析、奇異值分解）很像。但自編碼器優(yōu)勢在于隱層的非線性激活函數(shù)，這種非線性變換可以用來解決許多復(fù)雜問題。研究者常使用堆疊的方式構(gòu)建深度自編碼器網(wǎng)絡(luò)。常見的自編碼器變體有降噪自編碼器（DAE）、稀疏自編碼器（SAE）、變分自編碼器（VAE）等。

1.5 受限玻爾茲曼機

另一個無監(jiān)督表示學(xué)習(xí)模型是受限玻爾茲曼機（Restricted Boltzmann Machine，RBM）。與自編碼器不同之處在于，RBM通過一個隨機視角來估計輸入數(shù)據(jù)的概率分布，以此來對數(shù)據(jù)的生成過程進行建模。因而，RBM也被看作生成模型。

在標(biāo)準(zhǔn)玻爾茲曼機中，所有單元之間采用全連接的方式，而在RBM中，任何兩個可見單元或任何兩個隱藏單元之間沒有連接。RBM的訓(xùn)練常采用隨機優(yōu)化，如Gibbs采樣，生成輸入數(shù)據(jù)的表示。此外，RBM可被分層堆疊形成一個深度置信網(wǎng)絡(luò)（DBN），用于監(jiān)督學(xué)習(xí)任務(wù)。

2 深度學(xué)習(xí)模型在電子病歷分析上的應(yīng)用

介紹完上述5種常見的深度學(xué)習(xí)模型，本節(jié)將詳細(xì)分析這些模型在電子病歷分析研究中的應(yīng)用情況，包括應(yīng)用于哪些任務(wù)，對模型做了哪些適配，以及取得的成果有哪些。表 1從深度學(xué)習(xí)模型的角度，給深度電子病歷分析研究做了一個分類。

2.1 多層感知機

由于多層感知機比較簡單，它在電子病歷分析中多作為基礎(chǔ)模型存在。Choi等[7]使用嵌入患者向量的MLP模型來預(yù)測心臟衰竭，其中患者向量通過臨床事件的分布式表示獲得?；颊咭淮尉驮\過程可以看作一個有序的臨床事件集合，從入院、檢查、手術(shù)、醫(yī)囑到出院，使用臨床事件集合表示患者的方法稱為患者向量表示。文獻[7]和[8]均借鑒詞向量分布式表示中的skip-gram方法來獲取臨床事件的分布式表示。

2.2 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)在入院概率預(yù)測和命名實體識別任務(wù)中均有應(yīng)用。Nguyen等[9]使用CNN來預(yù)測出院后無計劃的再入院概率，網(wǎng)絡(luò)輸入為離散的臨床事件代碼，結(jié)果顯示他們的方法優(yōu)于Bag-of-Codes和Logistic回歸兩個基準(zhǔn)模型。有趣的是，他們發(fā)現(xiàn)輸入序列中的長時間間隔并不會影響預(yù)測的準(zhǔn)確性，他們也沒有對數(shù)據(jù)做特殊的預(yù)處理。Wu等[10]將CNN應(yīng)用在中文臨床記錄文本的命名實體識別任務(wù)中，他們使用CNN對文本進行詞向量的預(yù)訓(xùn)練，以此提高基準(zhǔn)模型的準(zhǔn)確率。

2.3 循環(huán)神經(jīng)網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)因適用于時間序列建模，特別是處理文本，眾多面向臨床記錄文本的研究均使用了循環(huán)神經(jīng)網(wǎng)絡(luò)。為從臨床記錄文本中抽取臨床事件及其時間，F(xiàn)ries[11]使用了一個標(biāo)準(zhǔn)RNN，并結(jié)合從兩大臨床語料庫預(yù)訓(xùn)練出的詞向量和人工構(gòu)造的特征。Jagannatha等[12， 13]嘗試多種RNN模型來從臨床記錄文本中抽取概念，他們將此視為一個序列標(biāo)記任務(wù)，為每個單詞分配藥物或疾病標(biāo)簽。他們嘗試的RNN模型有LSTM、GRU、雙向LSTM、LSTM與條件隨機場（CRF）的多種組合。他們實驗發(fā)現(xiàn)，所有RNN模型的結(jié)果都比基準(zhǔn)的CRF有大幅度提升，尤其是在檢測那些細(xì)微屬性（如服藥時長和頻率、疾病嚴(yán)重程度）上表現(xiàn)更好。與文獻[7]任務(wù)類似，Pham等[14]也研究了患者向量表示，不同的是，他們使用改進的LSTM對時間、入院方式、診斷結(jié)果和治療措施進行建模，以此表示完整的疾病史。

在結(jié)果預(yù)測方面，RNN也有廣泛應(yīng)用，如疾病預(yù)測[15]、腎移植的術(shù)后并發(fā)癥預(yù)測[16]。Choi等[15]提出了Doctor AI框架對醫(yī)生行為進行建模，從而實現(xiàn)疾病預(yù)測。他們在患者的（臨床事件，時間）觀測對數(shù)據(jù)上訓(xùn)練一個GRU網(wǎng)絡(luò)，目標(biāo)是預(yù)測下一個臨床事件及其時間，以及未來患病情況。實驗結(jié)果表明，Doctor AI框架recall@30的值為79%，recall@10的值為64%，該結(jié)果可以與醫(yī)生比肩。Esteban等[16]利用不同類型的RNN模型預(yù)測腎移植的術(shù)后并發(fā)癥，模型輸入包括靜態(tài)和動態(tài)特征，輸出則為低、正常、高三類。他們實驗發(fā)現(xiàn)，結(jié)合靜態(tài)特征的GRU網(wǎng)絡(luò)表現(xiàn)結(jié)果好于其他深度模型。此外，他們還發(fā)現(xiàn)，對那些長時間依賴不那么重要的任務(wù)，結(jié)合靜態(tài)特征效果更好，但對輸入具有重要時間依賴性的任務(wù)，結(jié)合動態(tài)特征會更有效。

2.4 自編碼器

因為自編碼器適用于無監(jiān)督的表示學(xué)習(xí)，因此Miotto等[17]在患者表示研究中引入了堆疊的AE模型，從臨床代碼中直接生成患者向量，以此提高疾病預(yù)測性能。原始特征經(jīng)過一個三層AE網(wǎng)絡(luò)轉(zhuǎn)換為患者的向量表示，而患者關(guān)聯(lián)的臨床記錄文本則通過隱含狄利克雷分布（LDA）被編碼進患者向量。最終，這些向量作為Logistic回歸分類器的輸入來預(yù)測診斷結(jié)果。

2.5 受限玻爾茲曼機

受限玻爾茲曼機在電子病歷分析研究中的應(yīng)用主要由兩類，一類是患者向量表示[18]，另一類是結(jié)構(gòu)預(yù)測[19， 20]。相比于文獻[7， 8， 14， 17]使用聚合的方式表示患者向量，也可以直接從時序關(guān)系入手，對患者時間線進行建模。Mehrabi等[18]在患者時序診斷代碼上訓(xùn)練了一個堆疊的RBM，用于生成時間相關(guān)的患者向量表示。他們?yōu)槊總€病人構(gòu)建了一個診斷矩陣，矩陣的行是診斷代碼，列是時間間隔。整個矩陣被0、1填充，表示在給定時間間隔內(nèi)患者是否被診斷為該疾病。因為矩陣的行是診斷代碼，所有RBM隱層是診斷代碼的向量表示。

在結(jié)果預(yù)測方面，受限玻爾茲曼機和深度置信網(wǎng)絡(luò)分別被用于預(yù)測院內(nèi)感染（HAI）和識別骨質(zhì)疏松癥。Jacobson等[19]從臨床記錄文本出發(fā)，比較兩類無監(jiān)督表示學(xué)習(xí)模型在院內(nèi)感染方面的預(yù)測能力。他們比較的模型是堆疊的SAE和堆疊的RBM，實驗發(fā)現(xiàn)，融合了tf-idf特征的堆疊RBM取得了最高的F1值，而融合詞向量特征的堆疊SAE總體性能要好于RBM。Li等[20]使用了兩層DBN來識別骨質(zhì)疏松癥，其創(chuàng)新之處在于使用DBN重建誤差來識別最大風(fēng)險因素。實驗結(jié)果表明，包含所有已識別風(fēng)險因素的模型性能最好。

3 機遇與挑戰(zhàn)

上一節(jié)中，我們對當(dāng)前深度電子病歷分析研究做了一個簡要的概述。這是一個新興領(lǐng)域，大多數(shù)文獻都是在過去兩年中發(fā)表的。從深度學(xué)習(xí)在圖像和自然語言處理方面的研究進展，我們可以一窺深度電子病歷分析的發(fā)展歷程。從中，我們發(fā)現(xiàn)大多數(shù)研究都涉及表示學(xué)習(xí)，即如何最好地表示大量的原始病人數(shù)據(jù)。這些研究分別從個人臨床診斷代碼、人口統(tǒng)計學(xué)信息、臨床記錄文本等方面做出了不同探索，它們也為未來深度電子病歷分析研究指明了方向。下面，我們對此做一簡要分析。

4.1 數(shù)據(jù)異質(zhì)性

由于電子病歷數(shù)據(jù)異質(zhì)的特性，導(dǎo)致電子病歷數(shù)據(jù)的表示學(xué)習(xí)帶來了巨大挑戰(zhàn)。第1節(jié)中，我們已經(jīng)介紹過電子病歷有以診斷代碼、人口統(tǒng)計學(xué)信息、時序的生命體征數(shù)據(jù)、實驗室檢驗結(jié)果等為代表的數(shù)值型數(shù)據(jù)，也有文本形式的數(shù)據(jù)，如出院小結(jié)、放射學(xué)報告等。面對類型如此多樣、豐富的數(shù)據(jù)，現(xiàn)有研究多采用分而治之的策略來進行表示學(xué)習(xí)。

對于診斷代碼這一類離散型數(shù)據(jù)，用到的模型有MLP[7， 8]、CNN[9]、RNN[14]、AE[17]、RBM[18]。由于離散數(shù)據(jù)容易處理，現(xiàn)有研究多關(guān)注這一類數(shù)據(jù)的表示學(xué)習(xí)，而時序生命體征數(shù)據(jù)、實驗室檢驗結(jié)果這類實值數(shù)據(jù)的表示學(xué)習(xí)還未獲得足夠的重視。因為實值數(shù)據(jù)包含更多的醫(yī)學(xué)信息，所有希望以后能有更多的研究關(guān)注數(shù)值數(shù)據(jù)的表示學(xué)習(xí)。

由于文本是一段字符串序列，對于臨床記錄文本，一般采用RNN[12， 13]模型，也有使用CNN[10]模型。由于文本缺少結(jié)構(gòu)信息，使得信息抽取困難重重。例如，不同的作者在表達同一個意思時，文字往往存在一些差異，這些差異表現(xiàn)在不同寫作風(fēng)格、不同的排序偏好、以及多種多樣的縮寫形式。如何更好地利用臨床記錄文本，永遠(yuǎn)是一個開放的問題，它不僅要求研究者掌握基礎(chǔ)的自然語言處理技術(shù)，也需要熟悉特定的臨床知識。因此，如何將眾多的臨床知識應(yīng)用到臨床記錄文本處理中，這是未來深度電子病歷文本分析值得探索的一個方向。

相比于現(xiàn)有這些分而治之的表示學(xué)習(xí)方法，是否存在一個統(tǒng)一的、能處理所有數(shù)據(jù)類型的框架，這也是一個可以嘗試的方向。統(tǒng)一的表示框架可以更好地表征數(shù)據(jù)間關(guān)系，提高模型性能。

4.2 公開數(shù)據(jù)集

另一個深度電子病歷分析研究需要解決的問題是實驗結(jié)果缺乏透明度和不可復(fù)現(xiàn)?？紤]到電子病歷涉及患者隱私，現(xiàn)有的大部分研究使用的都是私有數(shù)據(jù)集。雖然患者隱私得到了保護，但對于算法效果提升的評判，就缺乏了統(tǒng)一基準(zhǔn)。而且許多研究聲稱取得了最先進成果，由于數(shù)據(jù)集不公開，這些結(jié)果均無法得到外部人員的證實。公開數(shù)據(jù)集的缺失，可能阻礙深度電子病歷分析研究的發(fā)展，使其發(fā)展緩慢。

4.3 模型可解釋性

最后，深度學(xué)習(xí)模型的可解釋性目前還是一個亟待解決的問題。模型透明度對于許多臨床應(yīng)用來說是至關(guān)重要的，因此，深度電子病歷分析模型的可解釋性也是未來研究的重點。由于正確的臨床決策可能是生與死的區(qū)別，許多醫(yī)務(wù)工作者必須能夠理解和信任深度學(xué)習(xí)系統(tǒng)所做的預(yù)測和建議。雖然一些研究人員淡化了可解釋性的重要性，片面追求模型表現(xiàn)能有顯著改進，但我們認(rèn)為一個可解釋的模型將加速深度電子病歷分析研究在臨床中的應(yīng)用推廣。

致謝：

本文工作得到上海市科學(xué)技術(shù)委員會資助（No.16511102800）。

參考文獻：

[1] Birkhead G S， Klompas M， Shah N R. Uses of Electronic Health Records for Public Health Surveillance to Advance Public Health[J]. Annual review of public health， 2015， 36： 345-359.

[2] Jensen P B， Jensen L J， Brunak S. Mining electronic health records： towards better research applications and clinical care[J]. Nature Reviews Genetics， 2012， 13（6）： 395.

[3] Bates D W， Saria S， Ohno-Machado L， et al. Big data in health care： using analytics to identify and manage high-risk and high-cost patients[J]. Health Affairs， 2014， 33（7）： 1123-1131.

[4] Rajkomar A， Oren E， Chen K， et al. Scalable and accurate deep learning for electronic health records[J]. arXiv preprint arXiv：1801.07860， 2018.

[5] Shickel B， Tighe P J， Bihorac A， et al. Deep EHR： A Survey of Recent Advances in Deep Learning Techniques for Electronic Health Record （EHR） Analysis[J]. IEEE Journal of Biomedical & Health Informatics， 2017.

[6] Bengio Y， Courville A， Vincent P. Representation learning： A review and new perspectives[J]. IEEE transactions on pattern analysis and machine intelligence， 2013， 35（8）： 1798-1828.

[7] Choi E， Schuetz A， Stewart W F， et al. Medical concept representation learning from electronic health records and its application on heart failure prediction[J]. arXiv preprint arXiv：1602.03686， 2016.

[8] Choi E， Bahadori M T， Searles E， et al. Multi-layer representation learning for medical concepts[C]//Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. ACM， 2016： 1495-1504.

[9] Nguyen P， Tran T， Wickramasinghe N， et al. Deepr： A Convolutional Net for Medical Records[J]. IEEE journal of biomedical and health informatics， 2017， 21（1）： 22-30.

[10] Wu Y， Jiang M， Lei J， et al. Named Entity Recognition in Chinese Clinical Text Using Deep Neural Network[J]. Stud Health Technol Inform， 2015， 216：624-628.

[11] Fries J A. Brundlefly at SemEval-2016 Task 12： Recurrent Neural Networks vs. Joint Inference for Clinical Temporal Information Extraction[J]. 2016：1274-1279.

[12] Jagannatha A. Structured prediction models for RNN based sequence labeling in clinical text[C]//Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing. 2016： 856-865.

[13] Jagannatha A N， Yu H. Bidirectional RNN for Medical Event Detection in Electronic Health Records[C]//Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics： Human Language Technologies. 2016： 473-482.

[14] Pham T， Tran T， Phung D， et al. DeepCare： A Deep Dynamic Memory Model for Predictive Medicine[J]. 2016：30-41.

[15] Choi E， Bahadori M T， Schuetz A， et al. Doctor AI： Predicting Clinical Events via Recurrent Neural Networks.[J]. 2015， 56：301-318.

[16] Esteban C， Staeck O， Baier S， et al. Predicting Clinical Events by Combining Static and Dynamic Information Using Recurrent Neural Networks[C]// IEEE International Conference on Healthcare Informatics. IEEE， 2016：93-101.

[17] Miotto R， Li L， Kidd B A， et al. Deep patient： an unsupervised representation to predict the future of patients from the electronic health records[J]. Scientific reports， 2016， 6： 26094.

[18] Mehrabi S， Sohn S， Li D， et al. Temporal Pattern and Association Discovery of Diagnosis Codes Using Deep Learning[C]// International Conference on Healthcare Informatics. IEEE， 2015：408-416.

[19] Jacobson O， Dalianis H. Applying deep learning on electronic health records in Swedish to predict healthcare-associated infections[C]// The Workshop on Biomedical Natural Language Processing. 2016：191-195.

[20] Li H， Li X， Ramanathan M， et al. Identifying informative risk factors and predicting bone disease progression via deep belief networks[J]. Methods， 2014， 69（3）：257-265.