• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    可解釋的層次注意力機制網(wǎng)絡(luò)危重癥預(yù)警

    2021-03-09 16:41:20王天罡張曉濱馬紅葉蔡宏偉
    計算機工程與應(yīng)用 2021年5期
    關(guān)鍵詞:模型

    王天罡,張曉濱,馬紅葉,蔡宏偉

    1.西安工程大學 計算機科學學院,西安710048

    2.西安交通大學第一附屬醫(yī)院 網(wǎng)絡(luò)信息部,西安710061

    3.西安交通大學第一附屬醫(yī)院 重癥醫(yī)學科,西安710061

    隨著近年來人工智能的日益發(fā)展,通過深度學習輔助臨床診療決策研究一直是醫(yī)療領(lǐng)域的熱點,它在醫(yī)療大數(shù)據(jù)中主要用于醫(yī)學影像識別、電子病歷解析、基于基因組學的精準醫(yī)學研究以及臨床決策支持系統(tǒng)等方面。采用臨床表現(xiàn)的疾病預(yù)測模型是臨床決策支持系統(tǒng)一個重要研究內(nèi)容,然而實際醫(yī)療軟件大多僅能提供數(shù)據(jù)的集成和展示,所具備的功能僅限于醫(yī)患管理和床旁數(shù)據(jù)的查詢統(tǒng)計。特別是住院ICU危急重癥的患者在病情變化非常復雜的情況下,醫(yī)護人員通過實時觀察異常生理指標來治療患者有時為時已晚。與此同時,ICU床旁監(jiān)護設(shè)備數(shù)量多、類型復雜,所提取的各項生命指標較多,僅對每個患者體征數(shù)據(jù)進行檢索瀏覽就給醫(yī)生帶來了較大的工作量。

    當前基于機器學習的疾病預(yù)警研究大多采用標準化數(shù)據(jù)集(例如MIMIC-III)的理論研究,許多模型在得出較好結(jié)果的同時由于缺乏可解釋性而無法實際應(yīng)用。例如,當醫(yī)生通過基于CNN或RNN模型判定一個病人是否有患病風險時,更希望知道模型究竟從各類儀器、床旁設(shè)備提取的海量數(shù)據(jù)中學到了哪些能夠以人類可理解方式表達的知識,并且發(fā)現(xiàn)各類風險因素之間的關(guān)聯(lián),從而生成決策結(jié)果。如果一個模型難以理解,那么在關(guān)乎生命風險的醫(yī)療領(lǐng)域就會因無法給出更多的可靠信息而受限,最終只是不同曲線的擬合結(jié)果。因此本研究針對臨床危重癥疾病預(yù)警缺乏前瞻性和可解釋性等問題,作出了如下工作:

    (1)創(chuàng)新性地提出將HAN模型用于基于生理指標的時間序列危急重癥預(yù)警,利用分層注意力機制分別學習時間及風險因素兩個維度上的權(quán)重分布,即對每個患者輸入序列不同時刻或風險因素賦予不同重要性,將神經(jīng)網(wǎng)絡(luò)訓練過程中產(chǎn)生的中間項與患者生理指標漸變的過程相結(jié)合,提醒醫(yī)生在治療過程中應(yīng)該關(guān)注的重點。

    (2)模型提出一種利用分層機制分離時間和風險因素的多通道輸入結(jié)構(gòu),使每個因素享有單獨的輸入序列,更適合當前臨床應(yīng)用中的數(shù)據(jù)結(jié)構(gòu)。同時提出了一種HAN的輸出優(yōu)化結(jié)構(gòu),將患者靜態(tài)人口統(tǒng)計信息和診療過程產(chǎn)生的上下文表征序列相結(jié)合,使結(jié)果除了時序數(shù)據(jù)的表征外添加了更多的關(guān)聯(lián)特征。4.1節(jié)的實驗表明,通過與基線神經(jīng)網(wǎng)絡(luò)相比,該模型大幅度提升了預(yù)警的準確率。

    (3)通過對模型添加可解釋組件(Interpretable Layer),探討了深度學習在實際臨床醫(yī)療的可解釋性,證明該模型相較于其他深度學習模型具有良好的可靠性。

    (4)研究采集的數(shù)據(jù)均為現(xiàn)三甲醫(yī)院ICIS系統(tǒng)提取的臨床真實數(shù)據(jù),提出的方法真實有效,為醫(yī)療人工智能在醫(yī)院信息系統(tǒng)實際應(yīng)用奠定了基礎(chǔ)。

    1 相關(guān)工作

    1.1 基于臨床數(shù)據(jù)集的疾病預(yù)警模型

    近年來常用的多變量疾病預(yù)警模型按照基礎(chǔ)理論的不同可劃分成兩類:靜態(tài)統(tǒng)計分析預(yù)警模型和動態(tài)人工智能預(yù)警模型[1]。其中統(tǒng)計分析預(yù)警模型相關(guān)研究關(guān)注的方向主要包括:監(jiān)測實時生理指標的單變量分析模型、基于多項危險因素指標估測的廣義線性回歸模型。文獻[1]提出通過多因素Logistic回歸分析分別提取患者入院和實時的多項危險因素指標,進而比對分析并建立評分機制,評估冠心病的可能性[2]。文獻[2-3]分別提出了基于隨機森林(RF)支持向量機(SVM)在ICU患者住院24 h內(nèi)死亡風險預(yù)測的應(yīng)用[3-4]。

    上述臨床疾病預(yù)警研究均采用構(gòu)建統(tǒng)計分析模型和對實時生理指標的評分預(yù)測,無法解決海量數(shù)據(jù)下的過擬合、梯度消失等問題,同時沒能充分利用檢查數(shù)據(jù)時間狀態(tài)上的關(guān)聯(lián)性或其他與疾病關(guān)聯(lián)的因素對模型的影響,對臨床急重癥突變預(yù)警能力差。因此文獻[4]提出了一種多因素線索LSTM模型預(yù)測血壓變化進而對高血壓及時預(yù)警,適用于高血壓等慢性病的長期預(yù)測分析。在實際臨床治療過程中,由于該模型將與血壓關(guān)聯(lián)的時序測量數(shù)據(jù)和患者的環(huán)境信息一起作為未來線索數(shù)據(jù)與血壓預(yù)測相結(jié)合,預(yù)測精準度較高[5]。文獻[5]采用循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)或卷積神經(jīng)網(wǎng)絡(luò)(CNN)等當前主流深度學習模型得到了不錯的實驗結(jié)果[6]。

    1.2 基于深度學習模型的可解釋性研究

    準確性和可解釋性是決定預(yù)測模型能否成功應(yīng)用的兩個主要因素。近年來,隨著深度學習的不斷發(fā)展,模型可解釋性的相關(guān)準則逐漸被研究人員所關(guān)注,Lipton指出了構(gòu)建可解釋性模型的必要性[7]:使人能建立對模型的信任;可以體現(xiàn)事件因果關(guān)系;對其他領(lǐng)域可以遷移應(yīng)用;在訓練過程中可附加額外知識等,并認為一個可解釋的模型應(yīng)該至少具備以下特點:

    (1)透明性,即模型對人是透明的,可以在模型對具體任務(wù)訓練之前就模擬預(yù)測到對應(yīng)參數(shù)和模型決策,包括模型整體、組件和算法的透明性。

    (2)事后可解釋性,某些模型盡管事先無法精確闡明其是如何工作的,但是在訓練過程中可以為研究人員提供對事實有用的信息,通過對結(jié)果可視化或訓練過程產(chǎn)生的參數(shù)分析得到相關(guān)知識。

    決策樹(Decision Tree,DT)是具備透明可解釋性的典型機器學習模型,并已經(jīng)廣泛地在醫(yī)療領(lǐng)域應(yīng)用[8]。但是多數(shù)不具備先驗知識的情況下,現(xiàn)實更關(guān)注的是模型的事后可解釋性,Zhang等人提出了一種可解釋的卷積神經(jīng)網(wǎng)絡(luò)[9],該模型通過將每一維度的卷積層對應(yīng)于圖像的一部分,不需要其他標注對模型進行解釋即可以幫助人們在卷積的過程中獲取額外的信息。

    近年來,隨著注意力機制的興起,通過對輸入序列分配不同權(quán)重而影響輸出的結(jié)果這一方法使神經(jīng)網(wǎng)絡(luò)的可解釋性得到了重視,具體對于Attention模型的可解釋性,有正反兩方面的觀點。首先自Bahdanau等[10]將Attention用于機器翻譯等任務(wù)起,研究人員就對其可解釋性進行大量的實驗論證[11]。然而,最近由Serrano等[12]和Jain等[13]分別對注意力機制的可解釋性產(chǎn)生了質(zhì)疑,并認為注意力機制是不可解釋的,前者通過將訓練過程中的注意力權(quán)重擦除或翻轉(zhuǎn)后觀察決策結(jié)果,后者引入了對抗注意力權(quán)重分布的思想并比較權(quán)重和訓練梯度的變化趨勢來分析模型的可解釋性。但是上述研究僅對個別權(quán)重較大的參數(shù)進行操作,忽略了注意力模型的權(quán)重分布并不是獨立存在的事實,例如,在文本分類過程中,一篇體育報道中擦除了“體育”“足球”等詞向量,但是文章中出現(xiàn)的人名和事件仍然能夠使模型產(chǎn)生體育的決策分類結(jié)果。對此,Wiegreffe等[14]的研究對以上注意力模型不可解釋的驗證方法提出了質(zhì)疑,他認為Attention中間層的參數(shù)是無法同整個模型隔離開的,否則就失去了實際的意義。本研究受到上述方法的啟發(fā),在模型訓練的過程中對其注意力參數(shù)進行了整體擦除和重置等操作,實驗結(jié)果證明了IHAN具有良好的事后可解釋性。

    圖1 編碼器-解碼器結(jié)構(gòu)

    2 基于IHAN的疾病預(yù)警模型構(gòu)建

    2.1 注意力機制

    與大多數(shù)標準化醫(yī)學數(shù)據(jù)集不同,在實際基于臨床表現(xiàn)的疾病預(yù)測應(yīng)用中,基于患者生理指標的序列結(jié)構(gòu)通常存在以下幾個問題:

    (1)床旁數(shù)據(jù)大量冗余。例如心率、呼吸等測定頻率為30 s/次,患者在大部分住院期間此類測定均處于正常狀態(tài)。如果采用傳統(tǒng)seq2seq的神經(jīng)網(wǎng)絡(luò),將會把多數(shù)無意義的數(shù)據(jù)混雜到圖1所示編碼器-解碼器結(jié)構(gòu)(Encoder-Decoder)的序列表征c中,嚴重影響了最終的預(yù)測結(jié)果。

    (2)不同患者的檢驗數(shù)據(jù)缺失。例如血紅蛋白、紅細胞計數(shù)測定等檢驗分析項測定時間間隔較長,頻次不一致,導致大多患者均存在數(shù)據(jù)缺失問題,如果大量使用缺失值填補或樣本篩選等方法,同樣引起結(jié)果不準確。

    (3)同一患者不同生理指標采樣頻次不一致,導致輸入序列長度相差較大。例如患者在住院期間進行“平診腎功七項[復]”檢查次數(shù)在3~4次,“血細胞分析+五分類”的檢查次數(shù)在8~9次,而心率血壓等測量頻率更加頻繁。因此在構(gòu)建例如廣義線性回歸、CNN等多因素分析模型時,序列長度的差異會導致輸入序列不能滿足模型的輸入結(jié)構(gòu);而若采用單通道的RNN分析模型時,由于患者病情的變化是多種因素相互作用產(chǎn)生的效果,故忽略了共同作用對結(jié)果的影響。

    基于神經(jīng)網(wǎng)絡(luò)的注意力模型已經(jīng)成功地應(yīng)用在計算機視覺[15]、自然語言處理[16]、語音識別[17]等領(lǐng)域。在機器翻譯的過程中可以明顯體現(xiàn)注意力機制的作用。此時注意力機制在翻譯的過程中遵循如下步驟:給定一個長度為S的輸入句子,通過h1,h2,…,hs表示句子中的單詞序列。為了翻譯目標句子中的第j個單詞,對原始句子中的每個單詞生成一個注意力權(quán)值αi代表它與目標單詞的關(guān)聯(lián)程度,最后計算式(1)中的上下文表征向量c并且用它預(yù)測目標單詞。

    因此本文利用概念上相似的時間注意力機制在不定長序列轉(zhuǎn)換上的成熟應(yīng)用[18],使用臨床數(shù)據(jù)集生成可解釋的預(yù)測模型,基于可解釋的層次注意力模型(IHAN),該模型的優(yōu)勢在于:

    (1)總體模仿醫(yī)生如何關(guān)注病人的需求和探索病人的生理指標的特殊變化,利用注意力權(quán)重分配的不同忽略無意義的指標,其中重點關(guān)注疾病異常風險因素的指標。

    (2)使用分層注意力機制分離時間和風險因素,使不同檢查項享有單獨的不定長時序輸入序列,更適合臨床實際應(yīng)用的數(shù)據(jù)結(jié)構(gòu),能最大限度地還原數(shù)據(jù)集本身的特征。

    (3)在保留RNN預(yù)測時序數(shù)據(jù)能力的同時,通過對注意力權(quán)重的分析,更加容易讓醫(yī)生理解不同疾病的關(guān)鍵風險因素,而且對HAN的輸出層根據(jù)不同患者的靜態(tài)統(tǒng)計信息合并優(yōu)化,有效地提高了預(yù)測的準確率。

    2.2 基于IHAN模型架構(gòu)

    圖2 基于輸出優(yōu)化的IHAN網(wǎng)絡(luò)模型

    圖2 顯示了IHAN的總體架構(gòu),模型通過改進層次注意力模型生成不同維度的注意力權(quán)重進行結(jié)果預(yù)測,分別構(gòu)建基于時序級(時間維度)和元素級(風險因素維度)的層次注意力模型,主要由時序編碼器、時序注意力機制、元素編碼器、元素注意力機制、預(yù)測輸出、解釋決策六部分構(gòu)成。已知數(shù)據(jù)集有N個風險因素si,i∈[1,N],且包含M個時刻的離散檢查變量xi,t,t∈[1,M],對于K名患者的檢查序列IHAN將單個患者Xi,i∈[1,K]按不同風險因素的時間順序重構(gòu)成輸入序列輸出為對應(yīng)患者Xi是否患病的概率通過Softmax函數(shù)后的分類結(jié)果Yi∈{0,1}。

    對于輸入層,給定一個輸入數(shù)據(jù)集S,由于風險因素之間量綱不同,即使相同量綱之間數(shù)量級也可能相差較大,例如:白細胞計數(shù)測定的正常范圍是(3.5~9.5)×109個/L,紅細胞計數(shù)為(4.0~7.0)×1012個/L,而血紅蛋白為(120~165)g/L。因此定義V={v1,1,v1,2,…,v1,m,…,vi,t,…,vn,1,vn,2,…,vn,m}為因素si在p時間窗內(nèi)的離散值xi,1,xi,2,…,xi,p通過Z-score標準化函數(shù)映射至(0,1)范圍內(nèi)的向量集合,其中vi,t表示患者風險因素i在第t時段的時序向量:

    2.2.1 基于實時生理指標變化的時序注意力層

    時序編碼器(time encoder):對患者任意風險因素i共M時間內(nèi)的時序向量{vi,1,vi,2,…,vi,t,…,vi,m},模型首先采用基于LSTM的雙向循環(huán)神經(jīng)網(wǎng)絡(luò)計算患者在對應(yīng)病情發(fā)展過程的隱藏狀態(tài)hi,t,LSTM架構(gòu)如圖3所示。

    時序向量vi,t輸入LSTM時,由公式(3)~(8)得出單向時間維度隱藏表征hi,t:

    時序注意力機制(time attention):床旁設(shè)備所采集的例如血壓、心率等生理指標并非在任意時刻都有重要的作用,甚至大多正常時間采集的時序變量是無意義的。因此引入注意力機制來提取異常的時序信息:對隱藏表征hi,t分配不同的權(quán)重αi,t,如果生理指標在一段時間內(nèi)較為平穩(wěn)則該權(quán)重較小,反之則權(quán)重較大。通過權(quán)重αi,t與對應(yīng)hi,t求加權(quán)和,形成單項風險因素si的在整個治療過程中的表征ri:

    其中,αi,t為代表風險因素si在時間[1,M]內(nèi)各時段生理指標的異常程度,即隱藏表征hi,t的權(quán)重,計算方法為:

    由于公式(11)中hi,t表示正向和逆向的時序隱藏信息,代表了當前時段在過去和未來的特征表達,因此將[1,t-1]的hi,t-1和進行內(nèi)積計算異常程度得分即可得到當前生理指標與前后的關(guān)聯(lián)度,若某時段生理指標與前后差異較大,則此時為異常時段。最后通過Softmax函數(shù)將各時刻異常得分歸一化,即可得基于時間維度的權(quán)重αi,t。

    2.2.2 基于風險因素的元素注意力層

    元素編碼器(element encoder)。已知對任意風險因素si有其在病情發(fā)展變化的表征ri,使用同樣的BiLSTM編碼方式可以獲得其他因素的隱藏表征向量gi。

    元素注意力機制(element attention)。為了能在檢查過程中正確預(yù)警不同疾病的風險因素,再次使用注意力機制并對因素的隱藏表征gi引入對應(yīng)的關(guān)聯(lián)權(quán)重βi,并使用該權(quán)重來衡量患者診療過程中致病因素的重要性,通過加權(quán)和得到患者在疾病發(fā)展過程中的表征c:

    與時序性權(quán)重αi,t計算不同,模型訓練基于不同疾病表達的上下文向量uβ來度量各風險因素在病情變化過程中的重要性βi。將每個風險因素表征gi的轉(zhuǎn)換為非線性表達ui:

    計算uβ和ui的相似度并使用Softmax函數(shù)進行歸一化得到βi:uβ∈Rm×n是在神經(jīng)網(wǎng)絡(luò)訓練過程中形成的表征向量參數(shù),是一種無監(jiān)督端到端的記憶網(wǎng)絡(luò)表達形式,可以看作某類疾病的風險因素影響程度高低的分布,通過衡量訓練好的uβ和ui的相似程度可以得知哪一個風險因素是引起某類病癥的根本因素。該參數(shù)在訓練中經(jīng)過反向傳播不斷更新后迭代生成。

    2.2.3 結(jié)合患者基本信息的輸出模型優(yōu)化

    為了對患者病情發(fā)展過程中產(chǎn)生的風險進行預(yù)警分類,將表示該患者基本人口統(tǒng)計信息構(gòu)成的上下文向量d與患者病情變化表達c拼接并通過全連接層分類輸出預(yù)警結(jié)果。W為參數(shù)矩陣,選取患者是否患病的概率中較大的作為預(yù)測輸出yi-pred,采用交叉熵損失作為模型的損失函數(shù)進行學習:

    2.2.4 解釋決策層

    1.2節(jié)中Lipton將可解釋模型特點分為透明性和事后可解釋性,研究通過在4.2節(jié)實驗分析來證明模型的事后可解釋性。同時構(gòu)建中間可解釋層,分析患者Xi在治療過程中權(quán)重αi,t、βi和輸入V={v1,1,v1,2,…,v1,m,…,vi,t,…,vn,1,vn,2,…,vn,m}變化對患病預(yù)測輸出Y的影響來說明IHAN的透明性。已知c為患者診療過程的表征,由IHAN的相關(guān)機制可表示成關(guān)于αi,t、βi和V的如下公式:

    患者是否患病的概率取決于全連接層之前的各風險因素總體表征:

    其中公式(23)可以完全分解為對任意輸入vi,t,i∈[1,N],有風險因素si在t時段的輸入vi,t對預(yù)測結(jié)果Y的貢獻度

    其中經(jīng)過兩次LSTM編碼LSTMβ(αi,tLSTMα((vi,t))可作為關(guān)于vi,t的非線性變換:

    (1)若對元素維度權(quán)重βi=0進行擦除,則預(yù)先可見公式(24)權(quán)重對應(yīng)的風險因素貢獻度為由公式(19)可得?i∈N,βi>0,則風險越高的因素所對應(yīng)的權(quán)重βi對預(yù)測結(jié)果貢獻越大。

    (2)若對單一風險因素si在任意時段的權(quán)重αi,t=0進行擦除:

    同理可得該時段在整個治療過程中貢獻度為0。然而任意修改αi,t或輸入vi,t,貢獻度仍然受制于風險因素的權(quán)重βi,這說明了IHAN能夠輔助醫(yī)生挖掘在病情變化過程中的高危因素,降低對非致病因素的關(guān)注度,并將注意力集中在治療患者具有高權(quán)重βi對應(yīng)的致病因素。

    3 實驗設(shè)計

    模型在某三甲醫(yī)院CIS系統(tǒng)產(chǎn)生的數(shù)據(jù)集進行了測試,該數(shù)據(jù)集包含6年內(nèi)的2 198例ICU患者在住院過程中發(fā)生急性腎損傷的175 840次數(shù)據(jù)采集結(jié)果。實驗將IHAN模型的預(yù)測精度與傳統(tǒng)計分析和深度學習方法進行了比較,以預(yù)測ICU住院患者生成急性腎損傷的診斷。通過對比分析得出,所提模型在準確率上優(yōu)于傳統(tǒng)方法,在運行速度方面具有可接受性能,同時具備良好的可解釋性。

    3.1 實驗數(shù)據(jù)

    急性腎損傷(Acute Kidney Injury,AKI)為臨床常見危重癥之一,臨床上表現(xiàn)為氮質(zhì)血癥、水電解質(zhì)和酸堿平衡以及全身各系統(tǒng)癥狀,其發(fā)病率一直居高不下,給患者的身體、心理和經(jīng)濟帶來沉重的負擔。既往相關(guān)研究指出,機械通氣、器官衰竭、低蛋白血癥是急性腎損傷患者死亡的獨立危險因素,早期預(yù)防、診斷能降低急性腎損傷的病死率,對改善預(yù)后有重要的意義。實驗中所采用的AKI診斷標準為RIFLE,即血清肌酐(SCr)升高1.5倍,腎小球濾過率(GFR)升高25個百分點,尿量<0.5 mL/(kg·h)×6 h。

    實驗采用了某三甲醫(yī)院CIS系統(tǒng)提供的住院患者生理指標數(shù)據(jù)集,納入輸入序列的i∈[1,N]風險因素包括血小板計數(shù)、血清肌酐等9項,構(gòu)成患者基本統(tǒng)計信息d的因素包括性別、年齡、是否進行連續(xù)性血液凈化、基礎(chǔ)疾病、戴機時間5項,數(shù)據(jù)處理過程如圖4所示,所有資料均進行統(tǒng)一隱私處理并編碼。

    圖4 基于可解釋的HAN流程示意圖

    3.2 實驗環(huán)境

    實驗使用的硬件配置如下:處理器Core i7-6500U@2.50 GHz;獨立顯卡GeForce GTX Titan 8 GB顯存;RAM為16.0 GB;操作系統(tǒng)類型Windows Sever 2012;開發(fā)工具python 3.6+TensorFlow+CUDA框架;模型采用GPU運行環(huán)境進行訓練加速,訓練次數(shù)設(shè)置為200次,學習率初始化為0.1并持續(xù)遞減訓練到損失函數(shù)收斂為止。

    3.3 基線模型

    Logisitc回歸(LR):LR是經(jīng)典的疾病預(yù)測統(tǒng)計分析模型。作為實驗對比,設(shè)置致病因素和患者基本信息為自變量,住院過程中是否產(chǎn)生AKI為因變量,提取患者入院時的檢查結(jié)果作為模型輸入后回歸處理。

    隨機森林、BP神經(jīng)網(wǎng)絡(luò):研究通過咨詢臨床醫(yī)生構(gòu)建風險因素為葉子結(jié)點的隨機森林,對比方法采用Cart算法生成回歸森林以及設(shè)置1 024結(jié)點構(gòu)成的2層BP神經(jīng)網(wǎng)絡(luò)。模型輸入樣本同為患者入院生理指標信息。

    CNN:卷積神經(jīng)網(wǎng)絡(luò)因其能夠從復雜的數(shù)據(jù)集中提取信息的能力而在醫(yī)療影像診斷中得到了應(yīng)用?;€模型參考CNN對圖像的識別原理,根據(jù)患者各項風險因素的輸入序列設(shè)定統(tǒng)一的滑動時間窗,對該時間窗內(nèi)的一維患者數(shù)據(jù)進行二維重構(gòu)成基于時間點采樣的多因素線索數(shù)據(jù)“圖像”,采用多尺度卷積的方法提取不同時間、風險因素維度上的疾病表征信息,輸出分類結(jié)果。

    LSTM:長短期記憶神經(jīng)網(wǎng)絡(luò)主要用于單變量時序序列的分析預(yù)測?;贚STM的基線模型設(shè)計方法如下,通過構(gòu)造患者在整個住院期間N個風險因素的LSTM預(yù)測序列,將每個序列最后一次的輸出值作為單層感知機的輸入,實時預(yù)警患者下一時間段病情變化。

    IHAN+LSTM:2.2節(jié)公式(3)、(4)、(8)、(9)的RNNα、RNNβ采用LSTM模型。

    IHAN+GRU:方法上同樣使用公式(3)、(4)、(8)、(9)的RNNα、RNNβ采用GRU模型。

    4 實驗結(jié)果與分析

    4.1 性能比較

    數(shù)據(jù)集按0.75∶0.15∶0.1的比例劃分為測試集、訓練集、驗證集并采用交叉折疊進行訓練。為了能夠預(yù)測患者在住院治療過程中是否發(fā)生AKI從而輔助醫(yī)生及時調(diào)整診療方案,實驗評價引入三個評價指標,準確率(Precision)、召回率(Recall)和訓練時間,如公式(27)、(28)所示:

    根據(jù)表1實驗結(jié)果,在準確率方面,Logistic回歸、隨機森林和BP神經(jīng)網(wǎng)絡(luò)因其沒有考慮到患者在治療過程中生理指標的漸變信息,無法在長時間住院過程中充分利用檢查數(shù)據(jù)時間狀態(tài)上的關(guān)聯(lián)性,不具有提前預(yù)測的能力,對急重癥突變預(yù)警能力差。而以CNN和RNN為代表的深度學習模型在準確率上有了較大的提升,相比上述統(tǒng)計模型在準確率上提高了8~10個百分點,這體現(xiàn)了基于深度學習對復雜時序信息的捕捉能力,然而由于患者在住院過程中產(chǎn)生的數(shù)據(jù)量多,“無意義”的正常數(shù)據(jù)占比大,導致輸入模型數(shù)據(jù)集噪聲大而影響了預(yù)測結(jié)果的精準度?;贗HAN的層次注意力神經(jīng)網(wǎng)絡(luò)解決了上述問題,同時準確率相比之下提升了12~13個百分點。運行效率上,IHAN+LSTM因其計算的復雜性導致訓練時間較長,在實驗環(huán)境下訓練時間達到了29.50 min,而LSTM+GRU相對模型較簡單,訓練時間也達到了25.25 min。

    表1 IHAN預(yù)測結(jié)果

    綜上所述,IHAN模型與Logistic回歸、隨機森林、卷積神經(jīng)網(wǎng)絡(luò)、LSTM等神經(jīng)網(wǎng)絡(luò)相比在預(yù)測中表現(xiàn)良好,但是訓練時間相對較長,與預(yù)計效果基本符合。因此所提模型能夠在患者住院過程中一定程度地提前預(yù)測可能所伴隨的急性腎損傷,提醒醫(yī)生調(diào)整治療方案,從而達到醫(yī)療輔助決策的作用。

    4.2 可解釋性分析

    實驗評估了IHAN在預(yù)測AKI任務(wù)中的事后可解釋性,即根據(jù)2.2節(jié)中各風險因素在不同時段的αi,t、βi的分布修改輸入序列vi,t,或直接改變?nèi)我猞羒,t、βi觀察y1,y2,…,yt結(jié)果的變化,并對訓練參數(shù)進行可視化。方法是從測試集中選擇一名發(fā)生疾病的患者,咨詢醫(yī)生及問詢診療過程并計算輸入的各項序列對于診斷預(yù)測的貢獻值進行比對。圖5為冠狀動脈粥樣硬化性心臟病患者在住院治療過程中,不同風險因素的注意力權(quán)重β隨時間變化的分布情況和產(chǎn)生AKI的概率,其中Y軸表示疾病的各項風險因素,X軸表示入院時間和某時刻的患病概率(T0d:47.30%表示在0天時產(chǎn)生AKI的概率為47.30%),Z軸表示不同風險因素隨著時間變化時注意力權(quán)重β。入院T0d至T2d時間段內(nèi)各項生理指標權(quán)重較為平穩(wěn)(由于篇幅所限,圖中[T0d,T2d]為平穩(wěn)期,實際為13 d),[T2d,T3.2d]血壓(BP)、心率(HR)影響比重逐漸上升,[T3.2d,T3.8d]時刻SCr和GFR緊隨升高,并在T3.5d時刻提前預(yù)警,T3.8d患者達到AKI的診斷標準。通過醫(yī)生調(diào)閱病程記錄得出,[T0d,T2d]為入院手術(shù)前準備時期。隨后于T2d完成冠狀動脈旁路移植術(shù)后發(fā)生心力衰竭對應(yīng)[T2d,T3.2d]時段,[T3.2d,T3.8d]即為由心力衰竭產(chǎn)生的AKI癥狀。

    圖5 β隨時間變化的分布情況和產(chǎn)生AKI的概率

    為了探究模型的解釋能力,圖6~圖9顯示了IHAN在人為改變輸入序列數(shù)值以及訓練權(quán)重參數(shù)時,輸出結(jié)果的變化,X軸表示在治療過程中的患病概率,Y軸表示疾病的風險因素隨時間變化的權(quán)重β,圖6表示原始結(jié)果作為對照組。圖7中實驗首先在T2d改變SCr和GFR的輸入序列為正常均值,相比于原結(jié)果βSCr、βGFR降低11~13個百分點,T3.8d時刻輸出產(chǎn)生疾病的可能性為58.32%(Average),這說明了Attention的權(quán)重高低與其對應(yīng)位置信息的重要程度正相關(guān)。圖8令βSCr=βGFR=0則T3.8d結(jié)果為40.19%(Reset 0),患病概率相對于對照組可能性降低45.77個百分點。這說明SCr和GFR是AKI產(chǎn)生的關(guān)鍵因素,符合醫(yī)學對該疾病診斷的定義,同時可得高權(quán)重的輸入單元對輸出結(jié)果有決定性作用。圖9中實驗對輸入序列進行翻轉(zhuǎn)(Reverse),結(jié)果顯示在開始階段患病幾率高達86.33%,SCr和GFR仍然對輸出結(jié)果影響較大,這是由于逆序輸入使SCr和GFR直接導致了疾病的產(chǎn)生,而非其他因素漸進變化引起結(jié)果的改變,同時證明了IHAN相對于易解釋模型(LR/DT逆序結(jié)果不變)時間序列處理能力。

    圖7 IHAN預(yù)測結(jié)果(Average:58.32%)

    圖8 IHAN預(yù)測結(jié)果(Reset0:40.19%)

    圖9 IHAN預(yù)測結(jié)果(Reverse:86.33%)

    5 結(jié)語

    本文提出了一種基于可解釋的層次注意力神經(jīng)網(wǎng)絡(luò)算法用于急重癥突變預(yù)測,利用分層注意力將大量床旁醫(yī)學數(shù)據(jù)劃分成時間和風險因素兩個維度,采用擦除重置的方法對算法的可解釋性進行建模。該模型在保留RNN預(yù)測時序數(shù)據(jù)能力的同時,更加容易讓醫(yī)生理解不同疾病在不同時間致病的關(guān)鍵風險因素,而且對HAN的輸出層根據(jù)不同患者的靜態(tài)統(tǒng)計信息合并優(yōu)化,有效地提高了預(yù)測的準確率。實驗在大量數(shù)據(jù)集上進行了對比實驗,并對模型的可解釋性進行驗證,結(jié)果表明注意力權(quán)重能夠代表患者在醫(yī)療過程中的致病因素,較好地起到臨床輔助決策的作用,并為實際臨床技術(shù)轉(zhuǎn)化具有重要的應(yīng)用意義。在以后的工作中,將在不同病種的數(shù)據(jù)集上進行評估,添加例如非結(jié)構(gòu)化的病歷文本等不同類型的實驗數(shù)據(jù)進一步優(yōu)化模型結(jié)構(gòu),進行更加高效的預(yù)測。

    猜你喜歡
    模型
    一半模型
    一種去中心化的域名服務(wù)本地化模型
    適用于BDS-3 PPP的隨機模型
    提煉模型 突破難點
    函數(shù)模型及應(yīng)用
    p150Glued在帕金森病模型中的表達及分布
    函數(shù)模型及應(yīng)用
    重要模型『一線三等角』
    重尾非線性自回歸模型自加權(quán)M-估計的漸近分布
    3D打印中的模型分割與打包
    国产精品一区二区在线观看99| 亚洲国产精品成人久久小说| 黄色配什么色好看| 视频中文字幕在线观看| 亚洲,欧美,日韩| 久久人人爽av亚洲精品天堂| av网站免费在线观看视频| 日韩av在线免费看完整版不卡| 中文欧美无线码| 你懂的网址亚洲精品在线观看| 欧美日韩国产mv在线观看视频| 国产在线免费精品| 日日摸夜夜添夜夜爱| 五月开心婷婷网| 激情五月婷婷亚洲| 亚洲丝袜综合中文字幕| 欧美另类一区| 亚洲无线观看免费| 天堂8中文在线网| 岛国毛片在线播放| 18禁在线无遮挡免费观看视频| 最近中文字幕2019免费版| 午夜福利影视在线免费观看| 亚洲人成77777在线视频| 国语对白做爰xxxⅹ性视频网站| 22中文网久久字幕| 久久久久精品性色| 国产女主播在线喷水免费视频网站| 国产精品一区www在线观看| 日韩av在线免费看完整版不卡| 国产日韩欧美视频二区| 日本av免费视频播放| 国产欧美日韩一区二区三区在线 | 国产片内射在线| 中国美白少妇内射xxxbb| 久久99热这里只频精品6学生| av有码第一页| 免费观看的影片在线观看| 91久久精品电影网| 99热全是精品| 国产极品粉嫩免费观看在线 | 又黄又爽又刺激的免费视频.| 777米奇影视久久| 亚洲人成网站在线观看播放| 久久毛片免费看一区二区三区| 亚洲精品一区蜜桃| 日韩 亚洲 欧美在线| 高清不卡的av网站| 亚洲综合色网址| 亚洲一区二区三区欧美精品| 久久精品国产a三级三级三级| 精品久久久久久久久av| 欧美变态另类bdsm刘玥| 美女中出高潮动态图| 欧美国产精品一级二级三级| 欧美人与善性xxx| 一级毛片我不卡| a级毛片在线看网站| 亚洲av欧美aⅴ国产| 欧美xxⅹ黑人| 国产精品一区二区三区四区免费观看| 午夜影院在线不卡| 美女视频免费永久观看网站| 国产精品嫩草影院av在线观看| 人妻少妇偷人精品九色| 少妇被粗大猛烈的视频| 日韩精品免费视频一区二区三区 | 人妻制服诱惑在线中文字幕| 国产精品熟女久久久久浪| 亚洲熟女精品中文字幕| 少妇精品久久久久久久| 黑人欧美特级aaaaaa片| 亚洲第一区二区三区不卡| 韩国高清视频一区二区三区| 国产成人免费观看mmmm| 国产精品人妻久久久久久| 精品国产国语对白av| 这个男人来自地球电影免费观看 | 丝袜美足系列| 这个男人来自地球电影免费观看 | 少妇被粗大猛烈的视频| 免费观看av网站的网址| 中文字幕精品免费在线观看视频 | 精品一区二区免费观看| 99热网站在线观看| 一区在线观看完整版| 精品少妇黑人巨大在线播放| 亚洲av成人精品一区久久| 在线亚洲精品国产二区图片欧美 | 大陆偷拍与自拍| 三级国产精品片| 国产精品人妻久久久影院| 岛国毛片在线播放| 久久精品国产亚洲网站| 五月玫瑰六月丁香| 欧美激情极品国产一区二区三区 | 91在线精品国自产拍蜜月| 纵有疾风起免费观看全集完整版| 成年av动漫网址| 久久午夜综合久久蜜桃| 亚洲第一区二区三区不卡| 中文字幕免费在线视频6| a级毛片免费高清观看在线播放| 夫妻性生交免费视频一级片| 人妻系列 视频| 五月玫瑰六月丁香| 欧美最新免费一区二区三区| 性色av一级| 午夜久久久在线观看| 人体艺术视频欧美日本| 欧美 日韩 精品 国产| 制服人妻中文乱码| 寂寞人妻少妇视频99o| 午夜精品国产一区二区电影| 伦理电影免费视频| 在线看a的网站| 日日啪夜夜爽| 啦啦啦视频在线资源免费观看| 久久久午夜欧美精品| 午夜影院在线不卡| 精品国产国语对白av| 亚洲色图 男人天堂 中文字幕 | 午夜日本视频在线| 亚洲精品456在线播放app| 欧美少妇被猛烈插入视频| 高清午夜精品一区二区三区| 亚洲国产成人一精品久久久| 黑人欧美特级aaaaaa片| 美女大奶头黄色视频| 亚洲国产毛片av蜜桃av| 好男人视频免费观看在线| 成人手机av| 80岁老熟妇乱子伦牲交| 色婷婷久久久亚洲欧美| 极品人妻少妇av视频| 精品人妻熟女毛片av久久网站| 国产 精品1| 国产男人的电影天堂91| 欧美最新免费一区二区三区| 嘟嘟电影网在线观看| 丰满迷人的少妇在线观看| 成人毛片a级毛片在线播放| 丝瓜视频免费看黄片| 亚洲欧美日韩卡通动漫| 成人手机av| 在线播放无遮挡| 韩国av在线不卡| 免费av中文字幕在线| 我的老师免费观看完整版| 久久久久久久亚洲中文字幕| 亚洲国产最新在线播放| 亚洲国产av影院在线观看| 人妻制服诱惑在线中文字幕| 在线观看www视频免费| 中国国产av一级| av在线观看视频网站免费| av视频免费观看在线观看| 国产 精品1| 成人影院久久| 日韩 亚洲 欧美在线| 亚洲少妇的诱惑av| 美女cb高潮喷水在线观看| 亚洲一级一片aⅴ在线观看| 99精国产麻豆久久婷婷| 精品亚洲乱码少妇综合久久| 好男人视频免费观看在线| 亚洲av.av天堂| 人体艺术视频欧美日本| videos熟女内射| 欧美老熟妇乱子伦牲交| 美女大奶头黄色视频| 久久av网站| 少妇被粗大的猛进出69影院 | 国产在视频线精品| 久久午夜福利片| av国产久精品久网站免费入址| 插阴视频在线观看视频| 狂野欧美激情性xxxx在线观看| 只有这里有精品99| 国产成人freesex在线| 亚洲精品一区蜜桃| 女性被躁到高潮视频| a级毛片免费高清观看在线播放| 亚洲精品,欧美精品| 看免费成人av毛片| 乱人伦中国视频| 老司机亚洲免费影院| 多毛熟女@视频| 国产亚洲欧美精品永久| 18禁在线无遮挡免费观看视频| 一级毛片我不卡| 热99国产精品久久久久久7| 美女国产高潮福利片在线看| 久久久久国产精品人妻一区二区| 九色亚洲精品在线播放| 亚洲国产欧美日韩在线播放| 777米奇影视久久| 国产永久视频网站| 人妻一区二区av| 高清毛片免费看| 亚洲国产精品成人久久小说| 美女xxoo啪啪120秒动态图| 美女脱内裤让男人舔精品视频| 精品一区二区三卡| 亚洲精品第二区| 视频中文字幕在线观看| 少妇人妻久久综合中文| 最后的刺客免费高清国语| 自拍欧美九色日韩亚洲蝌蚪91| 免费高清在线观看视频在线观看| 日韩,欧美,国产一区二区三区| 极品少妇高潮喷水抽搐| 免费日韩欧美在线观看| 久久久久人妻精品一区果冻| 视频区图区小说| 欧美精品一区二区大全| 麻豆成人av视频| 中文字幕人妻熟人妻熟丝袜美| 黄色视频在线播放观看不卡| 日本爱情动作片www.在线观看| 色婷婷av一区二区三区视频| 日韩一本色道免费dvd| 人妻制服诱惑在线中文字幕| 国产精品麻豆人妻色哟哟久久| 秋霞在线观看毛片| 好男人视频免费观看在线| 欧美另类一区| 91国产中文字幕| 国产高清不卡午夜福利| 成人午夜精彩视频在线观看| 特大巨黑吊av在线直播| 久久久久网色| 久久 成人 亚洲| 精品久久国产蜜桃| 国产一区二区在线观看日韩| 我的老师免费观看完整版| 久久国内精品自在自线图片| 一级二级三级毛片免费看| 十分钟在线观看高清视频www| 蜜臀久久99精品久久宅男| 国产男女超爽视频在线观看| 久久久欧美国产精品| 国产在线一区二区三区精| 99热6这里只有精品| 最后的刺客免费高清国语| 亚洲国产精品一区三区| 国产成人免费观看mmmm| 在线观看免费日韩欧美大片 | 国产精品免费大片| 精品国产一区二区久久| 亚洲精品乱码久久久久久按摩| 久久久国产精品麻豆| 成人午夜精彩视频在线观看| 亚洲av在线观看美女高潮| 免费黄色在线免费观看| 王馨瑶露胸无遮挡在线观看| 亚洲av电影在线观看一区二区三区| 成人国语在线视频| av免费观看日本| 国产黄色免费在线视频| 搡老乐熟女国产| 国产精品蜜桃在线观看| 九九在线视频观看精品| 国产亚洲欧美精品永久| 天堂俺去俺来也www色官网| 久久久国产精品麻豆| 日韩三级伦理在线观看| 2021少妇久久久久久久久久久| 午夜福利视频在线观看免费| 晚上一个人看的免费电影| 日韩 亚洲 欧美在线| 我要看黄色一级片免费的| 久久国产亚洲av麻豆专区| 搡老乐熟女国产| 九色成人免费人妻av| 十分钟在线观看高清视频www| 中文欧美无线码| 日韩av不卡免费在线播放| 夜夜看夜夜爽夜夜摸| 亚洲欧洲日产国产| 欧美bdsm另类| av在线观看视频网站免费| 亚洲av欧美aⅴ国产| 亚洲第一区二区三区不卡| 久久久国产精品麻豆| 日本黄色日本黄色录像| 日日摸夜夜添夜夜添av毛片| 日本午夜av视频| 精品人妻偷拍中文字幕| 永久网站在线| 国产熟女欧美一区二区| 午夜福利,免费看| 老司机影院毛片| 亚洲综合色惰| 丰满迷人的少妇在线观看| 一本久久精品| 久久99热6这里只有精品| 精品人妻一区二区三区麻豆| 欧美97在线视频| 国产色婷婷99| 老女人水多毛片| 乱人伦中国视频| 99热这里只有精品一区| 婷婷色av中文字幕| 麻豆乱淫一区二区| 九色亚洲精品在线播放| 国产 精品1| 狂野欧美激情性bbbbbb| 日韩 亚洲 欧美在线| 日韩 亚洲 欧美在线| 久久精品夜色国产| 午夜激情av网站| 久热久热在线精品观看| 男女免费视频国产| 免费大片18禁| 国产高清三级在线| 日本av免费视频播放| 一区二区三区乱码不卡18| 日韩精品免费视频一区二区三区 | 最近中文字幕2019免费版| 2018国产大陆天天弄谢| 国产无遮挡羞羞视频在线观看| 成人免费观看视频高清| 国产男人的电影天堂91| av国产久精品久网站免费入址| 9色porny在线观看| 久久久久久久久久久丰满| 欧美xxⅹ黑人| 丝袜美足系列| 久久午夜综合久久蜜桃| 三级国产精品片| 国产在线视频一区二区| 99久久中文字幕三级久久日本| 高清欧美精品videossex| 国产午夜精品一二区理论片| av在线观看视频网站免费| 亚洲婷婷狠狠爱综合网| 久久毛片免费看一区二区三区| 一区二区av电影网| 黄色视频在线播放观看不卡| 国产探花极品一区二区| 日韩制服骚丝袜av| 国内精品宾馆在线| 精品一品国产午夜福利视频| 婷婷色麻豆天堂久久| 少妇精品久久久久久久| 国产av码专区亚洲av| 日韩三级伦理在线观看| 狂野欧美白嫩少妇大欣赏| 视频在线观看一区二区三区| 国国产精品蜜臀av免费| 精品人妻熟女av久视频| 亚洲国产精品999| 国产一区二区三区av在线| 国产成人免费无遮挡视频| av在线app专区| 欧美精品一区二区免费开放| 丝袜脚勾引网站| 精品酒店卫生间| 草草在线视频免费看| 中文乱码字字幕精品一区二区三区| 国产一区二区三区综合在线观看 | 亚洲av二区三区四区| 日韩不卡一区二区三区视频在线| 女性被躁到高潮视频| 高清视频免费观看一区二区| 欧美少妇被猛烈插入视频| 日本黄色片子视频| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 精品久久国产蜜桃| 久久人人爽人人片av| 精品酒店卫生间| 一边亲一边摸免费视频| 天堂俺去俺来也www色官网| 日本免费在线观看一区| 免费日韩欧美在线观看| 精品人妻偷拍中文字幕| 国产乱来视频区| 一区二区三区精品91| av有码第一页| 99热6这里只有精品| 99re6热这里在线精品视频| 观看av在线不卡| 国产 精品1| 国产精品一区二区三区四区免费观看| av免费在线看不卡| 麻豆精品久久久久久蜜桃| 久久久久国产网址| 自拍欧美九色日韩亚洲蝌蚪91| a级毛色黄片| 精品国产露脸久久av麻豆| 精品一区在线观看国产| 国产精品久久久久久精品古装| 成人亚洲精品一区在线观看| 大片电影免费在线观看免费| 婷婷色av中文字幕| 国产熟女欧美一区二区| 观看美女的网站| 久久国产精品男人的天堂亚洲 | av网站免费在线观看视频| 久久国产亚洲av麻豆专区| 18+在线观看网站| 大码成人一级视频| 蜜桃久久精品国产亚洲av| 欧美精品一区二区免费开放| 特大巨黑吊av在线直播| 亚洲av男天堂| 一级毛片aaaaaa免费看小| 多毛熟女@视频| 日韩在线高清观看一区二区三区| 免费大片18禁| 久久久国产精品麻豆| 精品久久久精品久久久| 亚洲欧美精品自产自拍| 亚洲精品第二区| 国产午夜精品久久久久久一区二区三区| 91精品国产九色| 日韩精品有码人妻一区| 丝袜喷水一区| 男女国产视频网站| 欧美日本中文国产一区发布| 日韩欧美精品免费久久| 人成视频在线观看免费观看| 丰满饥渴人妻一区二区三| 69精品国产乱码久久久| 精品亚洲成a人片在线观看| 在线观看三级黄色| a级片在线免费高清观看视频| 青春草亚洲视频在线观看| 免费看光身美女| 嫩草影院入口| 亚洲av日韩在线播放| 国产精品99久久99久久久不卡 | 精品人妻一区二区三区麻豆| 少妇的逼好多水| 在线播放无遮挡| 亚洲色图综合在线观看| 中文字幕免费在线视频6| 国产精品.久久久| av电影中文网址| 交换朋友夫妻互换小说| 超碰97精品在线观看| 日韩伦理黄色片| 精品人妻一区二区三区麻豆| 精品久久国产蜜桃| 国产成人一区二区在线| 精品卡一卡二卡四卡免费| av.在线天堂| 亚洲欧美一区二区三区国产| 成人黄色视频免费在线看| 老熟女久久久| 有码 亚洲区| 亚洲性久久影院| 久久久久久久精品精品| 人体艺术视频欧美日本| 最近2019中文字幕mv第一页| 婷婷色综合大香蕉| 在线观看人妻少妇| 多毛熟女@视频| 91精品三级在线观看| 久久午夜福利片| 成人毛片60女人毛片免费| 日韩一区二区三区影片| 日本wwww免费看| 精品一区二区三卡| 水蜜桃什么品种好| 亚洲精品自拍成人| 18禁观看日本| 日韩中文字幕视频在线看片| 在线播放无遮挡| 国产成人免费无遮挡视频| 夜夜看夜夜爽夜夜摸| 51国产日韩欧美| 日本色播在线视频| 免费黄频网站在线观看国产| 搡老乐熟女国产| 精品酒店卫生间| 2021少妇久久久久久久久久久| 午夜日本视频在线| 欧美成人午夜免费资源| 免费久久久久久久精品成人欧美视频 | 免费观看的影片在线观看| 亚洲欧美一区二区三区黑人 | 99九九在线精品视频| 日本-黄色视频高清免费观看| 最近的中文字幕免费完整| 一区二区三区精品91| 亚洲图色成人| 日韩中文字幕视频在线看片| 久久av网站| 亚洲国产最新在线播放| 视频在线观看一区二区三区| 自线自在国产av| 2018国产大陆天天弄谢| 亚洲久久久国产精品| 插阴视频在线观看视频| 亚洲精品久久久久久婷婷小说| 国产日韩欧美视频二区| 亚洲精品,欧美精品| 亚洲欧美日韩卡通动漫| 制服人妻中文乱码| 不卡视频在线观看欧美| 男男h啪啪无遮挡| 国产高清不卡午夜福利| 最后的刺客免费高清国语| 夫妻性生交免费视频一级片| 最后的刺客免费高清国语| 亚洲第一区二区三区不卡| 中文乱码字字幕精品一区二区三区| av.在线天堂| av电影中文网址| 久久久久久久久久久免费av| 91午夜精品亚洲一区二区三区| 在线 av 中文字幕| 高清黄色对白视频在线免费看| 一本久久精品| 久久人妻熟女aⅴ| 国内精品宾馆在线| 亚洲欧美精品自产自拍| 国产精品嫩草影院av在线观看| 制服丝袜香蕉在线| 婷婷色综合www| 国产av码专区亚洲av| 一本久久精品| 免费观看在线日韩| 老司机亚洲免费影院| 波野结衣二区三区在线| av国产久精品久网站免费入址| 久久国产精品大桥未久av| 观看美女的网站| 欧美日本中文国产一区发布| 久久 成人 亚洲| 久久鲁丝午夜福利片| 少妇猛男粗大的猛烈进出视频| 国产成人精品在线电影| 王馨瑶露胸无遮挡在线观看| 欧美激情极品国产一区二区三区 | 成人影院久久| 久久久久国产网址| 能在线免费看毛片的网站| av有码第一页| 最近中文字幕高清免费大全6| 岛国毛片在线播放| 亚洲成人手机| 国产av精品麻豆| 亚洲av免费高清在线观看| 美女大奶头黄色视频| 99热这里只有是精品在线观看| 日本色播在线视频| 亚洲图色成人| 免费不卡的大黄色大毛片视频在线观看| 丁香六月天网| 十分钟在线观看高清视频www| 午夜福利视频在线观看免费| 日韩精品有码人妻一区| 国产高清三级在线| 久久午夜综合久久蜜桃| 亚洲成色77777| 欧美日韩av久久| 黄色毛片三级朝国网站| 国产有黄有色有爽视频| 色婷婷久久久亚洲欧美| 在线观看免费日韩欧美大片 | 国产 一区精品| 高清在线视频一区二区三区| 亚洲内射少妇av| 日韩成人伦理影院| av国产精品久久久久影院| 成人亚洲精品一区在线观看| 日韩欧美精品免费久久| 满18在线观看网站| 免费看av在线观看网站| 桃花免费在线播放| 另类亚洲欧美激情| 18禁在线播放成人免费| 十八禁网站网址无遮挡| 精品卡一卡二卡四卡免费| 亚洲av日韩在线播放| 在线观看www视频免费| 精品久久久久久久久亚洲| 女的被弄到高潮叫床怎么办| 日韩中文字幕视频在线看片| 亚洲性久久影院| 久久国产亚洲av麻豆专区| 欧美三级亚洲精品| 午夜激情福利司机影院| 日本色播在线视频| 新久久久久国产一级毛片| 大片电影免费在线观看免费| 欧美+日韩+精品| 国产成人a∨麻豆精品| 99视频精品全部免费 在线| 大香蕉97超碰在线| 亚洲精品,欧美精品| 老女人水多毛片| 亚洲精品色激情综合| 在线观看免费视频网站a站| 99九九线精品视频在线观看视频| 成人亚洲精品一区在线观看| 欧美 亚洲 国产 日韩一| 亚洲精品自拍成人| 亚洲国产欧美日韩在线播放| 亚洲一级一片aⅴ在线观看| 日日摸夜夜添夜夜添av毛片| 一本久久精品| 国产精品成人在线| 三上悠亚av全集在线观看| xxx大片免费视频| 国产成人freesex在线| av电影中文网址| 亚洲精品日韩在线中文字幕| 飞空精品影院首页| 亚州av有码| 欧美激情 高清一区二区三区| 精品卡一卡二卡四卡免费|