• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于自適應(yīng)圖卷積網(wǎng)絡(luò)的心電圖多標(biāo)簽分類模型

    2022-12-13 13:53:00賀煜航劉棪陳剛
    計算機工程 2022年12期
    關(guān)鍵詞:注意力心電圖卷積

    賀煜航,劉棪,陳剛

    (1.武漢大學(xué) 空天信息安全與可信計算教育部重點實驗室,武漢 430072;2.武漢大學(xué) 國家網(wǎng)絡(luò)安全學(xué)院,武漢 430072)

    0 概述

    根據(jù)世界衛(wèi)生組織2019 年的研究報告,心臟疾病已經(jīng)成為全球最主要的死亡原因之一[1]。心臟疾病泛指由高脂血癥、血液粘稠、動脈粥樣硬化、高血壓等導(dǎo)致的心臟缺血性或出血性心臟病。心臟疾病發(fā)作之前,通常有明顯的心血管異常表現(xiàn),如心悸、暈厥、胸痛、氣短等。如果能夠在這些疾病早期癥狀出現(xiàn)時,精確診斷所患疾病,并介入治療,將有助于控制疾病發(fā)展。

    心電圖(Electrocardiogram,ECG)分析[2]是一種被廣泛應(yīng)用的重要心臟疾病診斷方法。傳統(tǒng)心電圖診斷需要醫(yī)生人工分析被測量者的心電圖,判斷被測量者的病情。但傳統(tǒng)心電圖分析嚴(yán)重依賴醫(yī)生的個人水平,由于心臟疾病種類多樣、隱匿性心臟病的存在等,易出現(xiàn)誤診、漏診現(xiàn)象,且效率較低。同時,已有研究表明,心電圖中的高頻信號對心臟的健康情況能進行更全面的分析[3-4]。為了提高診斷準(zhǔn)確率和效率,如何進行高效、準(zhǔn)確的心電圖自動分類并更好地利用其中的高頻信息是一個亟需解決的問題。

    在深度學(xué)習(xí)發(fā)展前,已有多種傳統(tǒng)機器學(xué)習(xí)方法被應(yīng)用于心電圖自動分類問題。CEYLAN等[5]使用離散小波變換對心電圖RR 間期進行特征提取,構(gòu)建前饋神經(jīng)網(wǎng)絡(luò)對心電圖進行分類,取得較好成果。WANG等[6]將主成分分析(Principal Components Analysis,PCA)及主題模型方法應(yīng)用于心電圖特征提取,并構(gòu)建概率神經(jīng)網(wǎng)絡(luò)(Probabilistic Neural Network,PNN)分類器對心電圖進行分類。ZIDELMAL等[7]使用小波變換對心電圖進行去噪及特征提取,通過支持向量機對心電圖進行分類。上述機器學(xué)習(xí)方法首先從心電圖中人工提取特征,然后將提取特征輸入到?jīng)Q策樹、支持向量機等判別模型中進行分類預(yù)測,其表現(xiàn)依賴于人工提取特征和判別模型。而人工提取的特征存在一些不足:難以準(zhǔn)確表示心電圖信息,易導(dǎo)致錯誤;需要大量專業(yè)醫(yī)學(xué)知識用于特征工程,這會降低整體效率。

    近年來,深度學(xué)習(xí)成為人工智能領(lǐng)域的核心話題,并逐漸應(yīng)用于心電圖分類任務(wù)。深度學(xué)習(xí)通過網(wǎng)絡(luò)模型自動提取特征,有效地解決了傳統(tǒng)方法中人工提取特征的局限性。其中,以卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)為基礎(chǔ)的模型被越來越多地應(yīng)用于心電圖分類任務(wù)并取得了一定的成果。CAI等[8]提出以殘差神經(jīng)網(wǎng)絡(luò)(Residual Neural Network,ResNet)為基礎(chǔ),結(jié)合深度可分離卷積、通道域注意力(Squeeze and Excitation,SE)模塊構(gòu)建的Multi-ECGNet 模型,取得了較好的分類效果。WANG等[9]提出并構(gòu)建了基于非局部卷積注意模塊的卷積神經(jīng)網(wǎng)絡(luò)模型Automated-ECG,通過非局部注意力獲取心電圖數(shù)據(jù)空間、通道及時間上的信息,并結(jié)合學(xué)習(xí)矩陣進行融合,學(xué)習(xí)矩陣在上述三類信息中挖掘關(guān)系信息并最終完成分類,該模型在多個數(shù)據(jù)集中取得了較好的結(jié)果。

    上述CNN 模型在進行分類時,均通過適當(dāng)?shù)姆椒ㄔ鰪娔P偷谋碚髂芰Γ蕴崛∮行У男碾妶D特征,并用于心電圖分類。但一方面,單一的卷積神經(jīng)網(wǎng)絡(luò)由于受感受野的限制和權(quán)重共享的影響,不能很好地利用全局信息,對特征空間鄰域中其他樣本提供的信息利用不夠,影響了分類結(jié)果的準(zhǔn)確率。另一方面,在實際病例中,心臟疾病患者常同時出現(xiàn)多種癥狀,且部分癥狀是不獨立的,而目前的大部分網(wǎng)絡(luò)模型傾向于關(guān)注一種或幾種心臟疾病,并沒有對多標(biāo)簽進行分析研究。

    本文提出一種基于注意力機制與圖卷積網(wǎng)絡(luò)的心電圖多標(biāo)簽分類模型(Multi-Label Classification Model of Electrocardiogram Based on Attention Mechanism and Graph Convolutional Network,MLECG-AGCN),并結(jié)合損失函數(shù)和評價指標(biāo)從多標(biāo)簽角度考慮分類,以高效利用高頻信號及特征空間中的全局信息和鄰域信息。

    1 相關(guān)研究

    1.1 注意力機制

    注意力機制最初被用于機器翻譯[10],現(xiàn)已成為神經(jīng)網(wǎng)絡(luò)領(lǐng)域的一個重要概念。注意力機制的基本思想是使模型忽略無關(guān)信息而關(guān)注重點信息。一般而言,在神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中,模型參數(shù)越多則模型的表達能力越強,模型所存儲的信息量也越大,但這會帶來信息過載的問題。通過引入注意力機制,在眾多的輸入信息中聚焦于對當(dāng)前任務(wù)更關(guān)鍵的信息,降低對其他信息的關(guān)注度,甚至過濾掉無關(guān)信息,就可以解決信息過載問題,提高任務(wù)處理的效率和準(zhǔn)確性。

    近年來,注意力機制被逐漸應(yīng)用于計算機視覺領(lǐng)域,并在圖像分類、圖像識別等任務(wù)中取得良好的效果。JADERBERG等[11]提出一種將注意力機制應(yīng)用于空間域進行圖像分類的模型(Spatial Transformer Networks,STN),通過將基于注意力機制的空間轉(zhuǎn)換器模塊代替卷積神經(jīng)網(wǎng)絡(luò)中的池化層,將原始圖片的空間信息變換至另一空間并聚焦關(guān)鍵信息,提升圖像分類準(zhǔn)確率。HU等[12]提出一種顯示建模通道間相互依賴性的通道域注意力機制網(wǎng)絡(luò)(SE Networks,SENet),在所使用數(shù)據(jù)集上獲得高于基線網(wǎng)絡(luò)的效果。WANG等[13]提出一種殘差注意力網(wǎng)絡(luò)(Residual Attention Network),并設(shè)計一種注意力殘差學(xué)習(xí)訓(xùn)練方法訓(xùn)練此網(wǎng)絡(luò)模型,該網(wǎng)絡(luò)模型在CIFAR-10 和CIFAR-100 數(shù)據(jù)集上表現(xiàn)良好,對噪聲標(biāo)簽具有較強的魯棒性。CAI等[8]在其心電圖像分類模型中添加SE 模塊,為網(wǎng)絡(luò)引入注意力機制,提升了模型的分類性能。

    本文針對心電圖特點,構(gòu)建基于拉普拉斯濾波器和SE 模塊的注意力機制模塊,將注意力機制應(yīng)用于心電圖特征提取,增強網(wǎng)絡(luò)關(guān)注心電圖高頻信號的能力,提取更有效的心電圖特征。

    1.2 圖卷積網(wǎng)絡(luò)

    圖卷積網(wǎng)絡(luò)(Graph Convolutional Network,GCN)最初被用于文本分類[14],因其強大的結(jié)構(gòu)表示能力,近年來已在圖像[15-16]、文本[17]、非歐式數(shù)據(jù)[18]等領(lǐng)域中表現(xiàn)出優(yōu)越性能。GCN 的基本思想是通過在節(jié)點間傳遞信息來更新節(jié)點表示,與標(biāo)準(zhǔn)卷積不同,GCN 的目標(biāo)是學(xué)習(xí)圖g上的函數(shù)f(·,·),g以特征描述Hl∈RN×d和矩陣A∈RN×N為輸入,更新節(jié)點特征為Hl+1∈RN×d′,每一個GCN 層都可以表示為一個非線性函數(shù),如式(1)所示:

    通過卷積運算,f(·,·)可以表示為式(2)所示:

    其中:Wl∈Rd×d′為學(xué)習(xí)變化矩陣為歸一化的相關(guān)矩陣A;h(·)為非線性運算,GCN 以此對節(jié)點間復(fù)雜的相互關(guān)系進行構(gòu)建和學(xué)習(xí)。由式(1)和式(2)可知,與CNN 不同,GCN 在得到節(jié)點表示時,關(guān)注圖中的全局信息和鄰域節(jié)點信息,GCN 通過對節(jié)點間關(guān)系進行構(gòu)建、學(xué)習(xí)得到節(jié)點的輸出表示。

    根據(jù)圖卷積的定義,GCN 可分為光譜法和空間法?;诠庾V的GCN[19-21]一般指基于圖傅里葉變換(Graph Fourier Transform)的卷積,而基于空間的GCN[17,22]是直接對圖節(jié)點及其鄰域節(jié)點進行人工定義的卷積。在應(yīng)用方面,GCN 可以同時處理轉(zhuǎn)換設(shè)置[20-21]和歸納設(shè)置[17,22]問題。在轉(zhuǎn)換設(shè)置中,訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)是同一固定圖中的節(jié)點,而在歸納設(shè)置中,模型需要跨不同的圖進行推理。

    本文將擁有強大結(jié)構(gòu)表示能力的GCN 與CNN網(wǎng)絡(luò)相結(jié)合,改善單一卷積神經(jīng)網(wǎng)絡(luò)受感受野的限制和權(quán)重共享的影響,解決無法充分利用全局信息的問題,有效利用特征空間中的全局信息和鄰域信息。

    2 本文網(wǎng)絡(luò)結(jié)構(gòu)

    心電圖數(shù)據(jù)首先經(jīng)過數(shù)據(jù)加載模塊,該模塊使用wfdb 庫讀取心電圖數(shù)據(jù),得到預(yù)處理后的數(shù)據(jù)X∈RN×C×L,其中:N為訓(xùn)練集樣本總數(shù);C為通道數(shù);L為時序信號長度,將其作為MLECG-AGCN 的輸入。

    MLECG-AGCN 由兩部分網(wǎng)絡(luò)組成:用于心電圖特征提取的基于注意力機制的CNN 網(wǎng)絡(luò)(以下簡稱注意力機制CNN);用于多標(biāo)簽分類的自適應(yīng)GCN。MLECG-AGCN 網(wǎng)絡(luò)流程如圖1 所示。

    圖1 MLECG-AGCN 網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 MLECG-AGCN network structure

    圖1(b)為本文設(shè)計的注意力機制CNN 網(wǎng)絡(luò),用來提取心電圖特征。該網(wǎng)絡(luò)結(jié)構(gòu)包含2 個分支,一個分支是心電圖基本特征提取模塊(圖1(b)左側(cè)分支),用于提取心電圖基本特征;另一個分支為注意力機制模塊(圖1(b)右側(cè)分支),用于增強心電圖高層特征。數(shù)據(jù)X經(jīng)過圖1(b)輸出信息增強的特征Xout∈,作為圖1(c)的輸入。

    圖1(c)為自適應(yīng)GCN 網(wǎng)絡(luò),用來構(gòu)建、提取樣本上下文信息特征并應(yīng)用于分類。其中的節(jié)點為每個心電圖樣本經(jīng)圖1(b)后提取的特征向量,圖的構(gòu)建使用轉(zhuǎn)換設(shè)置,即數(shù)據(jù)集中訓(xùn)練集、測試集樣本均構(gòu)建在同一圖Gin中,通過掩碼進行劃分。圖Gin經(jīng)過自適應(yīng)GCN,輸出包含樣本上下文信息的特征Zout∈RN×D(D為類別總數(shù)),最后經(jīng)過Sigmoid 完成分類。

    MLECG-AGCN 模型的總體設(shè)計思路是,首先通過基于拉普拉斯濾波器設(shè)計的注意力機制CNN,增強對心電圖高頻信號的利用率,提高網(wǎng)絡(luò)的表征能力。然后,自適應(yīng)圖卷積模塊采用圖的形式對樣本間的相互依賴關(guān)系進行建模,這是一種在特征空間中捕獲拓?fù)浣Y(jié)構(gòu)的靈活方法。在模型結(jié)構(gòu)層面,MLECG-AGCN 模型將各心電圖樣本經(jīng)注意力機制CNN 提取的特征作為節(jié)點組織成圖,使用自適應(yīng)圖卷積顯式地建模樣本依賴關(guān)系,通過GCN 中自適應(yīng)更新的鄰接矩陣,吸收鄰域中相關(guān)節(jié)點的信息,并對節(jié)點特征進行更新。自適應(yīng)圖卷積網(wǎng)絡(luò)經(jīng)過學(xué)習(xí)得到各樣本的分類器,這些分類器能更有效地利用全局信息和特征空間鄰域樣本信息,并可直接應(yīng)用于心電圖特征進行分類,提高分類準(zhǔn)確率。

    2.1 心電圖基本特征提取模塊

    心電圖基本特征提取模塊的結(jié)構(gòu)如圖1 所示(圖1(b)左側(cè)分支),首先,輸入X經(jīng)過一維卷積、一維批量歸一化(Batch Normalization,BN),非線性激活函數(shù)激活和池化層池化輸出淺層特征X1∈后,X1經(jīng)過堆疊特別設(shè)計的殘差單元[23],輸出高層特征X2∈,殘差單元結(jié)構(gòu)如圖2 所示,然后,在其中使用深度可分離卷積[24]代替常規(guī)卷積,降低參數(shù)量,并結(jié)合非線性激活函數(shù)層增強模型非線性表達能力。最后,X2經(jīng)維度展平操作得到輸出Xfeature∈。

    圖2 殘差單元結(jié)構(gòu)Fig.2 Structure of residual unit

    2.2 注意力機制模塊

    在心電圖中,大多數(shù)疾病均能通過其中的高頻信號顯示。這部分波形相較于其余部分有著波形突變性強的特征,而拉普拉斯濾波器的特點是可以突出圖像中強度發(fā)生快速變化的區(qū)域。

    基于上述特點,本文構(gòu)建如圖1 所示的注意力機制模塊(圖1(a)右側(cè)分支),網(wǎng)絡(luò)輸入為經(jīng)過預(yù)處理的心電圖X∈RN×C×L,第1層為拉普拉斯濾波器層,對X中波形突變性較強的部分進行增強,得到更關(guān)注心電圖高頻信號的輸出特征Y∈RN×C×L。拉普拉斯濾波器層使用一維高斯拉普拉斯濾波器(Laplacian of Gaussian,LoG),先利用一維高斯平滑濾波對輸入降噪,再使用一維拉普拉斯算子的離散卷積核[1,-2,1]對降噪后的心電圖進行濾波操作,得到輸出特征Y。Y經(jīng)過一維卷積層、一維BN 層、非線性激活函數(shù)層和池化層輸出淺層特征Y1∈。Y1經(jīng)過堆疊的注意力機制殘差單元得到更高層特征Y2∈,注意力機制殘差單元結(jié)構(gòu)如圖2(b)中RES Attention Module 所示,其中SE模塊通過學(xué)習(xí)的方式自動獲取各通道重要程度,以此篩選網(wǎng)絡(luò)對通道的注意力。特征Y2經(jīng)池化層池化和維度展平后,得到注意力機制模塊的輸出Yatt∈RN×d′。Yatt與Xfeature拼接得到最終輸出特征Xout∈。

    大多數(shù)心臟疾病與心電圖中高頻信號相關(guān),而傳統(tǒng)CNN 對高頻信息利用不充分。因此,注意力機制模塊使用拉普拉斯濾波器,突出心電圖中強度發(fā)生快速變化的區(qū)域,得到增強心電圖高頻信號的特征,再通過堆疊特別設(shè)計的RES Attention Module 對其進行高層特征提取,以此實現(xiàn)對心電圖高頻信號的注意力增強,并得到增強后的心電圖高層特征。注意力機制CNN 網(wǎng)絡(luò)通過級聯(lián)操作拼接增強心電圖高層特征和心電圖基本特征,全面保留了信息增強后的心電圖高層特征和心電圖提取的基本特征,并將拼接后特征作為后續(xù)模型的輸入,有效利用了先驗信息,增加了提取特征的信息量。

    2.3 自適應(yīng)GCN 網(wǎng)絡(luò)

    自適應(yīng)GCN 網(wǎng)絡(luò)以圖Gin為輸入,其包含初始節(jié)點特征矩陣Xout∈RN×d(N為樣本總數(shù),d為樣本特征向量的維度)和初始鄰接矩陣A∈RN×N,參數(shù)可更新。Gin的初始化流程如圖3 所示。首先計算并記錄節(jié)點特征向量間的歐式距離dist(X,Y)=,之后新建鄰接矩陣A∈RN×N,根據(jù)KNN 算法尋找各節(jié)點的鄰域節(jié)點(如圖3(b)所示),在矩陣A中進行記錄,各節(jié)點對應(yīng)行中的鄰域節(jié)點位置設(shè)置值為1。最后遍歷各節(jié)點,完成圖Gin的初始化。

    圖3 圖初始化流程Fig.3 Initialization procedure of graph

    自適應(yīng)GCN 網(wǎng)絡(luò)結(jié)構(gòu)如圖1(c)所示,第1 層為圖卷積層,計算式如(3)所示:

    其中:G=g(Xout,A)表示大小為N×N的聚合矩陣,每行之和為1,g(·)是Xout和A的一個函數(shù);操作符“∥”表示沿著特征維度進行拼接;W為權(quán)重矩陣,維度為2d×d1;σ(·)為非線性激活函數(shù)。

    圖卷積層運算主要包括兩步。第1 步為Xout與G相乘,對節(jié)點鄰域節(jié)點的信息進行聚合;然后輸入節(jié)點特征Xout與鄰域聚合信息在特征維度上進行拼接。第2 步為對融合特征通過一組線性濾波器進行轉(zhuǎn)換,其參數(shù)為可學(xué)習(xí)的權(quán)重矩陣W。經(jīng)圖卷積層,輸出圖G1,包含變換后的節(jié)點特征矩陣Ζ1∈(d1為輸出特征維度)和鄰接矩陣A1∈。第2 層為非線性激活函數(shù)層,Z1經(jīng)激活輸出Z2∈。第3 層為圖卷積層,以G1為輸入,包含Z2和A1,經(jīng)圖卷積層,輸出節(jié)點高層特征矩陣Z3∈和更新后鄰接矩陣A2∈RN×N。Z3經(jīng)過ReLU 非線性函數(shù)激活層、線性等維映射層和PReLU非線性激活函數(shù)層,線性分類器層輸出Zout∈RN×D(D為類別總數(shù)),最后經(jīng)過Sigmoid 完成分類。

    與標(biāo)準(zhǔn)GCN 不同,本文的自適應(yīng)GCN 模塊將鄰接矩陣A設(shè)置為參數(shù)自適應(yīng)更新,能夠自適應(yīng)地調(diào)整鄰域節(jié)點的權(quán)重,在多次迭代中效果較好。

    自適應(yīng)GCN 模塊通過基于GCN 的映射函數(shù)從輸入Gin中學(xué)習(xí)相互依賴的對象分類器Zout∈RN×D,其中D表示類別總量;N表示樣本總數(shù)?;贕CN的映射函數(shù)在構(gòu)建中通過級聯(lián)操作拼接輸入節(jié)點特征信息和鄰域節(jié)點聚合信息,有效利用了節(jié)點特征空間的鄰域樣本信息,又不丟失節(jié)點自身信息。GCN 網(wǎng)絡(luò)通過每一個GCN 層更新節(jié)點狀態(tài),每一個節(jié)點對應(yīng)一個樣本的分類器,經(jīng)過兩個堆疊的GCN層后,最終節(jié)點的特征向量長度達到總類別數(shù)D,再通過sigmoid 即可完成分類。

    2.4 損失函數(shù)

    本文采用加權(quán)的二元交叉熵函數(shù)作為損失函數(shù),其表達式如下:

    其中:x表示預(yù)測值;y為真實標(biāo)簽;σ(·)表示Sigmoid激活函數(shù);c表示類別總數(shù),此處設(shè)置為44;N表示每一個batch 樣本數(shù);pc表示各類別的權(quán)重系數(shù);w為各樣本權(quán)重,實驗中設(shè)置為1。

    pc的定義如式(6)所示:

    其中:num(c)表示類別c的樣本總數(shù),各類別對應(yīng)的權(quán)重系數(shù)與其數(shù)量成反比,以此提高小樣本類預(yù)測時對損失函數(shù)的影響,解決因數(shù)據(jù)集分布不均勻可能導(dǎo)致的分類偏差。

    3 實驗結(jié)果與分析

    3.1 數(shù)據(jù)集與預(yù)處理

    本文選用PTB-XL 數(shù)據(jù)集[25]進行實驗,PTB-XL數(shù)據(jù)集是一個大型心電圖數(shù)據(jù)集,包含來自18 885名患者長度為10 s 的21 837 個臨床12 導(dǎo)聯(lián)心電圖。PTB-XL 數(shù)據(jù)庫的采樣頻率為500 Hz。經(jīng)數(shù)據(jù)加載,得到形如X∈RN×C×L的原始心電圖數(shù)據(jù),其中:N為心電圖數(shù)據(jù)集樣本總數(shù);C為通道數(shù);L為單個樣本單導(dǎo)聯(lián)的時序信號值長度。

    PTB-XL 數(shù)據(jù)集針對診斷類標(biāo)簽給出了超類-子類-具體類的層次結(jié)構(gòu),其中超類包含NORM(正常心電圖)、CD(傳導(dǎo)干擾)、MI(心肌梗塞)、HYP(肥大)、STTC(ST/T 段改變)。本文針對樣本的診斷類標(biāo)簽具體類別進行多標(biāo)簽分類,將所研究問題轉(zhuǎn)化為一個44 類多標(biāo)簽分類問題,表1 給出了其中4 個樣例類的詳細(xì)說明,包括該類標(biāo)簽名、該類標(biāo)簽的詳細(xì)描述、其在數(shù)據(jù)集中的樣本數(shù)以及所屬超類。

    表1 樣例類詳細(xì)說明Table 1 Sample class details

    本文采用PTB-XL 數(shù)據(jù)集推薦的訓(xùn)練集和測試集進行實驗。其中訓(xùn)練集數(shù)據(jù)為19 267 條,測試集數(shù)據(jù)2 163 條,推薦的測試集數(shù)據(jù)擁有高質(zhì)量的標(biāo)簽且數(shù)據(jù)分布與訓(xùn)練集數(shù)據(jù)類似。

    3.2 實驗環(huán)境

    設(shè)備:CPU 使用的 是4 核32 GB 內(nèi)存,GPU 使用Tesla-V100-SXM-32 GB×1。環(huán)境:Pytorch1.7.1+cuda10.0。

    3.3 對比模型

    本文分別基于下列基準(zhǔn)模型進行實驗對比:

    1)ResNet18[23]:ReseNet18 是一個18 層的殘差結(jié)構(gòu)CNN,在本實驗中使用一維卷積代替二維卷積,對ResNet18 進行了微調(diào)。

    2)ResNet101[23]:ResNet101 是一個101 層的殘差結(jié)構(gòu)深度CNN,對原網(wǎng)絡(luò)結(jié)構(gòu)使用一維卷積進行微調(diào)。

    3)Multi-ECGNet[8]:以殘差神經(jīng)網(wǎng)絡(luò)為基礎(chǔ),結(jié)合深度可分離卷積、SE 模塊構(gòu)建殘差塊的CNN 網(wǎng)絡(luò)。

    4)XceptionNet[24]:XceptionNet 是以Inception V3為基礎(chǔ),使用深度可分離卷積改進的CNN,使用一維卷積對原網(wǎng)絡(luò)結(jié)構(gòu)進行微調(diào)。

    5)InceptionNet[26]:InceptionNet 是由多個大小卷積核提取圖像不同尺度信息并進行融合的CNN。一維卷積進行微調(diào)。

    6)注意力機制CNN+線性分類層:使用本文設(shè)計的注意力機制CNN 網(wǎng)絡(luò)提取特征,并結(jié)合線性分類層完成分類的網(wǎng)絡(luò)。

    7)注意力機制CNN+非自適應(yīng)GCN:使用本文設(shè)計的注意力機制CNN 網(wǎng)絡(luò)提取特征,并結(jié)合非自適應(yīng)GCN 完成分類的網(wǎng)絡(luò)。

    3.4 評價指標(biāo)

    本文所針對的分類任務(wù)為多標(biāo)簽分類任務(wù),參考現(xiàn)有心電圖多標(biāo)簽分類研究所使用指標(biāo)[9,27],本文選擇宏平均受試者工作特征線下面積值(Area Under the Receiver Operating Characteristic Curve,AUROC)作為主評價指標(biāo)。另外,使用3 種常見的多標(biāo)簽分類評價指標(biāo)[28-29]作為副評價指標(biāo),包括標(biāo)簽集排序損失(Label Ranking Loss,RL)[30],最大概率預(yù)測標(biāo)簽錯誤率(OE)[31],全覆蓋偏差(Coverage Error,Cov)[28]。其中AUROC 值越高代表模型該指標(biāo)越好,RL、OE、Cov 值越低代表模型該指標(biāo)越好。

    3.5 實驗結(jié)果

    圖4所示為MLECG-AGCN模型各類別的AUROC值。如圖4 所示,MLECG-AGCN 模型在INJIL、3AVB等樣本數(shù)量較小的類別上均取得了大于0.99的AUROC值,在NORM、IMI 等樣本數(shù)量較大的類別上分別取得了0.946、0.935的AUROC值,這從側(cè)面驗證了本文所用損失函數(shù)的合理性。本文模型在LAO/LAE、IVCD 等個別類上表現(xiàn)不佳,這可能是由于該類樣本數(shù)量過少,或其在高頻心電圖中與其他疾病相似度過高等原因?qū)е?,但總體來說,MLECG-AGCN 模型在絕大多數(shù)類別的分類中表現(xiàn)較好。

    圖4 MLECG-AGCN 模型的各類別AUROC值Fig.4 AUROC value for each class of MLECG-AGCN model

    自適應(yīng)圖卷積網(wǎng)絡(luò)測試集上的AUROC 值及其他評價指標(biāo)值,以及訓(xùn)練集及測試集損失隨訓(xùn)練輪數(shù)變化如表2 所示。不同于CNN 模型的訓(xùn)練方式,自適應(yīng)圖卷積網(wǎng)絡(luò)在訓(xùn)練時,需要構(gòu)建原始圖,以原始圖為輸入進行訓(xùn)練。自適應(yīng)圖卷積網(wǎng)絡(luò)每一個epoch 只對模型進行一次更新,因此需要更多的迭代輪數(shù)以使loss收斂。本文設(shè)置epoch 為4 000 輪,由表2 可知,MLECGAGCN 模型在數(shù)據(jù)訓(xùn)練開始后快速收斂,且并未欠擬合或過擬合。在初始20~50 輪迭代中,AUROC 值從0.661 快速提升至0.684;經(jīng)500 輪迭代后,AUROC 值提升至0.870,在500 輪迭代前模型尚未穩(wěn)定,AUROC 值的提升較快。經(jīng)2 000輪迭代后,AUROC值達到0.934,已經(jīng)接近ResNet101 基準(zhǔn)模型的最高值。經(jīng)過4 000 輪迭代后,AUROC 值為0.941,訓(xùn)練中測試集AUROC 值最高值達到0.943,在這部分的迭代中,模型逐漸穩(wěn)定,AUROC 值緩慢提升。

    表2 自適應(yīng)圖卷積網(wǎng)絡(luò)的實驗結(jié)果Table 2 Experimental results of adaptive graph convolutional network

    表3 所示為不同模型在PTB-XL 數(shù)據(jù)集下,使用采樣頻率為500 Hz 心電圖數(shù)據(jù)進行對比實驗的結(jié)果,由表3 可知,ResNet101模型相較于ResNet18 模型的分類準(zhǔn)確率更高,AUROC 值提升了0.011。為了驗證深度可分離卷積模型的有效性及其效果,將XceptionNet 與IncetionNet 模型進行對比,發(fā)現(xiàn)前者的AUROC 值提高了0.053。此外,將本文設(shè)計的注意力機制CNN+線性分類層網(wǎng)絡(luò)與Multi-ECGNet 對比,結(jié)果發(fā)現(xiàn),結(jié)合了本文注意力機制和深度可分離卷積的注意力機制CNN 網(wǎng)絡(luò)取得了更好的結(jié)果,AUROC 值達到0.941,這驗證了本文設(shè)計的注意力機制CNN 在提高模型性能方面具有一定作用。MLECG-AGCN 模型與注意力機制CNN+非自適應(yīng)GCN 相比,使用自適應(yīng)GCN 的MLECG-AGCN 模型取得了更好的效果,這驗證了鄰接矩陣參數(shù)自適應(yīng)更新在一定程度上能提高模型性能。MLECGAGCN 模型與注意力機制CNN+線性分類層相比,AUROC 值提高0.002,達到最高的0.943,這說明MLECG-AGCN 模型中自適應(yīng)GCN 模塊對提高模型性能具有重要作用。

    表3 不同模型在PTB-XL 數(shù)據(jù)集(500 Hz)下的實驗結(jié)果對比Table 3 Comparison of experimental results of different models in PTB-XL dataset(500 Hz)

    為更全面地驗證MLECG-AGCN模型對不同類型心電圖數(shù)據(jù)的多標(biāo)簽分類能力,本文還使用PTB-XL數(shù)據(jù)集中采樣頻率為100 Hz的心電圖數(shù)據(jù)對各模型進行了對比實驗,結(jié)果如表4 所示。由表4 可知,MLECGAGCN模型取得了最高的AUROC值0.930,同時其他指標(biāo)值也略高于對比模型。實驗結(jié)果表明,MLECG-AGCN模型通過圖卷積網(wǎng)絡(luò)可以更有效地利用特征空間中的全局信息和鄰域信息,提高分類準(zhǔn)確率。

    表4 不同模型在PTB-XL 數(shù)據(jù)集(100 Hz)下的實驗結(jié)果對比Table 4 Comparison of experimental results of different models in PTB-XL dataset(100 Hz)

    綜合上述實驗結(jié)果,與Multi-ECGNet 模型[8],以及以ResNet18、ResNet101、Xception 等為代表 的基準(zhǔn)模型相比,MLECG-AGCN 模型取得了最高的主評價指標(biāo)值,達0.943 639。同時,本文提出的注意力機制CNN 結(jié)合線性分類層在Cov 評價指標(biāo)上取得了最高值,其他指標(biāo)值略低于MLECG-AGCN 模型,驗證了本文注意力機制的優(yōu)越性。

    4 結(jié)束語

    本文提出一種基于自適應(yīng)圖卷積網(wǎng)絡(luò)的心電圖多標(biāo)簽分類模型MLECG-AGCN,通過基于拉普拉斯濾波器設(shè)計的注意力機制CNN,增強對心電圖高頻信號的利用率,提高網(wǎng)絡(luò)的表征能力。使用自適應(yīng)圖卷積,有效利用全局信息和特征空間鄰域樣本信息進行樣本分類,提高分類準(zhǔn)確率。此外,本文設(shè)計并使用適用于多標(biāo)簽分類的損失計算方法和評價指標(biāo),從多標(biāo)簽角度考慮問題,從而高效利用高頻信號。實驗結(jié)果表明,注意力機制CNN 與自適應(yīng)圖卷積網(wǎng)絡(luò)的結(jié)合有效提升了心電圖分類精度,MLECG-AGCN 模型能適用于心電圖分類工作。下一步將使自適應(yīng)圖卷積網(wǎng)絡(luò)與CNN 網(wǎng)絡(luò)進行端到端結(jié)合,提高心電圖多標(biāo)簽分類準(zhǔn)確率。

    猜你喜歡
    注意力心電圖卷積
    動態(tài)心電圖與常規(guī)心電圖診斷冠心病的應(yīng)用
    讓注意力“飛”回來
    基于3D-Winograd的快速卷積算法設(shè)計及FPGA實現(xiàn)
    《思考心電圖之176》
    從濾波器理解卷積
    電子制作(2019年11期)2019-07-04 00:34:38
    基于傅里葉域卷積表示的目標(biāo)跟蹤算法
    “揚眼”APP:讓注意力“變現(xiàn)”
    傳媒評論(2017年3期)2017-06-13 09:18:10
    A Beautiful Way Of Looking At Things
    入職體檢者心電圖呈ST-T改變的意義
    一種基于卷積神經(jīng)網(wǎng)絡(luò)的性別識別方法
    欧美丝袜亚洲另类| av专区在线播放| 国模一区二区三区四区视频| 久久青草综合色| 天美传媒精品一区二区| 亚洲,一卡二卡三卡| 久久久久久久精品精品| 91aial.com中文字幕在线观看| 天堂中文最新版在线下载| 日韩欧美一区视频在线观看| 另类精品久久| 美女视频免费永久观看网站| 啦啦啦啦在线视频资源| 中文字幕制服av| 极品少妇高潮喷水抽搐| 欧美成人精品欧美一级黄| 老熟女久久久| av黄色大香蕉| 婷婷成人精品国产| 国产亚洲一区二区精品| 麻豆精品久久久久久蜜桃| 亚洲国产色片| 水蜜桃什么品种好| 一区在线观看完整版| 欧美 日韩 精品 国产| 日日啪夜夜爽| 丰满迷人的少妇在线观看| 久久久久精品久久久久真实原创| 亚洲精品久久久久久婷婷小说| 国产免费福利视频在线观看| 亚洲av日韩在线播放| 国产av精品麻豆| 性高湖久久久久久久久免费观看| 伦理电影大哥的女人| 国产精品一区二区在线观看99| 女人久久www免费人成看片| 在线观看一区二区三区激情| 久久久久久久国产电影| 国产成人免费无遮挡视频| 在线观看国产h片| 国产黄频视频在线观看| 午夜福利,免费看| 免费看不卡的av| 久久久久久久亚洲中文字幕| 中文字幕免费在线视频6| 狂野欧美激情性bbbbbb| 中文乱码字字幕精品一区二区三区| 大香蕉97超碰在线| 性色avwww在线观看| 九九久久精品国产亚洲av麻豆| 国产成人精品无人区| 亚洲在久久综合| 精品亚洲成a人片在线观看| 啦啦啦啦在线视频资源| 成年人午夜在线观看视频| 久久国产亚洲av麻豆专区| 精品久久久久久久久av| 大码成人一级视频| 久久久久精品久久久久真实原创| 3wmmmm亚洲av在线观看| a级毛片在线看网站| 肉色欧美久久久久久久蜜桃| 国产成人精品一,二区| 国产日韩欧美视频二区| 免费观看无遮挡的男女| 国产欧美另类精品又又久久亚洲欧美| 一级毛片 在线播放| 国产一区二区在线观看av| 69精品国产乱码久久久| 中文欧美无线码| 久久久午夜欧美精品| 一级毛片黄色毛片免费观看视频| 国产一区二区三区综合在线观看 | 国产男女内射视频| 少妇人妻 视频| 欧美精品一区二区大全| 色5月婷婷丁香| av在线app专区| 亚洲精品国产av蜜桃| 成人无遮挡网站| 热re99久久国产66热| 人妻人人澡人人爽人人| 久久99热这里只频精品6学生| 一级二级三级毛片免费看| 少妇猛男粗大的猛烈进出视频| 午夜免费鲁丝| 69精品国产乱码久久久| 日韩一本色道免费dvd| 国产精品一区二区在线观看99| 秋霞在线观看毛片| 亚洲国产av影院在线观看| 午夜福利,免费看| 免费黄色在线免费观看| 一本—道久久a久久精品蜜桃钙片| 亚洲,欧美,日韩| 韩国高清视频一区二区三区| av免费观看日本| 免费人成在线观看视频色| 青青草视频在线视频观看| 全区人妻精品视频| 91精品国产九色| av又黄又爽大尺度在线免费看| 在线精品无人区一区二区三| 人妻人人澡人人爽人人| 22中文网久久字幕| 大又大粗又爽又黄少妇毛片口| 日本-黄色视频高清免费观看| 中文字幕制服av| 丝袜美足系列| 亚洲综合色网址| 18在线观看网站| 亚洲在久久综合| 九九爱精品视频在线观看| 又黄又爽又刺激的免费视频.| 自线自在国产av| 国产日韩欧美视频二区| 国产视频内射| 热99国产精品久久久久久7| 国产精品久久久久久精品电影小说| 中文字幕最新亚洲高清| 少妇丰满av| 欧美精品人与动牲交sv欧美| 久久亚洲国产成人精品v| 亚洲av在线观看美女高潮| 婷婷成人精品国产| 国产无遮挡羞羞视频在线观看| 亚洲人与动物交配视频| 大香蕉97超碰在线| 亚洲高清免费不卡视频| 亚洲国产精品一区三区| 97在线视频观看| 亚洲怡红院男人天堂| 我的老师免费观看完整版| 久久精品国产亚洲av涩爱| 国产亚洲av片在线观看秒播厂| 欧美 日韩 精品 国产| 亚洲人成网站在线播| 欧美97在线视频| 赤兔流量卡办理| kizo精华| 国产欧美亚洲国产| 伦精品一区二区三区| 不卡视频在线观看欧美| tube8黄色片| 中文字幕久久专区| 乱码一卡2卡4卡精品| 蜜桃久久精品国产亚洲av| 热re99久久精品国产66热6| 国产深夜福利视频在线观看| 国产一区有黄有色的免费视频| 久久婷婷青草| 成人综合一区亚洲| 一级毛片aaaaaa免费看小| 成年人免费黄色播放视频| 国产精品一区二区在线观看99| 久久久午夜欧美精品| 各种免费的搞黄视频| 校园人妻丝袜中文字幕| 男女边吃奶边做爰视频| 国产熟女午夜一区二区三区 | 国产高清国产精品国产三级| 久久人人爽人人爽人人片va| 国产欧美另类精品又又久久亚洲欧美| 少妇丰满av| 欧美日韩视频精品一区| 制服诱惑二区| av有码第一页| 久久这里有精品视频免费| 久久狼人影院| 午夜免费观看性视频| 亚洲国产欧美日韩在线播放| 亚洲欧美中文字幕日韩二区| 日韩免费高清中文字幕av| 久久人人爽av亚洲精品天堂| 男女边吃奶边做爰视频| 国产男人的电影天堂91| 日韩成人av中文字幕在线观看| 欧美国产精品一级二级三级| 搡老乐熟女国产| 91精品国产国语对白视频| 大香蕉97超碰在线| 久久精品国产亚洲网站| 日本黄色片子视频| 亚洲人成网站在线播| 国产精品一二三区在线看| 日韩免费高清中文字幕av| 99久久精品国产国产毛片| 卡戴珊不雅视频在线播放| 午夜老司机福利剧场| 国产精品熟女久久久久浪| 伊人久久国产一区二区| 美女中出高潮动态图| 大又大粗又爽又黄少妇毛片口| 日韩一区二区视频免费看| 国产男女超爽视频在线观看| 我的老师免费观看完整版| 久久久久精品久久久久真实原创| 久久久久久久久大av| 成人黄色视频免费在线看| 亚洲精品,欧美精品| 亚洲av欧美aⅴ国产| 人人妻人人澡人人爽人人夜夜| 老司机影院毛片| 伊人久久精品亚洲午夜| 99国产综合亚洲精品| 91午夜精品亚洲一区二区三区| 亚洲欧美精品自产自拍| 久久久久久久久久久久大奶| 亚洲av国产av综合av卡| 国产成人免费观看mmmm| 国产精品一国产av| 欧美日韩精品成人综合77777| 国产av精品麻豆| 成人免费观看视频高清| 2022亚洲国产成人精品| 看非洲黑人一级黄片| 黑人欧美特级aaaaaa片| 一区二区三区免费毛片| 国产精品一区www在线观看| 嘟嘟电影网在线观看| 久久精品国产a三级三级三级| 日日啪夜夜爽| 久久精品久久久久久久性| 久久99热6这里只有精品| 51国产日韩欧美| 欧美xxxx性猛交bbbb| 久久久精品区二区三区| 中文字幕制服av| 国产在线一区二区三区精| 热99久久久久精品小说推荐| 日韩,欧美,国产一区二区三区| 夜夜看夜夜爽夜夜摸| 亚洲激情五月婷婷啪啪| 大香蕉久久成人网| 国产精品 国内视频| 男的添女的下面高潮视频| 国产成人精品无人区| 人体艺术视频欧美日本| 一级,二级,三级黄色视频| 最新中文字幕久久久久| 狂野欧美激情性xxxx在线观看| 99九九线精品视频在线观看视频| 春色校园在线视频观看| 天堂俺去俺来也www色官网| 欧美一级a爱片免费观看看| 一个人看视频在线观看www免费| 一区二区日韩欧美中文字幕 | av免费在线看不卡| 精品国产一区二区久久| 69精品国产乱码久久久| 国产男人的电影天堂91| 日日爽夜夜爽网站| 一边摸一边做爽爽视频免费| 乱码一卡2卡4卡精品| 亚洲久久久国产精品| 午夜福利在线观看免费完整高清在| 国产黄色免费在线视频| 又粗又硬又长又爽又黄的视频| 日本爱情动作片www.在线观看| 日韩成人av中文字幕在线观看| 丰满乱子伦码专区| 91久久精品国产一区二区三区| 自拍欧美九色日韩亚洲蝌蚪91| av在线播放精品| 嫩草影院入口| 老司机影院成人| 国产精品久久久久成人av| 亚洲成人一二三区av| 另类亚洲欧美激情| 亚洲av二区三区四区| 亚洲精品,欧美精品| 日韩制服骚丝袜av| 视频中文字幕在线观看| 青青草视频在线视频观看| 黄片播放在线免费| 久久韩国三级中文字幕| 五月天丁香电影| 亚洲色图综合在线观看| 久久人人爽av亚洲精品天堂| av在线播放精品| 午夜激情福利司机影院| 一级黄片播放器| 亚洲少妇的诱惑av| 国产一区有黄有色的免费视频| av在线app专区| 91精品一卡2卡3卡4卡| 边亲边吃奶的免费视频| 黄片无遮挡物在线观看| 婷婷色综合大香蕉| 久久精品久久久久久噜噜老黄| 久久久久精品久久久久真实原创| 大码成人一级视频| 观看美女的网站| 国产精品熟女久久久久浪| tube8黄色片| 日韩精品免费视频一区二区三区 | 视频中文字幕在线观看| 久久人人爽av亚洲精品天堂| 免费观看无遮挡的男女| 美女福利国产在线| 少妇猛男粗大的猛烈进出视频| a 毛片基地| 99热全是精品| 精品亚洲成a人片在线观看| 日日啪夜夜爽| 国产探花极品一区二区| 纵有疾风起免费观看全集完整版| 国产一区亚洲一区在线观看| 免费大片18禁| 在线 av 中文字幕| 高清在线视频一区二区三区| 一级毛片aaaaaa免费看小| 亚洲精品一二三| 欧美日韩视频精品一区| 国产成人精品在线电影| 你懂的网址亚洲精品在线观看| 日本黄色日本黄色录像| 亚洲中文av在线| 午夜福利网站1000一区二区三区| 午夜av观看不卡| 日韩av免费高清视频| 春色校园在线视频观看| 纯流量卡能插随身wifi吗| 亚洲不卡免费看| 国产日韩欧美在线精品| 日韩一区二区视频免费看| 99国产精品免费福利视频| 国产一区二区三区综合在线观看 | 国产亚洲精品第一综合不卡 | 曰老女人黄片| 精品亚洲成a人片在线观看| 久久久久国产网址| 只有这里有精品99| 黑人高潮一二区| 男人爽女人下面视频在线观看| 曰老女人黄片| 久久久久久久大尺度免费视频| av线在线观看网站| 国产毛片在线视频| 91国产中文字幕| 免费久久久久久久精品成人欧美视频 | 国产视频首页在线观看| 日韩免费高清中文字幕av| 如何舔出高潮| 乱码一卡2卡4卡精品| 国产一区二区三区综合在线观看 | 国产一级毛片在线| 涩涩av久久男人的天堂| 日韩电影二区| 亚洲在久久综合| 大话2 男鬼变身卡| 视频区图区小说| 国产综合精华液| 精品少妇内射三级| 黄色欧美视频在线观看| 久久人妻熟女aⅴ| 我的女老师完整版在线观看| 国产成人免费无遮挡视频| 亚洲精品国产av蜜桃| 日日摸夜夜添夜夜添av毛片| 插逼视频在线观看| 午夜日本视频在线| 18禁裸乳无遮挡动漫免费视频| 国产精品女同一区二区软件| 日日摸夜夜添夜夜爱| 另类精品久久| 久久婷婷青草| 波野结衣二区三区在线| 精品久久久久久久久亚洲| 黑人猛操日本美女一级片| 国产老妇伦熟女老妇高清| 免费黄频网站在线观看国产| 成人亚洲欧美一区二区av| 日本wwww免费看| 综合色丁香网| 亚洲精品第二区| 精品亚洲乱码少妇综合久久| 两个人免费观看高清视频| 肉色欧美久久久久久久蜜桃| 欧美人与性动交α欧美精品济南到 | 蜜桃国产av成人99| 日本欧美视频一区| 免费观看av网站的网址| 最新中文字幕久久久久| 美女xxoo啪啪120秒动态图| 亚洲高清免费不卡视频| 久久精品国产鲁丝片午夜精品| 国产伦理片在线播放av一区| 国产成人精品无人区| 国产国语露脸激情在线看| 男女国产视频网站| 最后的刺客免费高清国语| 精品人妻熟女av久视频| 久久久久久人妻| 成年人免费黄色播放视频| 日韩一本色道免费dvd| 丰满迷人的少妇在线观看| 美女国产高潮福利片在线看| 男人添女人高潮全过程视频| 亚洲av日韩在线播放| a级毛片免费高清观看在线播放| 亚洲精品日本国产第一区| 久久国产精品男人的天堂亚洲 | 久久精品久久久久久久性| 久久人人爽人人片av| 成人亚洲精品一区在线观看| 国产精品偷伦视频观看了| 日韩中文字幕视频在线看片| 我要看黄色一级片免费的| 特大巨黑吊av在线直播| 国产精品.久久久| 精品久久久久久久久亚洲| 在线观看美女被高潮喷水网站| 亚洲精品日本国产第一区| 欧美激情国产日韩精品一区| 黄片无遮挡物在线观看| 少妇的逼好多水| 色吧在线观看| 欧美少妇被猛烈插入视频| 精品亚洲乱码少妇综合久久| 日韩精品免费视频一区二区三区 | 免费黄频网站在线观看国产| 成人亚洲精品一区在线观看| 男的添女的下面高潮视频| xxxhd国产人妻xxx| 午夜精品国产一区二区电影| 久久亚洲国产成人精品v| 永久网站在线| 日本vs欧美在线观看视频| 久久精品久久精品一区二区三区| 熟妇人妻不卡中文字幕| 人妻一区二区av| 这个男人来自地球电影免费观看 | 亚洲综合精品二区| 十八禁高潮呻吟视频| 最近中文字幕2019免费版| 国产精品欧美亚洲77777| 在线亚洲精品国产二区图片欧美 | av播播在线观看一区| 久久99热这里只频精品6学生| 蜜桃久久精品国产亚洲av| 尾随美女入室| 国产熟女欧美一区二区| 多毛熟女@视频| 夜夜骑夜夜射夜夜干| 国产色爽女视频免费观看| 在线天堂最新版资源| 国产欧美日韩综合在线一区二区| 国产精品一国产av| 一二三四中文在线观看免费高清| 免费观看性生交大片5| 天堂中文最新版在线下载| 伦理电影免费视频| 婷婷色av中文字幕| 这个男人来自地球电影免费观看 | 日本色播在线视频| 大香蕉97超碰在线| 亚洲欧美成人精品一区二区| 我的女老师完整版在线观看| 99久久精品国产国产毛片| 99re6热这里在线精品视频| 国产熟女午夜一区二区三区 | 日日摸夜夜添夜夜添av毛片| 国产成人精品婷婷| 欧美丝袜亚洲另类| 久久精品人人爽人人爽视色| 久久99热这里只频精品6学生| 欧美成人精品欧美一级黄| 交换朋友夫妻互换小说| 午夜91福利影院| 久久久欧美国产精品| 亚洲怡红院男人天堂| a级毛色黄片| 99精国产麻豆久久婷婷| 国产男人的电影天堂91| 性色av一级| 国产高清不卡午夜福利| 一级a做视频免费观看| 久久精品国产亚洲网站| 久久99一区二区三区| 国产精品欧美亚洲77777| 亚洲五月色婷婷综合| 亚洲,欧美,日韩| 搡老乐熟女国产| 国产亚洲精品第一综合不卡 | 妹子高潮喷水视频| 国产免费现黄频在线看| 久久久久人妻精品一区果冻| 亚洲图色成人| 男人操女人黄网站| 性色avwww在线观看| 国产伦理片在线播放av一区| 激情五月婷婷亚洲| 丝瓜视频免费看黄片| 久久国产精品大桥未久av| 在线精品无人区一区二区三| 色哟哟·www| 日韩电影二区| 色视频在线一区二区三区| 久久婷婷青草| 精品久久国产蜜桃| 97在线人人人人妻| 九九久久精品国产亚洲av麻豆| a 毛片基地| 国产高清不卡午夜福利| 好男人视频免费观看在线| 亚洲无线观看免费| 亚洲国产精品一区三区| 久久狼人影院| 最黄视频免费看| 婷婷成人精品国产| 日韩av不卡免费在线播放| 成年人午夜在线观看视频| 免费av不卡在线播放| 亚洲欧美日韩卡通动漫| 免费看不卡的av| 黑人猛操日本美女一级片| 国产日韩欧美亚洲二区| 亚洲怡红院男人天堂| 三级国产精品片| 2022亚洲国产成人精品| 精品一区二区三区视频在线| 寂寞人妻少妇视频99o| 男男h啪啪无遮挡| av有码第一页| 亚洲第一区二区三区不卡| 91精品国产国语对白视频| 18+在线观看网站| 日韩制服骚丝袜av| 国产一级毛片在线| 插逼视频在线观看| 日本爱情动作片www.在线观看| 国产淫语在线视频| 久久久精品94久久精品| 熟妇人妻不卡中文字幕| 九九久久精品国产亚洲av麻豆| 在现免费观看毛片| 成人毛片a级毛片在线播放| 老司机亚洲免费影院| 五月开心婷婷网| a级毛片黄视频| 男女边摸边吃奶| 三上悠亚av全集在线观看| 少妇人妻 视频| 国产淫语在线视频| 久久ye,这里只有精品| 欧美最新免费一区二区三区| 丝袜美足系列| 满18在线观看网站| 亚洲精品中文字幕在线视频| 国产极品粉嫩免费观看在线 | 99精国产麻豆久久婷婷| 免费黄色在线免费观看| 国产精品偷伦视频观看了| 国产亚洲精品第一综合不卡 | 校园人妻丝袜中文字幕| 日本-黄色视频高清免费观看| 国内精品宾馆在线| 亚洲精品日韩在线中文字幕| 免费黄网站久久成人精品| 七月丁香在线播放| h视频一区二区三区| 大码成人一级视频| 精品视频人人做人人爽| 日韩av不卡免费在线播放| 18禁观看日本| 国产 一区精品| 女性被躁到高潮视频| 国产男女超爽视频在线观看| 久久韩国三级中文字幕| 九草在线视频观看| 一级毛片我不卡| 一级毛片黄色毛片免费观看视频| 亚洲婷婷狠狠爱综合网| 九草在线视频观看| 久久影院123| 人妻 亚洲 视频| 多毛熟女@视频| 久久久久久久久久成人| 成人漫画全彩无遮挡| 在线观看一区二区三区激情| 一本色道久久久久久精品综合| 麻豆精品久久久久久蜜桃| 亚洲精品自拍成人| 热99国产精品久久久久久7| 国产熟女欧美一区二区| 亚洲四区av| 日本免费在线观看一区| 老司机亚洲免费影院| 肉色欧美久久久久久久蜜桃| 日本爱情动作片www.在线观看| 国产精品不卡视频一区二区| 欧美少妇被猛烈插入视频| 国产色婷婷99| 欧美国产精品一级二级三级| 大又大粗又爽又黄少妇毛片口| 爱豆传媒免费全集在线观看| 国产乱人偷精品视频| 亚洲欧美成人综合另类久久久| 涩涩av久久男人的天堂| 色婷婷av一区二区三区视频| 亚洲第一av免费看| 亚洲精品乱久久久久久| 欧美xxxx性猛交bbbb| 国产精品秋霞免费鲁丝片| 亚洲欧美色中文字幕在线| 亚洲色图综合在线观看| 日韩av不卡免费在线播放| 久热久热在线精品观看| 欧美少妇被猛烈插入视频| www.av在线官网国产| 亚洲人与动物交配视频| 日韩中字成人| 精品一区二区三卡| 少妇猛男粗大的猛烈进出视频|