• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于聯(lián)邦學(xué)習(xí)的下肢康復(fù)評估算法與實現(xiàn)

    2023-09-13 03:07:50梁朝暉朱笑笑曹其新馬燕紅徐義明
    計算機工程與設(shè)計 2023年8期
    關(guān)鍵詞:康復(fù)模型

    梁朝暉,朱笑笑+,曹其新,馬燕紅,徐義明

    (1.上海交通大學(xué) 機械與動力工程學(xué)院,上海 200240;2.上海交通大學(xué)附屬第六人民醫(yī)院 康復(fù)醫(yī)學(xué)科,上海 200233)

    0 引 言

    由于涉及到病人隱私與信息安全等問題,目前在康復(fù)醫(yī)療領(lǐng)域中不同醫(yī)療機構(gòu)所采集的患者數(shù)據(jù)無法互通,導(dǎo)致難以訓(xùn)練出一個泛用性強、準(zhǔn)確度高的神經(jīng)網(wǎng)絡(luò)模型。針對這一問題,聯(lián)邦學(xué)習(xí)提供了解決思路。聯(lián)邦學(xué)習(xí)是一種在各客戶端節(jié)點上進(jìn)行分布式訓(xùn)練,再在服務(wù)器端對全局模型進(jìn)行整合更新的機器學(xué)習(xí)框架。聯(lián)邦學(xué)習(xí)期間,所有本地數(shù)據(jù)都保存在所屬機構(gòu)內(nèi)部而無需對外開放,從而實現(xiàn)數(shù)據(jù)隱私保護(hù)。可見,將聯(lián)邦學(xué)習(xí)技術(shù)應(yīng)用于康復(fù)領(lǐng)域有助于打破不同機構(gòu)之間的數(shù)據(jù)孤島狀態(tài),通過多方協(xié)同訓(xùn)練出泛用性強、準(zhǔn)確度高的下肢康復(fù)評估模型。

    由此,本文提出一種基于聯(lián)邦學(xué)習(xí)的下肢康復(fù)評估算法,搭建聯(lián)邦學(xué)習(xí)系統(tǒng)并設(shè)計GRU-Inception康復(fù)評估神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,實現(xiàn)下肢損傷部位分類及康復(fù)情況評分任務(wù)。

    1 相關(guān)工作

    隨著計算機技術(shù)發(fā)展,已有國內(nèi)外學(xué)者利用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行康復(fù)評估。閆航等[1]提出Pose-AMGRU模型,利用攝像系統(tǒng)采集到的視頻信息提取人體姿態(tài),實現(xiàn)康復(fù)動作識別。羅堅等[2]通過深度傳感器采集得到的點云數(shù)據(jù),結(jié)合人體特征語義,設(shè)計一種Conv GRU網(wǎng)絡(luò)實現(xiàn)下肢異常步態(tài)檢測。王金甲等[3]利用可穿戴設(shè)備采集患者下肢運動數(shù)據(jù),并設(shè)計相應(yīng)的卷積神經(jīng)網(wǎng)絡(luò),實現(xiàn)對帕金森癥患者的凍結(jié)特征識別任務(wù)。

    上面的研究中可以看出,在利用傳感器采集到足夠的康復(fù)數(shù)據(jù)后,康復(fù)評估算法的研究多集中于神經(jīng)網(wǎng)絡(luò)模型的設(shè)計以及實現(xiàn)上。然而由于醫(yī)療機構(gòu)之間數(shù)據(jù)不互通,這些方法往往難以在實際的醫(yī)療領(lǐng)域應(yīng)用當(dāng)中取得滿意效果。針對患者與醫(yī)療機構(gòu)的數(shù)據(jù)隱私問題,目前已有國內(nèi)外學(xué)者將聯(lián)邦學(xué)習(xí)[4]應(yīng)用在醫(yī)療領(lǐng)域中,展開相關(guān)研究工作。Lee J等[5]利用聯(lián)邦學(xué)習(xí)平臺,在不共享患者信息情況下實現(xiàn)跨機構(gòu)的患者相似性學(xué)習(xí)。Liu D等[6]開發(fā)一種兩階段聯(lián)邦學(xué)習(xí)方法,對跨機構(gòu)病例進(jìn)行患者表征學(xué)習(xí)。王生生等[7,8]在聯(lián)邦學(xué)習(xí)框架下完成了醫(yī)學(xué)影像檢測及分割等任務(wù)。

    針對上面研究中康復(fù)評估神經(jīng)網(wǎng)絡(luò)模型所存在的數(shù)據(jù)安全問題,結(jié)合聯(lián)邦學(xué)習(xí)的隱私保護(hù)訓(xùn)練機制,本文所提出的基于聯(lián)邦學(xué)習(xí)的下肢康復(fù)評估算法能在本地數(shù)據(jù)不外泄的情況下高效完成模型訓(xùn)練,并取得較好的損傷分類以及評分結(jié)果,有助于提升模型在實際康復(fù)醫(yī)療場景下的表現(xiàn)。

    2 算法設(shè)計與實現(xiàn)

    2.1 整體系統(tǒng)框架

    本文采用客戶端-服務(wù)器架構(gòu)來搭建聯(lián)邦學(xué)習(xí)系統(tǒng),其整體框架如圖1所示。每個客戶端節(jié)點代表一個醫(yī)療機構(gòu)接入到聯(lián)邦學(xué)習(xí)系統(tǒng)內(nèi)。服務(wù)器作為聯(lián)邦學(xué)習(xí)的核心節(jié)點,與各個客戶端節(jié)點構(gòu)成雙向通訊鏈路。服務(wù)器部署在可信的第三方云平臺上。聯(lián)邦學(xué)習(xí)的模型訓(xùn)練過程分為初始化、客戶端選擇、模型廣播、本地訓(xùn)練、全局更新等階段。

    圖1 聯(lián)邦學(xué)習(xí)整體框架

    訓(xùn)練開始前,服務(wù)器首先進(jìn)行初始化,設(shè)定聯(lián)邦學(xué)習(xí)參數(shù)。為提高通訊效率,每一輪訓(xùn)練開始前需要進(jìn)行客戶端選擇,選中的客戶端可參與本輪訓(xùn)練。選擇完成后,服務(wù)器向選中客戶端廣播發(fā)送上一輪全局模型。各客戶端將該模型作為初始值,利用本地數(shù)據(jù)及resSGD優(yōu)化器對其進(jìn)行訓(xùn)練。模型更新值需經(jīng)量化編碼壓縮后才上傳服務(wù)器,減輕通訊負(fù)擔(dān)。最后服務(wù)器端基于高斯差分隱私機制對模型更新值進(jìn)行聚合來實現(xiàn)全局更新,得到本輪全局模型。至此一輪訓(xùn)練完成,當(dāng)達(dá)到設(shè)定訓(xùn)練輪數(shù)或觸發(fā)其它終止條件后聯(lián)邦學(xué)習(xí)結(jié)束。

    針對下肢康復(fù)評估問題,本文設(shè)計了GRU-Inception網(wǎng)絡(luò)模型來實現(xiàn)下肢損傷分類與評分。該模型利用GRU提取輸入的時序關(guān)節(jié)角度數(shù)據(jù)特征,并采用多個Inception模塊級聯(lián)而成的分類器處理得到受測者下肢損傷部位分類結(jié)果以及康復(fù)評分結(jié)果。通過建立聯(lián)邦學(xué)習(xí)系統(tǒng)并對所設(shè)計的GRU-Inception網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,本文所提出的基于聯(lián)邦學(xué)習(xí)的下肢康復(fù)評估算法有助于打破醫(yī)療機構(gòu)間的數(shù)據(jù)壁壘,在保護(hù)數(shù)據(jù)隱私的基礎(chǔ)上通過跨機構(gòu)多方協(xié)同訓(xùn)練來提升模型效果。

    2.2 客戶端節(jié)點選擇機制

    在聯(lián)邦學(xué)習(xí)系統(tǒng)當(dāng)中,模型訓(xùn)練過程被分布到大量客戶端節(jié)點上。每個通訊輪次中,上行(客戶端→服務(wù)器)和下行(服務(wù)器→客戶端)傳輸都需要占用大量網(wǎng)絡(luò)帶寬及傳輸時間。在保證模型訓(xùn)練效果基礎(chǔ)上,本系統(tǒng)利用客戶端節(jié)點選擇機制來減少每輪參與訓(xùn)練客戶端節(jié)點數(shù)目,提高聯(lián)邦學(xué)習(xí)效率。該機制綜合考慮各客戶端節(jié)點網(wǎng)絡(luò)連接情況、新增患者數(shù)據(jù)量以及上次參與訓(xùn)練間隔時間等因素,計算出本輪參與訓(xùn)練的客戶端節(jié)點列表。其中網(wǎng)絡(luò)條件好,數(shù)據(jù)量多,訓(xùn)練間隔時間長的節(jié)點更有可能納入本輪訓(xùn)練節(jié)點列表中。算法具體流程如下:

    算法:客戶端選擇

    輸入:節(jié)點隊列d1,d2, 參與訓(xùn)練客戶端數(shù)K, 評分權(quán)重w1,w2, 本輪輪次t;

    輸出:參與訓(xùn)練客戶端節(jié)點列表list;

    步驟1 初始化,若t=1, 將所有節(jié)點加入d1。

    步驟2 下標(biāo)i為隊列編號,當(dāng)tmodi=0, 則服務(wù)器向隊列di里的節(jié)點發(fā)送請求,列入候選。

    步驟3 若某節(jié)點限定時間內(nèi)無反饋,則將其移動到d2。 其它節(jié)點加入d1并計算其得分

    scorek=w1×numk+w2×interk

    (1)

    其中,下標(biāo)k代表該節(jié)點的編號;numk為該節(jié)點新增數(shù)據(jù)量;interk為該節(jié)點距離上次參與訓(xùn)練的輪次間隔。

    步驟4 將得分top-K的節(jié)點加入本輪參與訓(xùn)練的客戶端節(jié)點列表list。

    2.3 本地訓(xùn)練與模型壓縮

    參與訓(xùn)練的客戶端節(jié)點列表通過選擇機制產(chǎn)生后,服務(wù)器將上一輪的全局模型廣播發(fā)送給各個選中客戶端節(jié)點??蛻舳斯?jié)點接收全局模型,并利用本地數(shù)據(jù)以及resSGD優(yōu)化器進(jìn)行訓(xùn)練。在第t+1輪,客戶端節(jié)點本地訓(xùn)練步驟如下:

    算法:本地訓(xùn)練

    輸入:上輪全局模型Wtg; 學(xué)習(xí)率lr; 本地訓(xùn)練迭代次數(shù)epoch; 限制項參數(shù)μ;

    輸出:局部模型參數(shù)更新ΔWt+1k, 其中上標(biāo)t+1代表聯(lián)邦學(xué)習(xí)輪次,下標(biāo)k表示客戶端節(jié)點編號,k∈[1,K];

    步驟1 初始化局部模型參數(shù)W0k=Wtg。

    步驟2 設(shè)定學(xué)習(xí)率lr, 迭代次數(shù)epoch, 輸入批大小bs, 設(shè)定均方誤差函數(shù)MSELoss。

    步驟3 設(shè)定自定義優(yōu)化器resSGD,其更新方法為

    Updres=μ(We-1k-W0k)

    (2)

    Wek=We-1k-lr(grad+Updres),e∈[1,epoch]

    (3)

    其中,上標(biāo)e為客戶端迭代次數(shù),Updres為限制項,grad為本次迭代訓(xùn)練的梯度。

    步驟4 進(jìn)行本地訓(xùn)練,直至預(yù)設(shè)迭代次數(shù)epoch后訓(xùn)練結(jié)束,返回局部模型參數(shù)更新

    ΔWt+1k=Wepochk-W0k

    (4)

    下肢康復(fù)評估任務(wù)既包括損傷部位的多標(biāo)簽分類問題,也涉及到評估分值的回歸問題。而本地訓(xùn)練中所采用的均方誤差損失函數(shù)能對各類別的預(yù)測概率與真值進(jìn)行對比,符合下肢康復(fù)評估模型任務(wù)要求。在resSGD優(yōu)化器中,加入如式所示(2)的限制項,其目的是使本地訓(xùn)練更新后的局部模型和全局模型之間不至于相差過大,防止客戶端節(jié)點數(shù)據(jù)異構(gòu)和系統(tǒng)異構(gòu)導(dǎo)致模型發(fā)散問題,保證局部模型和全局模型的收斂一致性[9]。

    當(dāng)模型文件較大時,如果直接將本地訓(xùn)練后的局部模型更新值上傳服務(wù)器,可能會導(dǎo)致網(wǎng)絡(luò)帶寬受限的客戶端節(jié)點占用過多通訊時間,影響模型聚合更新進(jìn)程。作為一個折中方案,本系統(tǒng)利用量化編碼壓縮算法,犧牲一定精度來對局部模型更新參數(shù)進(jìn)行壓縮。量化編碼壓縮算法分為兩步:隨機正交變換以及量化編碼,其流程如下:

    算法:模型壓縮

    輸入:局部模型參數(shù)更新ΔWt+1k∈p×q, 且k∈[1,K];t+1為本輪訓(xùn)練輪次;K為本輪參與訓(xùn)練的客戶端數(shù);

    輸出:壓縮模型更新參數(shù)ht+1k∈1×pq; 隨機種子seedt+1k; 最大值及最小值hmint+1k,hmaxt+1k;

    步驟1 將局部模型更新參數(shù)展開成向量

    Hk=flatten(ΔWt+1k)

    (5)

    步驟2 生成隨機種子

    seedt+1k=rand()

    (6)

    步驟3 通過QR分解隨機矩陣,獲取隨機正交矩陣

    mk=randmatrix((pq,pq),seed)

    (7)

    Qk,Rk=QR(mk)

    (8)

    步驟4 向量隨機正交變換

    h*k=Qk×Hk

    (9)

    步驟5 向量各個分量進(jìn)行量化,最終得到ht+1k

    hmint+1k=min(h*k),hmaxt+1k=max(h*k)

    (10)

    ht+1k[i]=int(65535(h*k[i]-hmint+1k)hmaxt+1k-hmint+1k)-32768

    (11)

    式(9)中的隨機正交變換步驟目的是使變換后的向量在各維度上的尺度較為一致,減少量化編碼帶來的損失。Suresh等[10]的研究表明,如果在量化之前對向量應(yīng)用隨機旋轉(zhuǎn)(用隨機正交矩陣乘以待量化的向量),可使量化誤差降低一定比例。原始模型更新參數(shù)數(shù)據(jù)類型為32位浮點數(shù),通過量化步驟將其映射到-32 768~32 767范圍內(nèi)的整數(shù)區(qū)間當(dāng)中,即可使用16位整型數(shù)來表示。后續(xù)通過尺度因子以及壓縮后的整型向量,可對原始浮點數(shù)向量進(jìn)行還原恢復(fù)。量化編碼方法以犧牲一定精度為代價可獲取較好的壓縮效果,將待傳輸?shù)哪P臀募笮〗禐?0%,從而大大減輕服務(wù)器與客戶端節(jié)點之間的傳輸壓力,加速聯(lián)邦學(xué)習(xí)進(jìn)程。

    2.4 高斯差分隱私全局更新

    在服務(wù)器節(jié)點獲取到客戶端節(jié)點所上傳的局部模型更新后,需要利用全局更新算法計算出一個全局模型,完成本輪次的訓(xùn)練。本系統(tǒng)已在客戶端本地訓(xùn)練的resSGD優(yōu)化器中引入限制項,從而保證局部模型和全局模型的收斂性,因此在全局更新階段采用聯(lián)邦平均算法[11]即可獲得較好效果。然而若服務(wù)器遭遇數(shù)據(jù)攻擊,第三方可能從局部模型參數(shù)更新中推斷出客戶端節(jié)點的訓(xùn)練貢獻(xiàn),甚至存在原始數(shù)據(jù)泄漏的風(fēng)險。為解決這一問題,本系統(tǒng)在聯(lián)邦平均算法基礎(chǔ)上引入高斯差分隱私機制來保護(hù)數(shù)據(jù)安全,并在計算過程中進(jìn)行因子縮放來對噪聲進(jìn)行限制,保證模型可用性。

    差分隱私主要技術(shù)手段是往原始數(shù)據(jù)中添加一定的噪聲實現(xiàn)混淆,確保其滿足隱私要求。在差分隱私技術(shù)中,利用高斯噪聲實現(xiàn)ε-δ差分隱私的方法被稱為高斯機制。給定隱私算法M,其定義域為D,值域為R。當(dāng)算法M對任意兩個數(shù)據(jù)t,t′∈D得到結(jié)果t*∈R時,若滿足下面不等式,則算法M滿足ε-δ差分隱私

    Pr[M(t)=t*]≤eε×Pr[M(t′)=t*]+δ

    (12)

    其中,Pr為概率分布函數(shù);ε為隱私預(yù)算,和噪聲呈負(fù)相關(guān)關(guān)系,和數(shù)據(jù)可用性成正相關(guān)關(guān)系;δ為松弛項,表示系統(tǒng)對差分隱私失效的容忍度。

    σ=Δ2f2ln(1.25/δ)ε

    (13)

    M(D)=f(D)+N(0,σ2)

    (14)

    其中,Δ2f是函數(shù)f在L2范數(shù)下的敏感度,函數(shù)N(0,σ2) 生成均值為0方差為σ2的隨機高斯噪聲。綜合上述高斯差分隱私機制及聯(lián)邦平均算法,本系統(tǒng)中服務(wù)器節(jié)點全局更新算法流程如下:

    算法:高斯差分隱私全局更新

    輸入:壓縮模型更新參數(shù)ht+1k; 隨機種子seedt+1k; 最大值及最小值hmint+1k,hmaxt+1k; 噪聲閾值th; 隱私預(yù)算ε; 容忍度δ; 最大通訊輪數(shù)U; 上一輪全局模型Wtg;

    輸出:本輪全局模型Wt+1g, 其中上標(biāo)t+1代表聯(lián)邦學(xué)習(xí)輪次;

    步驟1 將壓縮模型更新參數(shù)進(jìn)行反量化

    h*k[i]=hmaxt+1k-hmint+1k65535(ht+1k[i]+32768)+hmint+1k

    (15)

    其中,i∈[1,pq] 代表向量各分量

    步驟2 根據(jù)隨機種子生成正交矩陣進(jìn)行反變換,并將參數(shù)向量還原為矩陣形式

    mk=randmatrix((pq,pq),seedt+1k)

    (16)

    Qk,Rk=QR(mk)

    (17)

    Hk=QTk×h*k

    (18)

    ΔWt+1k=unflatten(Hk)

    (19)

    步驟3 高斯噪聲計算

    將函數(shù)敏感度限制為各客戶端參數(shù)更新的L2范數(shù)中值,后續(xù)通過縮放來限制噪聲

    Δ2f=median(ΔWt+1k2),k∈[1,K]

    (20)

    根據(jù)式(13)計算高斯噪聲標(biāo)準(zhǔn)差σ,并為各客戶端計算縮放因子

    Sk=min(1,Δ2f/ΔWt+1k2)

    (21)

    步驟4 全局更新計算

    ΔWg=1K∑Kk=1(Sk×ΔWt+1k+N(0,σ2))

    (22)

    Wt+1g=Wtg+ΔWg

    (23)

    步驟5 計算噪聲強度并判斷是否繼續(xù)訓(xùn)練

    ps=(Wt+1g2)2pq,pn=σ2/K

    (24)

    snr=10*lg(ps/pn)

    (25)

    cond=(snr

    (26)

    其中,snr為本次全局更新的信噪比;cond為訓(xùn)練繼續(xù)條件,若為假則聯(lián)邦學(xué)習(xí)停止。

    2.5 GRU-Inception模型設(shè)計

    在進(jìn)行康復(fù)評估前,需要利用運動捕捉系統(tǒng)來采集受測者步行時的下肢運動參數(shù)??祻?fù)醫(yī)學(xué)上常用參數(shù)包括:左右側(cè)髖關(guān)節(jié)屈伸角、左右側(cè)膝關(guān)節(jié)屈伸角以及左右側(cè)踝關(guān)節(jié)屈伸角共計6個關(guān)節(jié)角度。完成數(shù)據(jù)采集后,在上海市第六人民醫(yī)院康復(fù)科醫(yī)生指導(dǎo)下確立如下康復(fù)評估任務(wù):第一,對下肢損傷部位進(jìn)行識別分類,包括正常、左右膝關(guān)節(jié)損傷、左右踝關(guān)節(jié)損傷共5個類別;第二,對康復(fù)程度進(jìn)行評分,分?jǐn)?shù)高說明康復(fù)情況良好。因此下肢康復(fù)評估可視為一個多分類及評分回歸問題,其輸入為6個關(guān)節(jié)角度200幀時間序列,輸出為5類關(guān)節(jié)損傷分類結(jié)果及對應(yīng)康復(fù)評分結(jié)果。

    針對以上問題,本文設(shè)計一種結(jié)合循環(huán)神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的時間序列多分類與評分模型,即GRU-Inception模型。該模型分為循環(huán)神經(jīng)網(wǎng)絡(luò)特征提取模塊以及卷積神經(jīng)網(wǎng)絡(luò)分類預(yù)測模塊,整體結(jié)構(gòu)如圖2所示。卷積神經(jīng)網(wǎng)絡(luò)分類預(yù)測模塊中的Inception單元,其結(jié)構(gòu)如圖3所示。

    圖2 GRU-Inception模型結(jié)構(gòu)

    圖3 Inception單元結(jié)構(gòu)

    GRU-Inception模型中采用GRU來實現(xiàn)特征提取模塊。GRU能有效捕捉時間序列當(dāng)中的依賴關(guān)系,提取時序特征。輸入數(shù)據(jù)張量形狀為 (B,V,S),B代表輸入批大小,V代表輸入變量維度,S代表輸入序列時間步數(shù)。GRU隱藏層尺寸為hs, 表示特征提取所得的狀態(tài)張量維數(shù)。經(jīng)特征提取模塊處理后,輸出狀態(tài)張量形狀為 (B,S,hs)。

    GRU-Inception模型中分類預(yù)測模塊由卷積神經(jīng)網(wǎng)絡(luò)InceptionTime[12]實現(xiàn)。如圖2所示,該模塊通過連接6個Inception單元組成,每隔3個單元引入殘差連接,防止深度增加導(dǎo)致模型退化及梯度消失。如圖3所示,每個Inception單元由3個并列卷積層及一個最大池化層拼接組成。

    最后,利用全連接層來整合輸出張量形狀,利用Softmax層進(jìn)行指數(shù)歸一化,形成獨熱編碼作為輸出結(jié)果。獨熱編碼one_hot這5個分量分別代表該樣本在5個類別上的預(yù)測概率,進(jìn)一步計算即可得到分類結(jié)果class_id及評分結(jié)果score

    class_id=argmax(one_hot)

    (27)

    score=one_hot[normal_id]one_hot[class_id]

    (28)

    其中,函數(shù)argmax用于找出獨熱編碼向量里最大值的索引編號。

    3 實驗驗證與結(jié)果分析

    3.1 下肢康復(fù)數(shù)據(jù)集

    本數(shù)據(jù)集在上海市第六人民醫(yī)院一線康復(fù)科醫(yī)生合作下進(jìn)行數(shù)據(jù)采集和標(biāo)注工作。本數(shù)據(jù)集利用Xsens可穿戴式動捕設(shè)備來進(jìn)行下肢運動數(shù)據(jù)捕捉,采集時分別將7個可穿戴傳感器佩戴在骨盆中央、左右側(cè)大腿股骨中段、左右側(cè)小腿脛骨中段以及左右側(cè)腳跟跟骨處。隨后進(jìn)行站姿標(biāo)定,確定傳感器與肢體相對位姿。接下來進(jìn)行數(shù)據(jù)記錄,受測者在平地上行走,采集得到關(guān)節(jié)角度步態(tài)數(shù)據(jù)。

    關(guān)節(jié)角度采集頻率為40 Hz,每幀采集得到左右髖關(guān)節(jié)屈伸、左右膝關(guān)節(jié)屈伸以及左右踝關(guān)節(jié)屈伸共計6個角度。后續(xù)處理中每隔5 s,即200幀數(shù)據(jù),劃分為一個樣本,并在醫(yī)生協(xié)助下進(jìn)行數(shù)據(jù)標(biāo)注工作。數(shù)據(jù)標(biāo)注工作分為分類和評分兩步,數(shù)據(jù)集共分為5個類別:正常N、右膝損傷RK、右踝損傷RA、左膝損傷LK、左踝損傷LA。根據(jù)受測者康復(fù)程度不同,評分分值范圍為0.6~1.0。最后計算得到該樣本1×5獨熱編碼來代表各類別概率。例如,獨熱編碼(0.45,0.55,0,0,0)代表其正常概率為0.45,右膝損傷概率為0.55,其它概率為0。因此該樣本分類結(jié)果為右膝損傷,評分為0.45/0.55=0.82。本數(shù)據(jù)集共有樣本1698份,均通過上文所述方法獲得,各類樣本數(shù)量與比例見表1。

    表1 下肢康復(fù)數(shù)據(jù)集

    3.2 實驗參數(shù)與環(huán)境

    本實驗基本設(shè)置如下:每輪訓(xùn)練客戶端迭代次數(shù)epoch=3; 批大小設(shè)置為B=64; 學(xué)習(xí)率設(shè)置為lr=0.01; 通訊輪數(shù)U=200; 優(yōu)化器限制項參數(shù)μ=0.1; 壓縮類型compression=int16。 對于高斯差分隱私機制相關(guān)的參數(shù),設(shè)置隱私預(yù)算ε=1; 容忍度δ=0.1; 噪聲閾值th=10。

    本實驗在Ubuntu 20.04系統(tǒng)上進(jìn)行;深度學(xué)習(xí)框架為Pytorch 1.9.1;編程環(huán)境為Python 3.7;CPU為英特爾Core i7-9750;GPU為英偉達(dá)GeForce RTX 2060;顯存為6 G;內(nèi)存為8 G。

    3.3 實驗與分析

    GRU-Inception模型在聯(lián)邦學(xué)習(xí)框架上進(jìn)行200輪訓(xùn)練后,在測試集上對其進(jìn)行驗證。如表2所示,本實驗按照5種類別進(jìn)行結(jié)果整理,其中Pre、Rec代表各類別分類精確率、召回率;TP代表各類別識別正確的樣本數(shù);FP代表其它類別誤識別為本類別的樣本數(shù);FN代表本類誤識別為其它類別的樣本數(shù),則

    Pre=TPTP+FP,Rec=TPTP+FN

    (29)

    表2 GRU-Inception模型聯(lián)邦學(xué)習(xí)分類結(jié)果

    對模型的整體表現(xiàn)進(jìn)行分析,在測試集上模型的總體準(zhǔn)確率為Acc=0.93。準(zhǔn)確率代表預(yù)測正確樣本數(shù)占測試集樣本總數(shù)的比值,即

    Acc=num(pred=gt)num(total)

    (30)

    采用均方根誤差對模型康復(fù)評分效果進(jìn)行分析,結(jié)果為RMSE=0.023。均方根誤差計算如下

    RMSE=∑mi=1(yi-xi)2/m

    (31)

    其中,y,x分別代表預(yù)測分值以及真值分值,下標(biāo)i代表樣本編號,m代表樣本數(shù)。

    除了對模型整體效果進(jìn)行實驗,本文對聯(lián)邦學(xué)習(xí)過程中各重要步驟分別進(jìn)行驗證。在本地訓(xùn)練過程中,resSGD優(yōu)化器在隨機梯度下降基礎(chǔ)上引入限制項,防止本地更新后的局部模型和全局模型相差過大導(dǎo)致模型發(fā)散。對帶限制項的resSGD優(yōu)化器效果進(jìn)行驗證,誤差曲線對比如圖4所示,帶限制項的resSGD優(yōu)化器為BASE,不帶限制項的SGD優(yōu)化器為NR(no restriction)。

    圖4 是否使用限制項優(yōu)化器對比

    由圖4可見,是否使用限制項優(yōu)化器其整體誤差曲線相似。但在訓(xùn)練開始及結(jié)束階段,不使用限制項時模型訓(xùn)練誤差有相對較大幅度的波動。在測試集上進(jìn)行對比,加入限制項時模型Acc=0.93,RMSE=0.023;不加限制項時模型Acc=0.90,RMSE=0.025。由于不同節(jié)點梯度相差較大,全局更新時波動與震蕩難以避免,嚴(yán)重時會影響模型收斂。帶限制項的resSGD優(yōu)化器可減少訓(xùn)練時模型參數(shù)波動幅度,提升收斂穩(wěn)定性與模型性能。

    在客戶端與服務(wù)器通訊階段,為減輕網(wǎng)絡(luò)傳輸負(fù)擔(dān),加快模型傳輸速度,采用int16量化編碼壓縮。對量化編碼壓縮效果進(jìn)行驗證,誤差曲線對比如圖5所示,使用編碼壓縮為BASE,不使用編碼壓縮為NC(no compression)。

    圖5 是否使用量化編碼壓縮對比

    由圖5可見,是否使用編碼壓縮其整體誤差曲線十分接近。在測試集上進(jìn)行對比,使用編碼壓縮時模型Acc=0.93,RMSE=0.023;不使用編碼壓縮時模型Acc=0.93,RMSE=0.021。本模型中各層參數(shù)最大最小值相差基本小于50,而int16類型范圍為65 536,進(jìn)行量化壓縮時可保證1e-3的精度。因此,量化編碼壓縮后的模型精度損失較小,但文件大小可降為50%,大幅減輕傳輸壓力。

    在全局更新階段,為保護(hù)數(shù)據(jù)隱私,在聯(lián)邦平均算法基礎(chǔ)上加入高斯噪聲實現(xiàn)差分隱私機制。對高斯差分隱私機制進(jìn)行驗證,誤差曲線對比如圖6所示,使用高斯機制的聯(lián)邦平均算法為BASE,普通聯(lián)邦平均算法為NN(no noise)。

    圖6 是否使用高斯差分隱私機制對比

    由圖6可見,無噪聲時模型訓(xùn)練誤差低于添加高斯噪聲。在測試集上進(jìn)行對比,添加噪聲時模型Acc=0.93,RMSE=0.023;無噪聲時模型Acc=0.93,RMSE=0.025。添加高斯噪聲雖使模型訓(xùn)練誤差增加,收斂速度變慢,但在測試集上其表現(xiàn)接近甚至略優(yōu)于無噪聲??梢娺m當(dāng)添加高斯噪聲既能保護(hù)數(shù)據(jù)隱私安全,防止信息泄漏,又可以使模型過擬合程度減輕,泛化性能得到一定的改善。

    為驗證GRU-Inception模型在下肢康復(fù)數(shù)據(jù)集上的表現(xiàn),將其與一些最新時序網(wǎng)絡(luò)模型經(jīng)聯(lián)邦學(xué)習(xí)后在測試集上進(jìn)行比較,結(jié)果見表3。

    表3 不同模型對比

    表3可見,GRU-Inception在評分準(zhǔn)確度上略低于InceptionTime,但分類預(yù)測準(zhǔn)確率有較大提升。對比mWDN、LSTM_FCN與XCM,GRU-Inception模型在下肢康復(fù)數(shù)據(jù)集上的整體表現(xiàn)更好。而MINIROCKET雖在單節(jié)點訓(xùn)練時效果突出,但聯(lián)邦學(xué)習(xí)時該模型不收斂,說明其對參數(shù)擾動較為敏感。實驗結(jié)果表明,經(jīng)聯(lián)邦學(xué)習(xí)訓(xùn)練后GRU-Inception模型在下肢康復(fù)數(shù)據(jù)集上綜合表現(xiàn)較優(yōu)。除某些對參數(shù)擾動比較敏感的模型外,本文構(gòu)建的聯(lián)邦學(xué)習(xí)系統(tǒng)對各類模型結(jié)構(gòu)適應(yīng)性強,適用范圍廣。

    4 結(jié)束語

    本文提出一種基于聯(lián)邦學(xué)習(xí)的下肢康復(fù)評估算法,用于保護(hù)數(shù)據(jù)隱私安全并進(jìn)行模型訓(xùn)練與康復(fù)評估。聯(lián)邦學(xué)習(xí)系統(tǒng)的搭建上,本文采用客戶端選擇機制及量化編碼壓縮算法提高通訊效率,設(shè)計帶限制項的resSGD優(yōu)化器保證模型收斂,最后利用高斯差分隱私實現(xiàn)數(shù)據(jù)保護(hù)。在此基礎(chǔ)上設(shè)計了GRU-Inception模型完成康復(fù)評估任務(wù)。

    實驗結(jié)果表明,本文提出的基于聯(lián)邦學(xué)習(xí)的下肢康復(fù)評估算法整體表現(xiàn)較優(yōu),有助于打破醫(yī)療機構(gòu)之間的數(shù)據(jù)壁壘,使多方協(xié)同訓(xùn)練出準(zhǔn)確度高、泛用性好的康復(fù)評估模型成為可能。

    猜你喜歡
    康復(fù)模型
    一半模型
    重要模型『一線三等角』
    重尾非線性自回歸模型自加權(quán)M-估計的漸近分布
    超聲低頻對人工流產(chǎn)術(shù)后康復(fù)的影響
    腦卒中患者康復(fù)之路
    特別健康(2018年2期)2018-06-29 06:13:44
    3D打印中的模型分割與打包
    FLUKA幾何模型到CAD幾何模型轉(zhuǎn)換方法初步研究
    殘疾預(yù)防康復(fù)法制建設(shè)滯后
    中醫(yī)康復(fù)學(xué)教學(xué)方法探討與實踐
    補陽還五湯聯(lián)合康復(fù)治療腦卒中35例
    亚洲国产av影院在线观看| 久久久久人妻精品一区果冻| 国产永久视频网站| 精品一区二区三卡| 国产精品国产三级国产专区5o| 国产在视频线精品| 夫妻午夜视频| 日本vs欧美在线观看视频| 大话2 男鬼变身卡| 国产欧美亚洲国产| 日本欧美视频一区| 亚洲精品中文字幕在线视频| 少妇猛男粗大的猛烈进出视频| 亚洲av福利一区| 国产国语露脸激情在线看| av.在线天堂| 国产精品一区www在线观看| 久久ye,这里只有精品| 男女国产视频网站| 国产精品国产三级国产av玫瑰| 97在线视频观看| 哪个播放器可以免费观看大片| 久久久久精品久久久久真实原创| 国产一区亚洲一区在线观看| 国产亚洲欧美精品永久| 男女国产视频网站| 亚洲欧美日韩卡通动漫| 美女cb高潮喷水在线观看| 日韩一区二区三区影片| 亚洲图色成人| 久热这里只有精品99| 亚洲不卡免费看| 亚洲av综合色区一区| 欧美变态另类bdsm刘玥| 97精品久久久久久久久久精品| 国语对白做爰xxxⅹ性视频网站| 午夜福利视频精品| 麻豆精品久久久久久蜜桃| 青青草视频在线视频观看| 天堂8中文在线网| 色哟哟·www| 国产男人的电影天堂91| 亚洲国产精品专区欧美| 69精品国产乱码久久久| 两个人的视频大全免费| 国产白丝娇喘喷水9色精品| 久热这里只有精品99| 极品少妇高潮喷水抽搐| 一边摸一边做爽爽视频免费| 简卡轻食公司| 免费观看的影片在线观看| 日日爽夜夜爽网站| 少妇人妻久久综合中文| 人妻夜夜爽99麻豆av| 亚洲第一区二区三区不卡| 人妻夜夜爽99麻豆av| 人体艺术视频欧美日本| 男的添女的下面高潮视频| 九九在线视频观看精品| 伊人久久精品亚洲午夜| 成年女人在线观看亚洲视频| 国产色爽女视频免费观看| 一级黄片播放器| 精品一区二区三区视频在线| 日本欧美国产在线视频| 丰满少妇做爰视频| 国产精品一区二区在线不卡| 欧美日韩精品成人综合77777| 我的老师免费观看完整版| 成人免费观看视频高清| 欧美+日韩+精品| h视频一区二区三区| 18禁观看日本| 亚洲成人一二三区av| 天堂俺去俺来也www色官网| 午夜激情av网站| 人妻少妇偷人精品九色| 婷婷色综合www| 亚洲国产精品成人久久小说| 亚洲欧美日韩卡通动漫| 9色porny在线观看| 欧美另类一区| 大码成人一级视频| 啦啦啦在线观看免费高清www| 国产欧美日韩综合在线一区二区| 久久久久久久久久久久大奶| 在线天堂最新版资源| 亚洲成色77777| 久久精品国产亚洲av涩爱| 久久久久久久久久成人| 久久久精品免费免费高清| 熟妇人妻不卡中文字幕| 精品人妻熟女av久视频| 在线观看免费高清a一片| 青春草亚洲视频在线观看| 大片电影免费在线观看免费| 69精品国产乱码久久久| 国产成人精品无人区| 亚洲人成77777在线视频| 亚洲国产日韩一区二区| 大话2 男鬼变身卡| 成人毛片60女人毛片免费| 久久久久国产网址| 人妻一区二区av| 欧美变态另类bdsm刘玥| 国产av一区二区精品久久| 一区二区日韩欧美中文字幕 | 秋霞伦理黄片| 国产免费又黄又爽又色| 精品亚洲成国产av| 成年av动漫网址| 亚洲精品中文字幕在线视频| 亚洲精品中文字幕在线视频| 国产一级毛片在线| 啦啦啦啦在线视频资源| 国产无遮挡羞羞视频在线观看| 夜夜骑夜夜射夜夜干| 丰满少妇做爰视频| 亚洲精品国产av成人精品| 久久国内精品自在自线图片| 日日爽夜夜爽网站| 欧美日韩国产mv在线观看视频| 国产亚洲精品久久久com| 久久久久国产精品人妻一区二区| 亚洲精品成人av观看孕妇| 久久久精品94久久精品| 只有这里有精品99| 亚洲第一区二区三区不卡| 日本免费在线观看一区| 大陆偷拍与自拍| 免费大片黄手机在线观看| 久久国产精品男人的天堂亚洲 | 亚洲五月色婷婷综合| 亚洲精品成人av观看孕妇| 国产 精品1| 少妇 在线观看| 亚洲欧美日韩另类电影网站| 婷婷色av中文字幕| 免费黄色在线免费观看| 国产日韩欧美视频二区| 国产精品久久久久久精品古装| 欧美精品亚洲一区二区| 亚洲人与动物交配视频| 亚洲人与动物交配视频| 另类精品久久| 妹子高潮喷水视频| 免费黄网站久久成人精品| 女的被弄到高潮叫床怎么办| 在线观看www视频免费| 亚洲精品成人av观看孕妇| 热99国产精品久久久久久7| 91精品国产国语对白视频| 国产成人免费无遮挡视频| 久久韩国三级中文字幕| 在线观看免费高清a一片| 丝袜美足系列| 亚洲国产最新在线播放| 亚洲精品乱码久久久v下载方式| 国产精品不卡视频一区二区| 九九在线视频观看精品| 免费高清在线观看视频在线观看| 97超视频在线观看视频| 一区二区三区免费毛片| 香蕉精品网在线| 国产伦理片在线播放av一区| 午夜日本视频在线| 少妇被粗大猛烈的视频| 久久精品国产自在天天线| 丰满乱子伦码专区| 青春草亚洲视频在线观看| 91久久精品国产一区二区三区| 天堂8中文在线网| 老司机亚洲免费影院| 久久久久久人妻| 不卡视频在线观看欧美| 久久热精品热| 久久精品久久久久久噜噜老黄| 国产片内射在线| 午夜福利影视在线免费观看| 亚洲国产欧美日韩在线播放| 欧美+日韩+精品| 国产极品天堂在线| 日韩中文字幕视频在线看片| 欧美 亚洲 国产 日韩一| 亚洲av综合色区一区| 久久精品国产鲁丝片午夜精品| 久久精品国产亚洲av涩爱| 黄色一级大片看看| 日韩,欧美,国产一区二区三区| 黑丝袜美女国产一区| 永久网站在线| 国产精品国产三级国产av玫瑰| 美女内射精品一级片tv| 超碰97精品在线观看| 尾随美女入室| 这个男人来自地球电影免费观看 | 日韩一本色道免费dvd| 2022亚洲国产成人精品| 国产极品粉嫩免费观看在线 | 观看美女的网站| 日韩免费高清中文字幕av| 亚洲精品国产av成人精品| 亚洲欧美清纯卡通| 亚洲精品成人av观看孕妇| 美女视频免费永久观看网站| 午夜激情av网站| 最近手机中文字幕大全| 亚洲精品第二区| 超碰97精品在线观看| 欧美成人午夜免费资源| 涩涩av久久男人的天堂| 亚洲三级黄色毛片| 欧美人与善性xxx| 国产精品久久久久久久电影| 人妻夜夜爽99麻豆av| 亚洲av国产av综合av卡| 亚洲美女黄色视频免费看| 哪个播放器可以免费观看大片| 天堂中文最新版在线下载| 免费观看av网站的网址| 美女脱内裤让男人舔精品视频| 精品人妻偷拍中文字幕| 久久久亚洲精品成人影院| 日产精品乱码卡一卡2卡三| 欧美日韩精品成人综合77777| 视频区图区小说| 中国三级夫妇交换| 久久久国产一区二区| 激情五月婷婷亚洲| 久久综合国产亚洲精品| 丝袜美足系列| 久久久久精品性色| 妹子高潮喷水视频| 国产在线一区二区三区精| 精品视频人人做人人爽| 国产成人一区二区在线| 女性生殖器流出的白浆| 久久人妻熟女aⅴ| 最新的欧美精品一区二区| 69精品国产乱码久久久| 七月丁香在线播放| 有码 亚洲区| 日韩成人av中文字幕在线观看| 99九九在线精品视频| 亚洲国产色片| 另类精品久久| 涩涩av久久男人的天堂| av视频免费观看在线观看| 亚洲精品美女久久av网站| 熟女电影av网| 日韩av不卡免费在线播放| 国产熟女午夜一区二区三区 | 九色亚洲精品在线播放| 国产精品蜜桃在线观看| 乱码一卡2卡4卡精品| 久久久欧美国产精品| 色94色欧美一区二区| 纵有疾风起免费观看全集完整版| 欧美精品一区二区免费开放| 成人国产av品久久久| 九色亚洲精品在线播放| 亚洲av综合色区一区| 丁香六月天网| 蜜桃在线观看..| 亚洲人成77777在线视频| 日韩人妻高清精品专区| 久久精品久久久久久噜噜老黄| 爱豆传媒免费全集在线观看| 成人漫画全彩无遮挡| videossex国产| 久久精品夜色国产| 亚洲美女搞黄在线观看| 男人添女人高潮全过程视频| 在线精品无人区一区二区三| 插逼视频在线观看| 大香蕉久久成人网| 99久久中文字幕三级久久日本| 99九九线精品视频在线观看视频| 国模一区二区三区四区视频| 韩国av在线不卡| 亚洲国产精品国产精品| 午夜免费男女啪啪视频观看| 老司机影院毛片| 超色免费av| 亚洲国产欧美在线一区| 亚洲高清免费不卡视频| 一级黄片播放器| 欧美一级a爱片免费观看看| 黄色配什么色好看| 亚洲激情五月婷婷啪啪| 七月丁香在线播放| 久久久久久久精品精品| 水蜜桃什么品种好| 成人综合一区亚洲| 人妻夜夜爽99麻豆av| 97在线视频观看| 国产亚洲精品久久久com| 久久精品国产a三级三级三级| 九草在线视频观看| 国产精品国产三级专区第一集| 中文字幕最新亚洲高清| 九色亚洲精品在线播放| 国产淫语在线视频| 人成视频在线观看免费观看| 精品午夜福利在线看| 国产精品熟女久久久久浪| 极品少妇高潮喷水抽搐| 夫妻性生交免费视频一级片| 日韩av不卡免费在线播放| 一级片'在线观看视频| 色婷婷久久久亚洲欧美| 亚洲图色成人| 日韩熟女老妇一区二区性免费视频| 五月伊人婷婷丁香| 啦啦啦中文免费视频观看日本| 婷婷色av中文字幕| 亚洲性久久影院| 免费高清在线观看视频在线观看| 男女高潮啪啪啪动态图| 午夜激情av网站| 免费少妇av软件| 免费av不卡在线播放| 美女主播在线视频| 在线观看免费高清a一片| 中文字幕亚洲精品专区| 91精品三级在线观看| 欧美日韩成人在线一区二区| 2018国产大陆天天弄谢| 老司机影院成人| 高清毛片免费看| 国产精品.久久久| 久久热精品热| 男女国产视频网站| 国产一区亚洲一区在线观看| 插阴视频在线观看视频| 乱人伦中国视频| 亚洲无线观看免费| 亚洲av日韩在线播放| av免费在线看不卡| 最近中文字幕高清免费大全6| 简卡轻食公司| 狠狠婷婷综合久久久久久88av| 免费观看a级毛片全部| a级毛片免费高清观看在线播放| 99久久精品国产国产毛片| 久久久a久久爽久久v久久| 色5月婷婷丁香| 中文天堂在线官网| 成人国语在线视频| 国产片特级美女逼逼视频| 国产日韩欧美亚洲二区| www.av在线官网国产| 精品一区二区免费观看| 丝袜美足系列| 性色av一级| 免费少妇av软件| 精品熟女少妇av免费看| 男人操女人黄网站| av在线播放精品| 国产乱来视频区| 免费黄色在线免费观看| 国模一区二区三区四区视频| 香蕉精品网在线| 久久久久久久亚洲中文字幕| 精品国产露脸久久av麻豆| 日韩一本色道免费dvd| 国产伦精品一区二区三区视频9| 97在线视频观看| 春色校园在线视频观看| 国产精品久久久久久精品古装| 久久这里有精品视频免费| 日本-黄色视频高清免费观看| 亚洲色图 男人天堂 中文字幕 | 国产亚洲午夜精品一区二区久久| 在线观看免费高清a一片| 亚洲欧美一区二区三区国产| 黑人巨大精品欧美一区二区蜜桃 | 国产精品久久久久久精品电影小说| 在线亚洲精品国产二区图片欧美 | 蜜臀久久99精品久久宅男| 免费不卡的大黄色大毛片视频在线观看| av不卡在线播放| 秋霞伦理黄片| 最近中文字幕2019免费版| 一区在线观看完整版| 青青草视频在线视频观看| 亚洲国产欧美日韩在线播放| 在线播放无遮挡| 纵有疾风起免费观看全集完整版| 国产精品国产三级国产av玫瑰| 高清不卡的av网站| 少妇 在线观看| av专区在线播放| 亚洲国产精品一区二区三区在线| 777米奇影视久久| 夜夜骑夜夜射夜夜干| 新久久久久国产一级毛片| 99精国产麻豆久久婷婷| 搡女人真爽免费视频火全软件| 久久午夜福利片| 另类精品久久| 成人综合一区亚洲| 成人亚洲精品一区在线观看| 国产午夜精品久久久久久一区二区三区| 777米奇影视久久| 国产乱来视频区| 亚洲欧美一区二区三区黑人 | 黑人猛操日本美女一级片| 少妇人妻精品综合一区二区| a级片在线免费高清观看视频| 久久热精品热| 大片电影免费在线观看免费| 秋霞在线观看毛片| 夜夜看夜夜爽夜夜摸| 高清av免费在线| 国产精品99久久99久久久不卡 | 五月开心婷婷网| 日韩伦理黄色片| 高清不卡的av网站| 如何舔出高潮| 夫妻性生交免费视频一级片| 日韩大片免费观看网站| 丰满少妇做爰视频| 久久久久久久久久久丰满| 在线精品无人区一区二区三| 国产极品天堂在线| 伦理电影免费视频| 曰老女人黄片| 久久国产精品男人的天堂亚洲 | 高清毛片免费看| 性高湖久久久久久久久免费观看| 69精品国产乱码久久久| 亚洲国产精品一区三区| 国产乱来视频区| 少妇被粗大的猛进出69影院 | 狂野欧美白嫩少妇大欣赏| 亚洲三级黄色毛片| av免费观看日本| 国产成人av激情在线播放 | 国产一区有黄有色的免费视频| 久久鲁丝午夜福利片| 色婷婷av一区二区三区视频| 国产免费一区二区三区四区乱码| 欧美一级a爱片免费观看看| 伊人亚洲综合成人网| 国产高清有码在线观看视频| 97在线人人人人妻| 少妇高潮的动态图| 搡女人真爽免费视频火全软件| 日日爽夜夜爽网站| 又大又黄又爽视频免费| 国产色婷婷99| 高清黄色对白视频在线免费看| 国产精品免费大片| 欧美xxxx性猛交bbbb| 18+在线观看网站| av播播在线观看一区| 久久综合国产亚洲精品| 亚洲精品一区蜜桃| 亚洲中文av在线| 午夜福利网站1000一区二区三区| 搡老乐熟女国产| 国产69精品久久久久777片| 欧美激情 高清一区二区三区| 视频在线观看一区二区三区| 美女福利国产在线| 久久精品国产a三级三级三级| 看免费成人av毛片| 一本色道久久久久久精品综合| 亚洲四区av| 国产成人午夜福利电影在线观看| 久久久亚洲精品成人影院| 欧美另类一区| 一边摸一边做爽爽视频免费| 免费看光身美女| 美女国产视频在线观看| 中文字幕精品免费在线观看视频 | 国产片内射在线| 欧美成人午夜免费资源| 国产av码专区亚洲av| 777米奇影视久久| 亚洲欧美一区二区三区国产| 少妇高潮的动态图| 色婷婷av一区二区三区视频| 亚洲av免费高清在线观看| 青春草视频在线免费观看| 日韩人妻高清精品专区| 国产日韩一区二区三区精品不卡 | 99热6这里只有精品| 国产毛片在线视频| 国产国语露脸激情在线看| videossex国产| av在线老鸭窝| 久久热精品热| 久久影院123| 91精品国产九色| 国产有黄有色有爽视频| 午夜久久久在线观看| 久久人人爽人人片av| 国产在线视频一区二区| 少妇人妻久久综合中文| 丝袜脚勾引网站| 亚洲无线观看免费| 人人妻人人澡人人看| 中文字幕av电影在线播放| 如何舔出高潮| 国产精品一区二区在线观看99| 各种免费的搞黄视频| 少妇 在线观看| 欧美日本中文国产一区发布| 美女国产视频在线观看| 丝袜脚勾引网站| 久久av网站| 亚洲天堂av无毛| 18禁在线无遮挡免费观看视频| 久久久久久久亚洲中文字幕| 视频在线观看一区二区三区| 日日爽夜夜爽网站| 天天影视国产精品| 亚洲精品,欧美精品| 国产成人a∨麻豆精品| 亚洲国产毛片av蜜桃av| 免费人妻精品一区二区三区视频| 久久 成人 亚洲| 大又大粗又爽又黄少妇毛片口| 2022亚洲国产成人精品| 美女内射精品一级片tv| 免费人成在线观看视频色| av又黄又爽大尺度在线免费看| 蜜桃国产av成人99| 午夜福利在线观看免费完整高清在| 精品少妇久久久久久888优播| 精品久久久噜噜| 精品久久久久久久久亚洲| 午夜福利影视在线免费观看| 午夜免费男女啪啪视频观看| 视频区图区小说| 日本欧美国产在线视频| 伊人久久精品亚洲午夜| 一本色道久久久久久精品综合| 国产日韩欧美视频二区| 精品酒店卫生间| 国产男女内射视频| 999精品在线视频| 满18在线观看网站| 亚洲情色 制服丝袜| 亚洲图色成人| 欧美人与性动交α欧美精品济南到 | 免费av中文字幕在线| 丝瓜视频免费看黄片| 母亲3免费完整高清在线观看 | 国产永久视频网站| 一级毛片电影观看| 久久久久久久大尺度免费视频| 高清午夜精品一区二区三区| 亚洲情色 制服丝袜| 久久久a久久爽久久v久久| a级毛片在线看网站| 亚洲色图 男人天堂 中文字幕 | 99国产精品免费福利视频| 我的女老师完整版在线观看| 婷婷成人精品国产| 91久久精品国产一区二区成人| 国产一级毛片在线| 人体艺术视频欧美日本| 青青草视频在线视频观看| videos熟女内射| 久久99蜜桃精品久久| 国产成人a∨麻豆精品| 久久狼人影院| 最新中文字幕久久久久| 99久久综合免费| 免费人成在线观看视频色| 国产熟女午夜一区二区三区 | 免费人成在线观看视频色| 免费观看a级毛片全部| 99久国产av精品国产电影| 亚洲,欧美,日韩| 777米奇影视久久| 黑人巨大精品欧美一区二区蜜桃 | 亚洲精品久久成人aⅴ小说 | 国产欧美亚洲国产| 一区二区三区精品91| 日韩亚洲欧美综合| 99精国产麻豆久久婷婷| 久久精品久久精品一区二区三区| 亚洲人成网站在线观看播放| av免费在线看不卡| 精品亚洲成a人片在线观看| 国产 一区精品| 热re99久久精品国产66热6| 午夜福利网站1000一区二区三区| 国产精品久久久久成人av| 午夜激情福利司机影院| 精品国产露脸久久av麻豆| 精品一区在线观看国产| 两个人免费观看高清视频| 我的女老师完整版在线观看| 日日啪夜夜爽| 日本午夜av视频| 99热全是精品| 亚洲国产精品一区二区三区在线| 高清不卡的av网站| 国产毛片在线视频| 久久久久视频综合| 亚洲图色成人| 美女国产视频在线观看| 狠狠精品人妻久久久久久综合| 国产熟女午夜一区二区三区 | 久久精品人人爽人人爽视色| 国产高清国产精品国产三级| 日韩一区二区视频免费看| 午夜激情久久久久久久| 免费人成在线观看视频色| 各种免费的搞黄视频|