• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種基于序列到序列模型的時(shí)間序列插補(bǔ)

    2021-07-19 11:11:08茜,向
    關(guān)鍵詞:解碼器編碼器神經(jīng)網(wǎng)絡(luò)

    周 茜,向 維

    (北京信息科技大學(xué) 自動(dòng)化學(xué)院,北京 100192)

    0 引言

    多變量時(shí)間序列包含多個(gè)數(shù)據(jù)流,這些數(shù)據(jù)流反映了復(fù)雜系統(tǒng)的多種特征參數(shù)隨時(shí)間的變化[1]。每一個(gè)特征除了有其自身時(shí)間趨勢(shì)之外,不同的特征之間還相互關(guān)聯(lián)[2]。多變量時(shí)間序列數(shù)據(jù)主要作為歷史演變信息來(lái)預(yù)測(cè)復(fù)雜系統(tǒng)的未來(lái)狀態(tài),從而幫助人類做出明智的決策。然而,在實(shí)際情況中,由于通信錯(cuò)誤、傳感器故障等原因,多變量時(shí)間序列數(shù)據(jù)中通常存在缺失數(shù)據(jù)[3]。缺失值的存在會(huì)減少關(guān)于復(fù)雜系統(tǒng)的未來(lái)狀態(tài)的重要信息,從而增加了預(yù)測(cè)任務(wù)的難度[4]。因此,開(kāi)發(fā)有效的多變量時(shí)間序列插補(bǔ)方法是一個(gè)重要的研究課題。

    缺失數(shù)據(jù)的插補(bǔ)方法始于統(tǒng)計(jì)概率分析,通過(guò)分析時(shí)間序列的概率分布來(lái)獲取缺失值的相關(guān)信息,從而修復(fù)缺失值。例如Qu等[5]利用概率主成分分析(probabilistic principal component analysis,PPCA)方法來(lái)預(yù)測(cè)交通流中丟失的數(shù)據(jù)。但是,PPCA對(duì)時(shí)空相關(guān)性的提取并不完全適用,導(dǎo)致插補(bǔ)性能降低。Fekade等[6]提出了一種概率矩陣分解(probabilistic matrix factorization,PMF)方法,通過(guò)使用相關(guān)傳感器的數(shù)據(jù)來(lái)填充不完整的數(shù)據(jù)。PMF利用了在同一時(shí)間點(diǎn)從不同傳感器收集的測(cè)量值之間的相關(guān)性,但是忽略了時(shí)間相關(guān)性。門控遞歸單元(gated recurrent unit,GRU)和長(zhǎng)短期記憶網(wǎng)絡(luò)(long short-term memory,LSTM)等循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)具有出色的長(zhǎng)期時(shí)間依賴性模擬能力,因此被廣泛應(yīng)用于時(shí)間序列插補(bǔ)中。Zhang等[7]提出了一種基于LSTM的序列到序列插補(bǔ)模型(sequence-to-sequence imputation model,SSIM),用于修復(fù)無(wú)線傳感器網(wǎng)絡(luò)中的連續(xù)缺失值。但是,SSIM假設(shè)輸入的多變量時(shí)間序列中的所有數(shù)據(jù)流都具有相同的丟失率[8],且需要完整的數(shù)據(jù)集進(jìn)行模型訓(xùn)練。

    大多數(shù)現(xiàn)有的時(shí)間序列插補(bǔ)方法都假設(shè)信號(hào)是以固定的時(shí)間間隔采集的,然而,許多真實(shí)的時(shí)間序列信號(hào)是不規(guī)則采樣的[9]。例如,在醫(yī)療保健系統(tǒng)中,患者的信息是在患者來(lái)訪時(shí)獲取的,而不是每次就診都進(jìn)行檢測(cè)。與定期收集的多變量時(shí)間序列數(shù)據(jù)的插補(bǔ)相比,由于缺失數(shù)據(jù)的模式復(fù)雜,在不規(guī)則采樣時(shí)間序列中修復(fù)缺失值更具挑戰(zhàn)性。Yoon等[10]提出了一種具有插值塊和插補(bǔ)塊的多方向遞歸神經(jīng)網(wǎng)絡(luò)(multi-directional recurrent neural network,M-RNN)用于處理醫(yī)學(xué)應(yīng)用中不規(guī)則采樣的多變量時(shí)間序列中的缺失數(shù)據(jù)。但是,M-RNN是基于順序存儲(chǔ)的,因此當(dāng)存在缺失值時(shí),無(wú)法有效地訓(xùn)練[11]。另外,如何恰當(dāng)?shù)乜紤]時(shí)間相關(guān)性和變量相關(guān)性對(duì)插補(bǔ)準(zhǔn)確度至關(guān)重要。

    1 模型設(shè)計(jì)

    本文提出了一種新的深度學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu),稱為連續(xù)初始化序列到序列模型(successively initialized sequence-to-sequence model,SISSM),其由編碼器和解碼器網(wǎng)絡(luò)組成。編碼器是一個(gè)前向循環(huán)神經(jīng)網(wǎng)絡(luò)層,主要負(fù)責(zé)提取歷史信息。解碼器是一個(gè)雙向遞歸結(jié)構(gòu),其后向循環(huán)神經(jīng)網(wǎng)絡(luò)層使用編碼器的輸出作為初始狀態(tài),而后向?qū)拥淖詈笠粋€(gè)狀態(tài)用以初始化前向?qū)拥碾[藏狀態(tài)。因此,在解碼器中,后向?qū)邮褂脷v史信息插補(bǔ)最后一個(gè)時(shí)間步的缺失值,而前向?qū)踊谖磥?lái)信息計(jì)算第一個(gè)時(shí)間步的估計(jì)值。這種隱藏狀態(tài)初始化方法能夠減少誤差沿著生成序列的累積,以提高估計(jì)缺失數(shù)據(jù)的精度。在編碼器中,提出了一個(gè)交叉回歸方法,利用時(shí)間域和傳感器域的相關(guān)性來(lái)學(xué)習(xí)多變量時(shí)間序列缺失值的可訓(xùn)練替換值。該編碼器使用具有交叉回歸的GRU(GRU with cross-regression,GRU-CR)作為其遞歸分量來(lái)學(xué)習(xí)歷史信息。解碼器的遞歸分量由一個(gè)插補(bǔ)塊(imputation block,IB)和一個(gè)GRU組合而成,簡(jiǎn)稱為IB-GRU。由于隱藏狀態(tài)只包含過(guò)去或?qū)?lái)的信息,IB的引入可通過(guò)結(jié)合當(dāng)前時(shí)間步長(zhǎng)變量間的相關(guān)性和時(shí)間依賴性來(lái)計(jì)算缺失值估計(jì)。IB-GRU使得該網(wǎng)絡(luò)能夠識(shí)別多變量時(shí)間序列的復(fù)雜模式,從而提高缺失值估計(jì)的準(zhǔn)確度。

    在模型的訓(xùn)練階段,當(dāng)輸入變量的值存在時(shí),SISSM通過(guò)逼近輸入變量的值來(lái)學(xué)習(xí)一個(gè)復(fù)雜的擬合函數(shù),而當(dāng)輸入變量缺失時(shí)對(duì)其進(jìn)行插補(bǔ)。因此,SISSM可以使用不完整的時(shí)間序列數(shù)據(jù)集進(jìn)行訓(xùn)練。此外,SISSM能夠修復(fù)不規(guī)則采樣的多變量時(shí)間序列中的隨機(jī)和連續(xù)缺失數(shù)據(jù)。為了驗(yàn)證SISSM的優(yōu)越性,將在兩組臨床數(shù)據(jù)集上與4個(gè)最先進(jìn)的插補(bǔ)模型的插補(bǔ)結(jié)果進(jìn)行比較。

    1.1 公式符號(hào)說(shuō)明

    定義X=[x1,x2,…,xT]∈RN×T為一個(gè)長(zhǎng)度為T具有N個(gè)變量的多變量時(shí)間序列,其中xt=[x(1,t),x(2,t),…,x(N,t)]T表示所有N個(gè)傳感器的第t個(gè)觀測(cè)值。定義s=[s1,s2,…,sT]為時(shí)間戳向量,其中st∈R表示獲得第t個(gè)觀測(cè)值的實(shí)際時(shí)間。定義一個(gè)指示矩陣為M,其每個(gè)元素m(i,t)由X中的相應(yīng)元素是否存在來(lái)決定。如果x(1,t)存在,m(i,t)為1,否則為0。由于傳感器數(shù)據(jù)并非總是以相同的時(shí)間間隔收集且一些觀測(cè)值可能會(huì)從連續(xù)的時(shí)間段中丟失,因此定義Δ∈RN×T為自上次觀測(cè)到值的時(shí)刻至當(dāng)前時(shí)刻所經(jīng)過(guò)的時(shí)間。當(dāng)t=1時(shí),Δ的元素δ(i,t)=0;當(dāng)t>1時(shí),δ(i,t)=st-st-1+(1-m(i,t-1))δ(i,t-1)。

    1.2 模型結(jié)構(gòu)

    圖1 連續(xù)初始化序列到序列模型(SISSM)結(jié)構(gòu)

    1.2.1 門控遞歸單元

    由于RNN能夠自然地處理可變長(zhǎng)度序列,且其在所有時(shí)間步長(zhǎng)上共享參數(shù),這大大減少了需要學(xué)習(xí)的參數(shù)個(gè)數(shù)。在RNN的變體中,使用了門控遞歸單元(GRU)。GRU的網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示,其具有復(fù)位門rt和更新門zt,用以在時(shí)間步t處控制隱藏狀態(tài)ht,更新公式如下:

    圖2 CRU網(wǎng)絡(luò)結(jié)構(gòu)

    rt=σ(Wrxt+Urht-1+br)

    (1)

    zt=σ(Wzxt+Uzht-1+bz)

    (2)

    (3)

    (4)

    式中:矩陣Wz、Wr、W、Uz、Ur、U和向量bz、br、b為模型訓(xùn)練參數(shù);σ為Sigmoid激活函數(shù);⊙表示逐元素相乘。

    1.2.2 GRU-CR編碼器

    (5)

    式中:φ為激活函數(shù);U、V和B為可優(yōu)化的模型參數(shù)。在時(shí)間序列數(shù)據(jù)中,附近觀測(cè)到的測(cè)量值對(duì)缺失值的依賴性將隨著時(shí)間的推移逐漸消失。因此,為每個(gè)變量引入了狀態(tài)衰減率,用ηt∈RN表示。ηt的值取決于自上一次觀測(cè)到數(shù)據(jù)的時(shí)刻至當(dāng)前時(shí)刻t所經(jīng)過(guò)的時(shí)間δt。時(shí)間越長(zhǎng),衰減率越小。根據(jù)牛頓冷卻定律[12],本文使用負(fù)指數(shù)率隨δt增加單調(diào)減小ηt,即

    ηt=e-(Wηδt+bη)

    (6)

    式中Wη和bη為通過(guò)訓(xùn)練獲得的模型參數(shù)。狀態(tài)衰減率ηt用于在計(jì)算新?tīng)顟B(tài)ct之前衰減前一個(gè)隱藏狀態(tài)ct-1,即

    (7)

    (8)

    (9)

    1.2.3 雙向IB-GRU解碼器

    在解碼器網(wǎng)絡(luò)中,每個(gè)時(shí)間步t的輸出為該時(shí)間步的測(cè)量值估計(jì)值。由于RNN在序列的不同時(shí)間步長(zhǎng)之間共享參數(shù),因此可能無(wú)法捕獲不規(guī)則的丟失模式。另外,估算值僅與時(shí)間相關(guān),而與其他傳感器的當(dāng)前觀測(cè)值無(wú)關(guān)。為了解決這些問(wèn)題,本文通過(guò)在傳統(tǒng)的GRU中引入插補(bǔ)塊以改進(jìn)GRU的基本結(jié)構(gòu),稱之為IB-GRU網(wǎng)絡(luò),其結(jié)構(gòu)如圖3所示。

    圖3 IB-GRU網(wǎng)絡(luò)結(jié)構(gòu)

    ξ(at)=xt⊙mt+at⊙(1-mt)

    (10)

    式中at為估計(jì)值。在IB中,前一個(gè)隱藏狀態(tài)ht-1首先被衰減,然后使用全連接神經(jīng)網(wǎng)絡(luò)基于時(shí)間信息計(jì)算輸出估計(jì)值z(mì)t,即

    (11)

    (12)

    式中Wh和bh為可訓(xùn)練的模型參數(shù)。為了增強(qiáng)多重相關(guān)性模擬能力,首先用zt中的相應(yīng)值更新xt中的缺失值。然后,加入一個(gè)全連接神經(jīng)網(wǎng)絡(luò),基于當(dāng)前時(shí)間下的變量之間的相關(guān)性計(jì)算輸出估計(jì)值ot,即

    ot=φ(Woξ(zt)+bo)

    (13)

    式中Wo和bo為可學(xué)習(xí)的模型參數(shù)。Wo的對(duì)角線元素設(shè)為零,因此ξ(zt)中的第i個(gè)變量不用于估計(jì)o(i,t)。

    λt=σ(Wλδt+Uλmt+bλ)

    (14)

    (15)

    (16)

    2 數(shù)據(jù)集及評(píng)價(jià)方法

    2.1 數(shù)據(jù)集

    PhysioNet數(shù)據(jù)集[13]是PhysioNet Challenge 2012的公開(kāi)臨床數(shù)據(jù)集,包含了在重癥監(jiān)護(hù)室中的12 000份患者記錄。在這個(gè)數(shù)據(jù)集中,每個(gè)病人的記錄包含42個(gè)變量,包括血壓、心率和體溫等。從這42個(gè)變量中,提取了35個(gè)變量,這些變量是在病人進(jìn)入重癥監(jiān)護(hù)室后48 h內(nèi)不定期取樣的。對(duì)于數(shù)據(jù)預(yù)處理,本文將每個(gè)變量的數(shù)值標(biāo)準(zhǔn)化,使其均值為0和方差為1以進(jìn)行穩(wěn)定訓(xùn)練[14]。

    MIMIC-III數(shù)據(jù)集[15]的所有臨床護(hù)理數(shù)據(jù)來(lái)自大約60 000名患者的住院記錄,這些記錄是從2001年到2012年在貝斯以色列女執(zhí)事醫(yī)療中心的重癥監(jiān)護(hù)室收集的。在整個(gè)MIMIC-III數(shù)據(jù)集中,只保留了15歲以上、單次入院時(shí)間超過(guò)48 h但少于30 d的患者,刪除了沒(méi)有圖表事件數(shù)據(jù)和48 h內(nèi)少于50次測(cè)量的臨床記錄。因此,經(jīng)過(guò)數(shù)據(jù)預(yù)處理后,數(shù)據(jù)集包含了21 250名有足夠觀察值的患者的記錄,每個(gè)樣本包含96個(gè)不同的生理變量。

    2.2 評(píng)估指標(biāo)和對(duì)比方法

    本文采用兩個(gè)指標(biāo)評(píng)估每個(gè)模型的數(shù)據(jù)插補(bǔ)性能,即均方根誤差(root mean square error,RMSE)和平均絕對(duì)誤差(mean absolute error,MAE)。兩者都常在統(tǒng)計(jì)模型評(píng)估中用作預(yù)測(cè)值和觀測(cè)點(diǎn)坐標(biāo)之間距離偏差的有效度量。由于RMSE是基于誤差平方和的計(jì)算,因此會(huì)放大較大的誤差且對(duì)異常值非常敏感[16]。MAE是誤差的真實(shí)值,與RMSE相比,異常值對(duì)MAE的影響較小。

    為了驗(yàn)證SISSM網(wǎng)絡(luò)的優(yōu)越性及有效性,本文將提出的模型與其他文獻(xiàn)中的4種方法進(jìn)行了比較,即SSIM[7]、M-RNN[10]、GRU-D[17]和LIME-LSTM[18]。M-RNN基于多方向遞歸神經(jīng)網(wǎng)絡(luò)估計(jì)臨床時(shí)間序列的丟失數(shù)據(jù),其包含了一個(gè)雙向RNN結(jié)構(gòu)。SSIM是一種基于序列到序列模型的數(shù)據(jù)插補(bǔ)方法,用于在無(wú)線傳感器網(wǎng)絡(luò)中修復(fù)丟失的數(shù)據(jù)。GRU-D是一種基于GRU的深度學(xué)習(xí)模型,其利用多變量時(shí)間序列插補(bǔ)和分類中的時(shí)間衰減效應(yīng)學(xué)習(xí)衰減因子,將最近的觀測(cè)值與每個(gè)變量的經(jīng)驗(yàn)平均值相結(jié)合來(lái)替換缺失值。LIME-LSTM是線性記憶向量遞歸神經(jīng)網(wǎng)絡(luò)(linear memory vector recurrent neural network,LIME-RNN),該網(wǎng)絡(luò)引入了一個(gè)殘差和向量作為所有先前隱藏狀態(tài)的加權(quán)和,以增強(qiáng)模型的時(shí)間模擬能力。

    3 仿真結(jié)果與分析

    本文選擇了兩個(gè)具有較高丟失率的臨床數(shù)據(jù)集用以驗(yàn)證所提出模型的插補(bǔ)性能。首先任意刪除10%已有的測(cè)量值作為評(píng)估的插補(bǔ)標(biāo)簽值,然后使用這兩個(gè)數(shù)據(jù)集對(duì)訓(xùn)練好的SISSM及4個(gè)對(duì)比模型進(jìn)行測(cè)試。為了評(píng)估模型性能的穩(wěn)定性,每個(gè)模型的仿真實(shí)驗(yàn)以不同的隨機(jī)初始權(quán)重進(jìn)行10次。在兩個(gè)數(shù)據(jù)集上10次實(shí)驗(yàn)的插補(bǔ)誤差的最小值、最大值、均值和方差如表1、2所示。

    表1 PhysioNet數(shù)據(jù)集下5種算法的插補(bǔ)誤差比較

    表2 MIMIC-III數(shù)據(jù)集下5種算法的插補(bǔ)誤差比較

    由表1、2可知,5種算法都可以插補(bǔ)多變量時(shí)間序列的缺失值,但插補(bǔ)的效果不盡相同,其中SISSM獲得了最低的插補(bǔ)誤差即最好的插補(bǔ)準(zhǔn)確度。SISSM的模型穩(wěn)定性并不好,其10次實(shí)驗(yàn)的MAE和RMSE的方差僅小于SSIM的插補(bǔ)誤差的方差。之所以本文所提出模型的插補(bǔ)性能最優(yōu),是因?yàn)樵诰幋a器中引入了交叉回歸器,從而加強(qiáng)了模型對(duì)時(shí)間依賴性和變量相關(guān)性的模擬能力,在解碼器中采用了雙向循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)以利用過(guò)去和將來(lái)的數(shù)據(jù)點(diǎn)來(lái)重建丟失的數(shù)據(jù)點(diǎn),另外SISSM還考慮了誤差累積以及訓(xùn)練過(guò)程中采樣間隔的不規(guī)則性對(duì)缺失值的影響。以上做法增加了模型插補(bǔ)準(zhǔn)確度,但同時(shí)也增加了模型復(fù)雜度,需要大量樣本訓(xùn)練獲得模型參數(shù),這也將影響模型的穩(wěn)定性。雖然SSIM和M-RNN也采用了雙向循環(huán)網(wǎng)絡(luò)結(jié)構(gòu),但是它們的插補(bǔ)誤差較大且模型穩(wěn)定性欠佳。SSIM被用于修復(fù)含有連續(xù)缺失值的水質(zhì)數(shù)據(jù),并假設(shè)所有的時(shí)間序列含有一樣的丟失率,這使得SSIM很難適用于其他領(lǐng)域的數(shù)據(jù)集,尤其是像PhysioNet和MIMIC-III這種采樣時(shí)間間隔不規(guī)則的數(shù)據(jù)集。M-RNN是用以解決不規(guī)則的臨床醫(yī)療數(shù)據(jù)的數(shù)據(jù)丟失問(wèn)題,考慮了雙向插補(bǔ)和變量相關(guān)性,因此可以較好地修復(fù)本文采用數(shù)據(jù)集的丟失值。對(duì)于其他兩個(gè)單層的前向循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)LIME-LSTM和GRU-D,LIME-LSTM的模型穩(wěn)定性最優(yōu)但插補(bǔ)誤差比SISSM和M-RNN都高,GRU-D插補(bǔ)結(jié)果最差。GRU-D采用隱式估算缺失值的方法(即僅專注于優(yōu)化預(yù)測(cè)誤差),不能準(zhǔn)確地修復(fù)缺失值。LIME-LSTM忽略了變量相關(guān)性,因此其插補(bǔ)過(guò)程并沒(méi)有充分利用時(shí)間和變量維度間的關(guān)系,對(duì)插補(bǔ)準(zhǔn)確度產(chǎn)生了負(fù)面影響。

    為了評(píng)估數(shù)據(jù)缺失率對(duì)模型插補(bǔ)準(zhǔn)確度的影響,隨機(jī)剔除了10%、15%、20%、25%、30%、35%、40%、45%和50%的已有數(shù)據(jù),然后在不同缺失率的測(cè)試集上驗(yàn)證模型性能。每個(gè)模型的仿真實(shí)驗(yàn)以不同的隨機(jī)初始權(quán)重進(jìn)行10次,最終以10次實(shí)驗(yàn)結(jié)果的均值作曲線圖。圖4和圖5分別呈現(xiàn)了在PhysioNet數(shù)據(jù)集和MIMIC-III數(shù)據(jù)集下5種算法的MAE隨丟失率增加的變化以及SISSM相對(duì)于其他模型所獲得的增益變化。

    圖4 在PhysioNet數(shù)據(jù)集下5種算法的MAE隨缺失率增加的變化以及SISSM相對(duì)于其他模型所獲得的增益變化

    圖5 在MIMIC-Ⅲ數(shù)據(jù)集下5種算法的MAE隨缺失率增加的變化以及SISSM相對(duì)于其他模型所獲得的增益變化

    從圖4和圖5可以看出,隨著缺失率的升高,5種算法插補(bǔ)數(shù)據(jù)的MAE都隨之增大,SISSM在不同的缺失率下插補(bǔ)效果較為顯著,插補(bǔ)的MAE比其他4種小。在缺失率較低時(shí)LIME-LSTM的插補(bǔ)效果優(yōu)于SSIM,但隨著缺失率的升高SSIM的效果則有明顯改善,且在MIMIC-III數(shù)據(jù)集上效果要優(yōu)于LIME-LSTM。SISSM和M-RNN的插補(bǔ)效果分別比GRU和LIME-LSTM的效果好,很好地說(shuō)明了在學(xué)習(xí)的過(guò)程中雙向循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)能夠更多地捕捉時(shí)間依賴性,從而更好地實(shí)現(xiàn)時(shí)間序列的缺失值插補(bǔ)。另外,SISSM在4個(gè)對(duì)比模型上所獲得的增益隨著缺失率的增加而減小。由此可見(jiàn),所提出模型應(yīng)對(duì)較高缺失率時(shí),插補(bǔ)效率有所降低,但其插補(bǔ)誤差仍然比其他4種算法小很多。綜上所述,SISSM網(wǎng)絡(luò)相對(duì)于其他插補(bǔ)模型能更準(zhǔn)確地估計(jì)多變量時(shí)間序列的丟失值,且即使在丟失數(shù)據(jù)率很高的情況下也能提供較好的插補(bǔ)性能。

    4 結(jié)束語(yǔ)

    由于不可避免的通信故障或傳感器故障,多變量時(shí)間序列通常包含缺失值。本文提出了一種基于序列到序列模型的多變量時(shí)間序列插補(bǔ)方法SISSM,它由GRU-CR編碼器和雙向IB-GRU解碼器組成。在SISSM模型中,提出了一種狀態(tài)初始化方法,該方法有助于減少誤差累積并提高插補(bǔ)精度。設(shè)計(jì)了交叉回歸器用來(lái)獲得原始多變量時(shí)間序列中的缺失值的可訓(xùn)練替換值,以便編碼器能夠從不完整的多變量時(shí)間序列數(shù)據(jù)中學(xué)習(xí)歷史信息代表性。在GRU中引入了一個(gè)插補(bǔ)塊,以根據(jù)不同時(shí)間段的值之間的相關(guān)性和相同時(shí)間點(diǎn)處的變量相關(guān)性計(jì)算得出缺失值的估計(jì)值。為了驗(yàn)證SISSM的插補(bǔ)效果,采用了兩個(gè)真實(shí)的多變量時(shí)間序列數(shù)據(jù)集對(duì)其進(jìn)行了仿真實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明,與其他的算法相比,本文所提出的模型具有更好的插補(bǔ)結(jié)果,并且在較大的丟失率范圍內(nèi)插補(bǔ)準(zhǔn)確度依然是最高的。

    猜你喜歡
    解碼器編碼器神經(jīng)網(wǎng)絡(luò)
    科學(xué)解碼器(一)
    科學(xué)解碼器(二)
    科學(xué)解碼器(三)
    線圣AudioQuest 發(fā)布第三代Dragonfly Cobalt藍(lán)蜻蜓解碼器
    神經(jīng)網(wǎng)絡(luò)抑制無(wú)線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    基于FPGA的同步機(jī)軸角編碼器
    基于PRBS檢測(cè)的8B/IOB編碼器設(shè)計(jì)
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
    JESD204B接口協(xié)議中的8B10B編碼器設(shè)計(jì)
    電子器件(2015年5期)2015-12-29 08:42:24
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    日韩一区二区三区影片| 国产在线男女| 超碰97精品在线观看| 国产免费视频播放在线视频| 日韩精品有码人妻一区| 久久99热这里只频精品6学生| 亚州av有码| 亚洲精品久久久久久婷婷小说| 亚洲电影在线观看av| 爱豆传媒免费全集在线观看| 特大巨黑吊av在线直播| 久久精品综合一区二区三区| 日本-黄色视频高清免费观看| 亚洲不卡免费看| 啦啦啦中文免费视频观看日本| 国产一区二区三区av在线| 欧美老熟妇乱子伦牲交| 最近中文字幕高清免费大全6| 国产女主播在线喷水免费视频网站| 秋霞在线观看毛片| 色哟哟·www| 亚洲精品自拍成人| 伦精品一区二区三区| 国产色爽女视频免费观看| 女的被弄到高潮叫床怎么办| 欧美xxxx性猛交bbbb| 成人无遮挡网站| 久久人人爽av亚洲精品天堂 | 国产久久久一区二区三区| 亚洲欧美一区二区三区国产| 国产免费一区二区三区四区乱码| 欧美性猛交╳xxx乱大交人| 久久久国产一区二区| 视频区图区小说| 国产乱人视频| 高清午夜精品一区二区三区| 免费看光身美女| 亚洲三级黄色毛片| 亚洲精品成人av观看孕妇| 国产高清有码在线观看视频| 噜噜噜噜噜久久久久久91| 国产 一区精品| 三级男女做爰猛烈吃奶摸视频| 精品视频人人做人人爽| 亚洲aⅴ乱码一区二区在线播放| 欧美bdsm另类| 成人亚洲精品一区在线观看 | 亚洲国产精品成人久久小说| 亚洲欧美日韩卡通动漫| xxx大片免费视频| 国产精品国产三级专区第一集| 99视频精品全部免费 在线| 精品视频人人做人人爽| 嘟嘟电影网在线观看| 能在线免费看毛片的网站| 国产国拍精品亚洲av在线观看| 中文天堂在线官网| 欧美老熟妇乱子伦牲交| 国产在视频线精品| 欧美国产精品一级二级三级 | 尾随美女入室| 亚洲av电影在线观看一区二区三区 | 亚洲精品影视一区二区三区av| 久久久成人免费电影| 插逼视频在线观看| 乱码一卡2卡4卡精品| 国产成人a∨麻豆精品| 99热国产这里只有精品6| h日本视频在线播放| 高清在线视频一区二区三区| 一级毛片我不卡| 色综合色国产| 日日摸夜夜添夜夜爱| 免费电影在线观看免费观看| av在线观看视频网站免费| 插逼视频在线观看| 亚洲,欧美,日韩| 一级爰片在线观看| a级毛色黄片| 欧美xxxx黑人xx丫x性爽| 久久精品久久久久久噜噜老黄| 色综合色国产| 成人免费观看视频高清| 久热这里只有精品99| 精品人妻一区二区三区麻豆| 成人鲁丝片一二三区免费| 成年人午夜在线观看视频| 九九久久精品国产亚洲av麻豆| 在线天堂最新版资源| 成人免费观看视频高清| 人人妻人人看人人澡| 尤物成人国产欧美一区二区三区| 日韩 亚洲 欧美在线| 亚洲国产精品成人综合色| 国产精品三级大全| 日日撸夜夜添| 成年女人看的毛片在线观看| 久久亚洲国产成人精品v| 麻豆精品久久久久久蜜桃| 六月丁香七月| 日日啪夜夜撸| 亚洲av二区三区四区| 久久这里有精品视频免费| 中文在线观看免费www的网站| 三级国产精品片| 日本爱情动作片www.在线观看| 亚洲精品自拍成人| 色综合色国产| 亚洲无线观看免费| 黄色欧美视频在线观看| 99热这里只有是精品在线观看| 大码成人一级视频| 久久精品人妻少妇| 日韩国内少妇激情av| 久久精品熟女亚洲av麻豆精品| 直男gayav资源| 亚洲精品中文字幕在线视频 | 国产69精品久久久久777片| 欧美高清性xxxxhd video| 亚洲精品乱码久久久v下载方式| 国产乱来视频区| 中文乱码字字幕精品一区二区三区| 国产免费一区二区三区四区乱码| 黄色怎么调成土黄色| 91久久精品国产一区二区三区| 国产精品女同一区二区软件| 在线观看国产h片| 久久精品综合一区二区三区| 超碰av人人做人人爽久久| 观看美女的网站| 国产高清有码在线观看视频| 久久97久久精品| 国产成人免费无遮挡视频| 国产成人a∨麻豆精品| 2021少妇久久久久久久久久久| 在线 av 中文字幕| 最近2019中文字幕mv第一页| 99热6这里只有精品| 麻豆乱淫一区二区| 免费在线观看成人毛片| 国产中年淑女户外野战色| 久热久热在线精品观看| 女人被狂操c到高潮| 别揉我奶头 嗯啊视频| 国产色婷婷99| 国产成人午夜福利电影在线观看| 日本熟妇午夜| 九九在线视频观看精品| 一个人看的www免费观看视频| 女人久久www免费人成看片| 夫妻性生交免费视频一级片| 一个人看的www免费观看视频| 波野结衣二区三区在线| 免费av不卡在线播放| 色网站视频免费| 99久久九九国产精品国产免费| 大陆偷拍与自拍| 欧美日韩综合久久久久久| 国产精品国产三级专区第一集| 国产伦精品一区二区三区视频9| av又黄又爽大尺度在线免费看| 噜噜噜噜噜久久久久久91| 欧美日韩视频高清一区二区三区二| 午夜福利视频精品| 欧美日韩国产mv在线观看视频 | 麻豆国产97在线/欧美| 超碰av人人做人人爽久久| 91精品伊人久久大香线蕉| 亚洲色图综合在线观看| 国精品久久久久久国模美| 一级毛片我不卡| 在线免费观看不下载黄p国产| 久久久久久久大尺度免费视频| 97热精品久久久久久| 久久久久性生活片| 男女那种视频在线观看| 秋霞伦理黄片| 亚洲精品一二三| 日韩国内少妇激情av| 大陆偷拍与自拍| 永久免费av网站大全| 亚洲一区二区三区欧美精品 | 一区二区三区免费毛片| av卡一久久| 亚洲精品国产av成人精品| 插阴视频在线观看视频| 婷婷色综合www| 国内精品宾馆在线| 老司机影院成人| 色视频www国产| 中文字幕久久专区| 岛国毛片在线播放| 在线看a的网站| 中文欧美无线码| 国产精品一及| 最近中文字幕高清免费大全6| 亚洲精品日本国产第一区| 成人亚洲精品av一区二区| 黄色欧美视频在线观看| 日韩在线高清观看一区二区三区| 一个人看的www免费观看视频| 国产免费福利视频在线观看| 91aial.com中文字幕在线观看| 亚洲怡红院男人天堂| 少妇的逼好多水| 女人十人毛片免费观看3o分钟| 国产视频内射| 欧美老熟妇乱子伦牲交| 三级男女做爰猛烈吃奶摸视频| 亚洲电影在线观看av| 精华霜和精华液先用哪个| 成人国产av品久久久| 五月天丁香电影| 日本黄色片子视频| 国产大屁股一区二区在线视频| 99久久精品一区二区三区| 人体艺术视频欧美日本| 久久精品国产自在天天线| 国产高清国产精品国产三级 | 大片电影免费在线观看免费| 欧美一区二区亚洲| 亚洲国产精品成人综合色| 一本一本综合久久| 韩国高清视频一区二区三区| 又爽又黄a免费视频| 秋霞伦理黄片| 人妻制服诱惑在线中文字幕| 一级毛片黄色毛片免费观看视频| freevideosex欧美| 久久久久精品久久久久真实原创| 亚洲一级一片aⅴ在线观看| 2018国产大陆天天弄谢| 青青草视频在线视频观看| 天天躁日日操中文字幕| 亚洲国产色片| 国产精品伦人一区二区| 精品亚洲乱码少妇综合久久| 国产色婷婷99| 国产欧美亚洲国产| 日本黄大片高清| 亚洲国产av新网站| 91久久精品电影网| a级毛色黄片| 亚洲av中文字字幕乱码综合| 18禁动态无遮挡网站| 成人亚洲欧美一区二区av| 各种免费的搞黄视频| 97热精品久久久久久| 国产日韩欧美亚洲二区| 国产精品久久久久久久电影| 夫妻午夜视频| 嘟嘟电影网在线观看| 国产精品久久久久久久电影| 久久久精品欧美日韩精品| 如何舔出高潮| 天天躁夜夜躁狠狠久久av| 啦啦啦中文免费视频观看日本| 极品教师在线视频| 91午夜精品亚洲一区二区三区| 国产亚洲91精品色在线| 亚洲精品乱码久久久v下载方式| 久久久久久九九精品二区国产| 偷拍熟女少妇极品色| 色视频www国产| 国产色爽女视频免费观看| 亚洲三级黄色毛片| 久久综合国产亚洲精品| 日韩欧美 国产精品| 国产亚洲5aaaaa淫片| 99热网站在线观看| av在线播放精品| 久久精品夜色国产| 美女高潮的动态| 亚洲在线观看片| 人妻一区二区av| 女人久久www免费人成看片| 国产精品无大码| 亚洲欧洲日产国产| 最后的刺客免费高清国语| 国产视频内射| 午夜精品一区二区三区免费看| 网址你懂的国产日韩在线| 亚洲精品aⅴ在线观看| 99视频精品全部免费 在线| 成人高潮视频无遮挡免费网站| 国产黄片美女视频| 国内精品美女久久久久久| 少妇人妻一区二区三区视频| 国产成人91sexporn| 美女内射精品一级片tv| 国产成人freesex在线| 国产亚洲91精品色在线| 国产高清三级在线| 久久99热这里只有精品18| 国产精品一二三区在线看| 日本-黄色视频高清免费观看| 91在线精品国自产拍蜜月| 色吧在线观看| 99热这里只有精品一区| 午夜福利在线在线| 人妻少妇偷人精品九色| 欧美xxⅹ黑人| 午夜老司机福利剧场| 搞女人的毛片| 在线观看国产h片| 亚洲精品一区蜜桃| 成人黄色视频免费在线看| 人妻少妇偷人精品九色| 麻豆久久精品国产亚洲av| 天天躁日日操中文字幕| 亚洲国产日韩一区二区| 午夜亚洲福利在线播放| 久久亚洲国产成人精品v| 亚洲自偷自拍三级| 涩涩av久久男人的天堂| 亚洲av成人精品一二三区| a级毛色黄片| 午夜福利高清视频| 国产精品久久久久久精品电影小说 | 国产淫片久久久久久久久| 久久久久久久久久久免费av| 嫩草影院新地址| 80岁老熟妇乱子伦牲交| 一级片'在线观看视频| 直男gayav资源| 欧美日韩视频精品一区| 亚洲成人一二三区av| 在线观看av片永久免费下载| 中文乱码字字幕精品一区二区三区| 国产白丝娇喘喷水9色精品| 久久人人爽av亚洲精品天堂 | 午夜福利网站1000一区二区三区| 亚洲精品国产av成人精品| 精品视频人人做人人爽| 熟女av电影| 麻豆精品久久久久久蜜桃| 日本av手机在线免费观看| 国产综合精华液| 国产精品久久久久久精品电影小说 | 免费av毛片视频| 亚洲高清免费不卡视频| 亚洲婷婷狠狠爱综合网| 亚洲精品国产av成人精品| 天天躁日日操中文字幕| 男人和女人高潮做爰伦理| 国产精品熟女久久久久浪| 亚洲人与动物交配视频| 欧美日韩亚洲高清精品| 日韩欧美一区视频在线观看 | 国产成人a区在线观看| 少妇人妻 视频| 美女视频免费永久观看网站| 亚洲成人中文字幕在线播放| 国产精品伦人一区二区| 黄片无遮挡物在线观看| 免费黄色在线免费观看| 男女边摸边吃奶| 日本欧美国产在线视频| 我的老师免费观看完整版| 亚洲综合精品二区| 国产有黄有色有爽视频| 国内精品宾馆在线| 制服丝袜香蕉在线| 亚洲av免费高清在线观看| 欧美区成人在线视频| 毛片一级片免费看久久久久| 看十八女毛片水多多多| 性插视频无遮挡在线免费观看| 免费看光身美女| 美女xxoo啪啪120秒动态图| kizo精华| 一级二级三级毛片免费看| 国产午夜精品一二区理论片| 亚洲精品国产成人久久av| 午夜免费观看性视频| 国产成人精品婷婷| 中文字幕久久专区| 2018国产大陆天天弄谢| 美女被艹到高潮喷水动态| 国产男人的电影天堂91| 成人综合一区亚洲| 一边亲一边摸免费视频| a级一级毛片免费在线观看| 国产成人精品婷婷| 国产在线男女| 国产视频首页在线观看| 91精品一卡2卡3卡4卡| 一级毛片电影观看| 国产毛片在线视频| av在线播放精品| 欧美激情久久久久久爽电影| 卡戴珊不雅视频在线播放| 成人高潮视频无遮挡免费网站| 久久精品久久精品一区二区三区| 日韩,欧美,国产一区二区三区| 91在线精品国自产拍蜜月| 久久鲁丝午夜福利片| av国产精品久久久久影院| 黄色配什么色好看| 一个人观看的视频www高清免费观看| www.av在线官网国产| 91在线精品国自产拍蜜月| 黄色一级大片看看| 亚洲高清免费不卡视频| av.在线天堂| 美女cb高潮喷水在线观看| 国产熟女欧美一区二区| 亚洲四区av| 永久网站在线| 简卡轻食公司| 亚洲激情五月婷婷啪啪| 久久精品国产亚洲网站| 欧美日韩在线观看h| 国产精品久久久久久精品古装| 哪个播放器可以免费观看大片| 91精品国产九色| 精品国产乱码久久久久久小说| 中文字幕亚洲精品专区| 日韩制服骚丝袜av| 国产大屁股一区二区在线视频| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 91午夜精品亚洲一区二区三区| 少妇 在线观看| 婷婷色麻豆天堂久久| 韩国av在线不卡| 亚洲激情五月婷婷啪啪| 久久精品久久久久久久性| 亚洲欧美精品专区久久| 亚洲久久久久久中文字幕| 美女国产视频在线观看| 精品久久久噜噜| 丰满人妻一区二区三区视频av| 真实男女啪啪啪动态图| 久久久久久国产a免费观看| 赤兔流量卡办理| a级毛片免费高清观看在线播放| 成人午夜精彩视频在线观看| 久久ye,这里只有精品| 日韩成人伦理影院| 亚洲色图综合在线观看| 久久久久久久久久久免费av| 久久国内精品自在自线图片| 国产永久视频网站| 成年免费大片在线观看| 少妇丰满av| 久久精品国产a三级三级三级| 久久久久久久久大av| 国产日韩欧美亚洲二区| 日本猛色少妇xxxxx猛交久久| 精品久久久噜噜| 国产黄a三级三级三级人| 大又大粗又爽又黄少妇毛片口| 夫妻午夜视频| 国产精品不卡视频一区二区| 色播亚洲综合网| 在线天堂最新版资源| 久久久色成人| 日产精品乱码卡一卡2卡三| 成人二区视频| 亚洲国产精品专区欧美| 可以在线观看毛片的网站| 嫩草影院精品99| 久久精品国产亚洲av涩爱| 亚洲精品影视一区二区三区av| 国产精品久久久久久久电影| 少妇 在线观看| av国产免费在线观看| 亚洲av在线观看美女高潮| 大香蕉久久网| videossex国产| 亚洲欧美精品自产自拍| 亚洲欧美日韩另类电影网站 | 亚洲伊人久久精品综合| 青春草视频在线免费观看| 国产视频首页在线观看| 色综合色国产| 国产亚洲精品久久久com| freevideosex欧美| 亚洲国产成人一精品久久久| 成人国产av品久久久| 高清av免费在线| 亚洲精品一二三| 毛片一级片免费看久久久久| 国产女主播在线喷水免费视频网站| 少妇熟女欧美另类| 亚洲国产av新网站| 99久久精品一区二区三区| 青青草视频在线视频观看| 成人亚洲精品一区在线观看 | 色视频www国产| 亚洲怡红院男人天堂| 成人欧美大片| 嫩草影院新地址| 日本免费在线观看一区| 日韩一区二区三区影片| 少妇人妻 视频| 国产成人a区在线观看| 久久影院123| 色综合色国产| av女优亚洲男人天堂| 中文欧美无线码| 高清在线视频一区二区三区| 色哟哟·www| 亚洲在久久综合| 男插女下体视频免费在线播放| 纵有疾风起免费观看全集完整版| 欧美3d第一页| 国产伦精品一区二区三区视频9| 国产淫语在线视频| 日本av手机在线免费观看| 亚洲国产高清在线一区二区三| 97精品久久久久久久久久精品| 精华霜和精华液先用哪个| 国产大屁股一区二区在线视频| 激情 狠狠 欧美| 女人久久www免费人成看片| 在线免费十八禁| eeuss影院久久| 99热这里只有是精品50| 午夜亚洲福利在线播放| 国产有黄有色有爽视频| 成年免费大片在线观看| 亚洲精品乱久久久久久| 中国美白少妇内射xxxbb| 嫩草影院入口| 午夜日本视频在线| 亚洲精品乱码久久久v下载方式| 一级a做视频免费观看| 搞女人的毛片| 国产精品嫩草影院av在线观看| 久久国产乱子免费精品| 涩涩av久久男人的天堂| 美女xxoo啪啪120秒动态图| 熟女电影av网| 超碰97精品在线观看| 99久久中文字幕三级久久日本| 国产精品国产av在线观看| 天天躁日日操中文字幕| 亚洲精品日韩在线中文字幕| 极品少妇高潮喷水抽搐| 搡老乐熟女国产| 免费av不卡在线播放| 精品人妻熟女av久视频| 日韩中字成人| a级一级毛片免费在线观看| 男男h啪啪无遮挡| 亚洲一区二区三区欧美精品 | 亚洲精品国产色婷婷电影| 国产欧美亚洲国产| 国产 精品1| 26uuu在线亚洲综合色| 国产探花在线观看一区二区| 卡戴珊不雅视频在线播放| 成人毛片a级毛片在线播放| 国产精品蜜桃在线观看| 自拍欧美九色日韩亚洲蝌蚪91 | 久热这里只有精品99| 国产成人免费无遮挡视频| 久久久亚洲精品成人影院| 熟妇人妻不卡中文字幕| 97在线视频观看| 国产黄片美女视频| 麻豆乱淫一区二区| 国产精品一及| 亚洲精品一二三| 一区二区三区乱码不卡18| 亚洲真实伦在线观看| videos熟女内射| av在线天堂中文字幕| 天堂中文最新版在线下载 | 日韩av在线免费看完整版不卡| 内地一区二区视频在线| 嫩草影院精品99| 亚洲第一区二区三区不卡| 成人鲁丝片一二三区免费| 啦啦啦在线观看免费高清www| 精品少妇黑人巨大在线播放| 亚洲欧美中文字幕日韩二区| 亚洲国产av新网站| 亚洲精品一二三| 99久国产av精品国产电影| 国产精品成人在线| 成人美女网站在线观看视频| 最近中文字幕高清免费大全6| 久久久久久九九精品二区国产| 亚洲不卡免费看| 日韩三级伦理在线观看| 五月开心婷婷网| 人妻系列 视频| 国产男人的电影天堂91| 三级经典国产精品| 韩国av在线不卡| 亚洲精品色激情综合| 日本熟妇午夜| 欧美xxxx性猛交bbbb| 亚洲国产精品专区欧美| 特级一级黄色大片| 国产 精品1| 菩萨蛮人人尽说江南好唐韦庄| 伦精品一区二区三区| 久久久色成人| 99久久精品热视频| 中国美白少妇内射xxxbb| 男人爽女人下面视频在线观看| 国内揄拍国产精品人妻在线| 中国美白少妇内射xxxbb| 久久久色成人| 日韩制服骚丝袜av| 亚洲在久久综合| 最近的中文字幕免费完整| 高清日韩中文字幕在线| 久久久久国产网址| 少妇 在线观看| 黑人高潮一二区| 岛国毛片在线播放|