基于自監(jiān)督學習的多數(shù)據(jù)增廣時間序列分類算法

摘要：時間序列分類算法廣泛應用于醫(yī)療診斷、金融預測等領(lǐng)域。然而，在解決時間序列分類問題時，深度學習模型通常面臨數(shù)據(jù)標注困難等挑戰(zhàn)。為了克服這些困難，本文提出了一種基于自監(jiān)督學習的時間序列分類算法。該算法通過對時間序列片段進行數(shù)據(jù)增廣，并設(shè)計區(qū)分數(shù)據(jù)增廣形式的自監(jiān)督輔助任務(wù)來挖掘時間序列的局部信息，以提高分類性能。實驗結(jié)果表明，該算法在五個基準時間序列數(shù)據(jù)集上展現(xiàn)出優(yōu)異的分類性能，并超過了現(xiàn)有方法。

關(guān)鍵詞：時間序列分類；自監(jiān)督學習；數(shù)據(jù)增廣；局部特征；遷移學習

中圖分類號：TP181 文獻標識碼：A

文章編號：1009-3044（2024）22-0004-03

開放科學（資源服務(wù)）標識碼（OSID）

0 引言

時間序列數(shù)據(jù)廣泛存在于現(xiàn)實世界，如交通分析、醫(yī)療診斷、金融預測和工業(yè)檢測等領(lǐng)域[1-3]。挖掘時間序列數(shù)據(jù)的信息有助于分析現(xiàn)實情況，進行科學決策。例如，研究人員通過分析心電圖、腦電圖等醫(yī)學數(shù)據(jù)來判斷病人的身體狀況，根據(jù)當前股票價格、匯率等金融數(shù)據(jù)預測股市未來發(fā)展趨勢等。因此，研究時間序列分類算法是具有現(xiàn)實意義的。

近年來，已有大量學者將深度學習模型應用于時間序列分類任務(wù)中[4-7]。XIAO等人[8]分別使用時間特征網(wǎng)絡(luò)提取數(shù)據(jù)局部特征和注意力網(wǎng)絡(luò)提取數(shù)據(jù)內(nèi)在關(guān)系，然后結(jié)合兩種特征進行時間序列分類。DEMPSTER等人[9]提出一種利用隨機大小和權(quán)重的卷積核來提取時域信息的方法，該方法可以提取多種數(shù)據(jù)特征從而提高時間序列分類效果。自監(jiān)督學習作為一種新的學習范式[10]，其能夠利用輔助任務(wù)從大量無標簽數(shù)據(jù)中挖掘出有效的數(shù)據(jù)信息。SHI等人[11]設(shè)計了自動去噪和時間序列數(shù)據(jù)相似性判別的自監(jiān)督任務(wù)，該方法提高時間序列分類效果。LIU等人[12]根據(jù)心電信號數(shù)據(jù)的實際特點在數(shù)據(jù)上面疊加任意頻率和幅度的正弦波以及疊加隨機噪聲進行數(shù)據(jù)增廣，從而提高分類效果。但是監(jiān)督學習需要大量標簽數(shù)據(jù)進行訓練，而對數(shù)據(jù)標注則需要耗費大量的時間和人力成本。自監(jiān)督學習可以緩解時間序列分類領(lǐng)域標記困難的問題。

目前，自監(jiān)督學習在時間序列分類領(lǐng)域已經(jīng)得到了大量的研究[13]。FAN等人[14]通過學習時間序列數(shù)據(jù)之間和內(nèi)部的關(guān)系來學習未標記數(shù)據(jù)的潛在特征。該方法設(shè)置錨樣本和其他樣本進行組合，然后讓模型學習區(qū)分每種組合。YEHUDA等人[15]基于Koopman定理[16]，通過自動編碼器學習時間序列數(shù)據(jù)的特征表示，在ECG等數(shù)據(jù)集上取得優(yōu)異效果。ISMAIL-FAWAZ等人[17]將時間序列分成三段，利用自動編碼器進行特征表示，然后使用三重損失函數(shù)更新模型參數(shù)。然而，上述的自監(jiān)督時間序列分類算法的輔助任務(wù)大多是簡單任務(wù)，缺乏對數(shù)據(jù)信息的深度挖掘，且沒有充分利用無標簽數(shù)據(jù)。

因此，本文提出一個基于自監(jiān)督學習的多數(shù)據(jù)增廣時間序列分類算法，通過設(shè)置特定的多數(shù)據(jù)增廣分類任務(wù)來挖掘數(shù)據(jù)的局部特征，既緩解了數(shù)據(jù)標注的困難，又提高了下游時間序列分類效果。本文的主要貢獻包括：

1）本文提出了一種基于自監(jiān)督的時間序列分類算法，通過設(shè)置區(qū)分數(shù)據(jù)增廣形式的分類輔助任務(wù)來挖掘時間序列數(shù)據(jù)的局部信息，從而提高分類性能。

2）在五個基準時間序列數(shù)據(jù)集上進行實驗驗證，結(jié)果表明該算法具有優(yōu)異的分類性能。

1 基于自監(jiān)督學習的時間序列分類算法

本文詳細介紹了基于自監(jiān)督學習的時間序列分類算法的具體步驟。該算法主要分為兩個階段：自監(jiān)督預訓練階段和監(jiān)督微調(diào)階段。自監(jiān)督預訓練階段如圖1所示，利用無標簽數(shù)據(jù)進行訓練。監(jiān)督微調(diào)階段如圖2所示，利用有標簽數(shù)據(jù)對預訓練模型進行微調(diào)。算法的特征提取器部分使用一維ResNet網(wǎng)絡(luò)[18]。

令訓練集為[Dtrain=x1，y1，x2，y2，...，xN，yN]，其中[xi=v1，v2，...，vd]表示長度為[d]的時間序列，子序列記為[xi，j]，其中[yi∈1，2，...，C]是時間序列[xi]對應的標簽，[C]表示類標簽個數(shù)。令[??;θ]表示一維ResNet特征提取器，其中[θ]是網(wǎng)絡(luò)參數(shù)；[g?;?]表示全連接分類器，其中[?]是網(wǎng)絡(luò)參數(shù)；[h?;φ]表示帶一層CNN的全連接分類器，其中[φ]表示網(wǎng)絡(luò)參數(shù)。

1.1 自監(jiān)督訓練

為了挖掘時間序列數(shù)據(jù)的局部特征，本文對時間子序列進行了數(shù)據(jù)增廣和混合增廣操作，并設(shè)置區(qū)分數(shù)據(jù)增廣形式的分類輔助任務(wù)。數(shù)據(jù)增廣方式包括隨機噪聲、數(shù)據(jù)抖動、上下采樣以及混合增廣（包含任意兩種基礎(chǔ)增廣方法）。

對給定時間序列數(shù)據(jù)[x=v1，v2，...，vd]，進行數(shù)據(jù)增廣操作。

1） 隨機噪聲：隨機生成高斯分布噪聲[G=g1，g2，...，gd]對子序列[xi，j]添加噪聲，如公式（1）所示：

[vi=vi+gi] （1）

2） 數(shù)據(jù)抖動：隨機生成兩個參數(shù)[α]，[β]，其中[α>1]，[β<1]，對子序列[xi，j]進行抖動，如公式（2）所示：

[v=vi?αif i mod 2=0 vi?βotherwise] （2）

3） 上下采樣：令[k=i+j2]，對子序列[xi，j]進行上下采樣，如公式（3）所示：

[v=-1if i <=k 1otherwise] （3）

對時間序列數(shù)據(jù)[x=v1，v2，...，vd]進行數(shù)據(jù)增廣操作后得到[x=v1，...，vi，...，vj，...，vd]，并為增廣數(shù)據(jù)[x]添加相應的偽標簽[y]，為了增加樣本數(shù)量和擴大特征提取范圍，隨機選擇兩個基礎(chǔ)增廣方法進行組合，形成新的增廣數(shù)據(jù)，最后得到新的自監(jiān)督訓練集[Daug=x1，y1，x2，y2，...，xn，yn]。令時間序列數(shù)據(jù)經(jīng)過特征提取器后得到高級特征[zi=?（xi，θ）]，[zi]經(jīng)過分類器后的類別概率為[pi=g（zi，?）]。損失函數(shù)使用交叉熵損失函數(shù)[Lcls]，其中[Daug]表示[Daug]數(shù)據(jù)集的類別數(shù)，如公式（4）所示：

[Lcls=-1Daugi=1Daugyilogpi] （4）

最后，利用特征提取器提取高級特征[zi]，并使用分類器[h?;φ]區(qū)分源數(shù)據(jù)經(jīng)過了何種數(shù)據(jù)增廣，然后利用梯度下降算法更新特征提取器網(wǎng)絡(luò)參數(shù)，完成自監(jiān)督預訓練。

1.2 監(jiān)督訓練時間序列分類

在完成自監(jiān)督預訓練后，將特征提取器參數(shù)遷移到真實標簽數(shù)據(jù)上進行微調(diào)。利用訓練集[Dtrain=x1，y1，x2，y2，...，xN，yN]進行微調(diào)，經(jīng)過特征提取器得到[zi=?（xi，θ）]，然后經(jīng)過分類器[h?;φ]得到類別概率[pi=h（zi，φ）]。損失函數(shù)使用交叉熵損失函數(shù)，其中[Dtrain]表示[Dtrain]數(shù)據(jù)集的類別數(shù)，如公式（5）所示：

[LCE=-1Dtraini=1Dtrainyilogpi] （5）

2 實驗結(jié)果與分析

本節(jié)將介紹基于自監(jiān)督學習的時間序列分類算法的實驗結(jié)果和分析，包括實驗數(shù)據(jù)集、評價指標、自監(jiān)督驗證實驗、對比實驗、消融實驗等。

2.1 實驗設(shè)置以及評價指標

實驗在The UCR time series archive[19]的5個標準時間序列數(shù)據(jù)集上進行，其中數(shù)據(jù)集按照80%訓練集和20%測試集進行分配。具體數(shù)據(jù)集細節(jié)如表1所示。本文采用時間序列分類領(lǐng)域常用的準確率[accuracy]作為評價指標。

2.2 自監(jiān)督驗證實驗

為了驗證自監(jiān)督預訓練的有效性，本文設(shè)置了自監(jiān)督驗證實驗。實驗分為三種類型：（1） 監(jiān)督：直接使用初始化特征提取器參數(shù)進行有監(jiān)督訓練；（2） 凍結(jié)：凍結(jié)預訓練后特征提取器參數(shù)，只訓練分類器；（3） 微調(diào)：加載預訓練后特征提取器參數(shù)進行微調(diào)訓練。實驗過程中發(fā)現(xiàn)，使用全連接分類器[g?;?]和帶一層CNN的全連接分類器[h?;φ]對實驗精度有不同的影響。實驗結(jié)果如表2所示。

實驗結(jié)果表明，模型經(jīng)過自監(jiān)督預訓練后再微調(diào)的準確率往往高于直接使用初始化參數(shù)進行訓練的準確率，這驗證了自監(jiān)督預訓練的有效性。

實驗結(jié)果還表明，使用帶一層卷積的全連接分類器[h?;φ]比全連接分類器[g?;?]的效果好。這是因為分類器的一層卷積網(wǎng)絡(luò)可以對特征提取器得到的高級特征進行特征精煉操作，精煉后的特征更有利于全連接分類器分類。此外，模型增加一層卷積也提升了模型的泛化能力。

因此下文的對比實驗以及消融實驗均使用帶一層卷積的全連接分類器[h?;φ]，并進行微調(diào)。

2.3 對比實驗

本節(jié)將本文提出的算法與現(xiàn)有的算法進行對比。 實驗分別采用20%、40%和100%的訓練集數(shù)據(jù)對模型進行微調(diào)，并比較算法的準確率。實驗結(jié)果如表 3 所示。

2.4 消融實驗

為了進一步驗證本文提出的算法的有效性，在數(shù)據(jù)集CricketX上進行了消融實驗。實驗分別為：1） 預訓練只進行經(jīng)過3種基礎(chǔ)數(shù)據(jù)增廣的3分類任務(wù)，記為3-classification；2） 預訓練只進行經(jīng)過3種基礎(chǔ)數(shù)據(jù)增廣兩兩混合的3分類任務(wù)，記為3-mix-classification；3） 預訓練經(jīng)過基礎(chǔ)和混合數(shù)據(jù)增廣的6分類任務(wù)，記為self-supervised。實驗結(jié)果如表4所示。

實驗結(jié)果表明，自監(jiān)督任務(wù)的復雜程度對模型性能有一定的影響。從上述實驗可以看出，復雜的自監(jiān)督任務(wù)往往能取得更好的效果。預訓練階段的自監(jiān)督任務(wù)有助于提升模型性能，相較于直接使用初始化參數(shù)訓練，更容易得到更好的效果。此外，模型適當挖掘數(shù)據(jù)自身局部信息有助于自監(jiān)督預訓練。

3 結(jié)束語

針對時間序列數(shù)據(jù)標記困難的問題，本文提出了一種基于自監(jiān)督學習的時間序列分類算法。該算法通過挖掘時間序列數(shù)據(jù)的局部特征進行自監(jiān)督預訓練，在基準數(shù)據(jù)集上的實驗結(jié)果表明，所設(shè)計的自監(jiān)督方案有助于提高模型性能。

參考文獻：

[1] HARUTYUNYAN H，KHACHATRIAN H，KALE D C，et al.Multitask learning and benchmarking with clinical time series data[J].Scientific Data，2019，6（1）：96.

[2] REZAEI S，LIU X.Deep learning for encrypted traffic classification：an overview[J].IEEE Communications Magazine，2019，57（5）：76-81.

[3] SEZER O B，GUDELEK M U，OZBAYOGLU A M.Financial time series forecasting with deep learning：a systematic literature review：2005–2019[J].Applied Soft Computing，2020，90：106181.

[4] ISMAIL FAWAZ H，F(xiàn)ORESTIER G，WEBER J，et al.Deep learning for time series classification：a review[J].Data Mining and Knowledge Discovery，2019，33（4）：917-963.

[5] LIM B，ZOHREN S.Time-series forecasting with deep learning：a survey[J].Philosophical Transactions Series A，Mathematical，Physical，and Engineering Sciences，2021，379（2194）：20200209.

[6] BLáZQUEZ-GARCíA A，CONDE A，MORI U，et al.A review on outlier/anomaly detection in time series data[J].ACM Computing Surveys，2022，54（3）：1-33.

[7] MOHAMMADI FOUMANI N，MILLER L，TAN C W，et al.Deep learning for time series classification and extrinsic regression：a current survey[J].ACM Computing Surveys，2024，56（9）：1-45.

[8] XIAO Z W，XU X，XING H L，et al.RTFN：a robust temporal feature network for time series classification[EB/OL].2020：arXiv：2011.11829.http：//arxiv.org/abs/2011.11829

[9] DEMPSTER A，PETITJEAN F，WEBB G I.ROCKET：exceptionally fast and accurate time series classification using random convolutional kernels[J].Data Mining and Knowledge Discovery，2020，34（5）：1454-1495.

[10] JING L L，TIAN Y L.Self-supervised visual feature learning with deep neural networks：a survey[J].IEEE Transactions on Pattern Analysis and Machine Intelligence，2021，43（11）：4037-4058.

[11] SHI P X，YE W W，QIN Z.Self-supervised pre-training for time series classification[C]//2021 International Joint Conference on Neural Networks （IJCNN）.Shenzhen，China.IEEE，2021：1-8.

[12] LIU H，ZHAO Z B，SHE Q.Self-supervised ECG pre-training[J].Biomedical Signal Processing and Control，2021，70：103010.

[13] ZHANG K X，WEN Q S，ZHANG C L，et al.Self-supervised learning for time series analysis：taxonomy，progress，and prospects[J].IEEE Transactions on Pattern Analysis and Machine Intelligence，2024，PP：PP.

[14] FAN H Y，ZHANG F B，GAO Y.Self-supervised time series representation learning by inter-intra relational reasoning[EB/OL].2020：arXiv：2011.13548.http：//arxiv.org/abs/2011.13548.

[15] YEHUDA Y，F(xiàn)REEDMAN D，RADINSKY K.Self-supervised classification of clinical multivariate time series using time series dynamics[C]//Proceedings of the 29th ACM SIGKDD Conference on Knowledge Discovery and Data Mining.Long Beach CA USA.ACM，2023：5416-5427.

[16] MEZI? I.Spectral properties of dynamical systems，model reduction and decompositions[J].Nonlinear Dynamics，2005，41（1）：309-325.

[17] ISMAIL-FAWAZ A，DEVANNE M，WEBER J，et al.Enhancing time series classification with self-supervised learning[C]//Proceedings of the 15th International Conference on Agents and Artificial Intelligence.February 22-24，2023.Lisbon，Portugal.SCITEPRESS-Science and Technology Publications，2023：40-47.

[18] HE K M，ZHANG X Y，REN S Q，et al.Deep residual learning for image recognition[C]//2016 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）.Las Vegas，NV，USA.IEEE，2016：770-778.

[19] JAWED S，GRABOCKA J，SCHMIDT-THIEME L.Self-supervised learning for semi-supervised time series classification[M]//Advances in Knowledge Discovery and Data Mining.Cham：Springer International Publishing，2020：499-511.

[20] XI L，YUN Z C，LIU H，et al.Semi-supervised time series classification model with self-supervised learning[J].Engineering Applications of Artificial Intelligence，2022，116：105331.

【通聯(lián)編輯：唐一東】