基于LSTM特征提取的有限新息率畸變信號重構(gòu)

劉 狄，錢 慧，王中風(fēng)

（1.福州大學(xué)物理與信息工程學(xué)院，福建福州 350108；2.南京大學(xué)電子科學(xué)與工程學(xué)院，江蘇南京 210023）

1 引言

近年來，隨著信息技術(shù)的飛速發(fā)展，虛擬現(xiàn)實、自動駕駛等新興的技術(shù)層出不窮，信息系統(tǒng)的處理帶寬不斷向?qū)挵l(fā)展.然而，依據(jù)經(jīng)典的香農(nóng)采樣定理，信息系統(tǒng)的最低處理速率必須大于信號的兩倍帶寬，這給信息的捕獲、傳輸和存儲都帶來了嚴(yán)峻的挑戰(zhàn)［1］.近三十年以來，利用信號的先驗信息，如信號的波形結(jié)構(gòu)，以低于信號兩倍帶寬的采樣速率采集和處理信號的方法成為研究領(lǐng)域的重點課題.研究學(xué)者們陸續(xù)提出了有限新息率采樣（Finite Rate of Innovation，F(xiàn)RI）［2～4］、壓縮采樣（Compressive Sampling，CS）［5］等現(xiàn)代采樣方法.其中，F(xiàn)RI 依據(jù)信號的自由度（Degree of Freedom，DoF）而不是信號的帶寬采集信號，可以以遠(yuǎn)低于Nyquist 率的采樣速率采集信號所攜帶的信息.目前，F(xiàn)RI 已經(jīng)在超寬帶信號系統(tǒng)、雷達系統(tǒng)等領(lǐng)域展現(xiàn)出了巨大的應(yīng)用前景［6］.

經(jīng)典的FRI 采樣方法以信號波形結(jié)構(gòu)先驗已知為基礎(chǔ)，利用Sinc 或高斯采樣核函數(shù)在采集前端提取信號的參數(shù)信息.在理想條件下，F(xiàn)RI 可以利用零化濾波器［7］、子空間［8］等現(xiàn)代譜估計方法無失真再生波形信號.但是在真實的物理世界中，受噪聲、非線性效應(yīng)等非理想因素的影響，信號的波形結(jié)構(gòu)往往會發(fā)生一定的變化，從而導(dǎo)致FRI 的重構(gòu)性能急劇下降.為了增強FRI 采樣系統(tǒng)的魯棒性，研究者們陸續(xù)提出了Cadzow降噪［9］、波形再生［10］、模型匹配［11］等一系列優(yōu)化重構(gòu)的方法.這些研究都是以高斯白噪聲為基礎(chǔ)，噪聲信號與原始波形結(jié)構(gòu)不相干.而在實際的通信系統(tǒng)中，信號的波形結(jié)構(gòu)常常會受非線性放大、傳輸延遲等多種因素的影響，導(dǎo)致多個脈沖相互重疊，從而產(chǎn)生嚴(yán)重的畸變.當(dāng)輸入信號的波形畸變達到一定程度時，特別是波形展寬導(dǎo)致前后兩個脈沖重疊時，F(xiàn)RI基本無法重構(gòu)原始波形信號.因此，波形結(jié)構(gòu)未知條件下的FRI 重構(gòu)成為FRI研究領(lǐng)域的難點.

利用已知函數(shù)的線性組合對信號波形進行擬合再生是目前FRI 研究領(lǐng)域解決波形結(jié)構(gòu)未知的主要方法.2016 年，Dragotti 等人［12］利用指數(shù)再生核擬合FRI信號波形，利用原始信號的部分傅里葉系數(shù)重建原始信號的小波系數(shù)，該方法要求輸入脈沖必須滿足小波稀疏的前提條件，因此重構(gòu)方法的復(fù)雜度相對較高.2017 年，Vetterli 等人［13］提出基于有限個洛倫茲函數(shù)的擬合方法，可以有效重構(gòu)脈寬可變的FRI 信號，該方法可以分別設(shè)置脈沖波形的脈寬參數(shù)，從而可以擬合現(xiàn)有信息系統(tǒng)大部分波形.2018 年，Nagesh 等人［14］利用多種不同階次的高斯函數(shù)組合對心電信號進行了擬合，實現(xiàn)對復(fù)雜、時變自然信號的有效重構(gòu).以上這些方法都需要預(yù)先設(shè)定擬合波形函數(shù)的階次、帶寬等基本信息，所消除的波形畸變程度有限.而且在實際的通信系統(tǒng)中，大多數(shù)信號是具有一定的時變特性的平穩(wěn)信號，固定的波形擬合方法將無法解決時變情況下的波形具有多種畸變模式的問題.

為了改善波形畸變情況對重構(gòu)方法的影響，本文提出利用深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Network，DNN）的學(xué)習(xí)FRI 畸變波形信息，提升畸變FRI 信號的重構(gòu)性能.近年來，研究者們開始探索利用DNN 提升噪聲中FRI 重構(gòu)性能的方法.文獻［15］和文獻［16］探索了基于卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNN）的含噪FRI 信號的重構(gòu)問題.文獻［17］討論了極低信噪比下FRI 信號的殘差神經(jīng)網(wǎng)絡(luò)（Residual Neural Networks，RNN）的重構(gòu)方法.基于DNN 的FRI 重構(gòu)方法的研究剛剛興起，據(jù)悉，目前尚未有文獻討論波形畸變FRI 信號的DNN 重構(gòu)問題.本文首次提出以長短時記憶（Long and Short Term Memory，LSTM）網(wǎng)絡(luò)為基礎(chǔ)構(gòu)建面向畸變FRI 信號采集的自動編碼器（Auto Encoder，AE），將發(fā)生畸變波形的亞奈奎斯特率樣本轉(zhuǎn)化為狄拉克特征序列，利用基于Cadzow 降噪的零化濾波器（Annihilating Filter，AF）算法重構(gòu)FRI 信號的未知參數(shù)，重構(gòu)Nyquist樣本.本文的主要貢獻如下所述.

（1）針對FRI信號由于多徑效應(yīng)而造成的波形結(jié)構(gòu)改變問題，提出一種基于模板匹配的LSTM 特征提取方法，通過設(shè)計基于LSTM 的AE，建立FRI 信號與其特征序列之間的映射模型，從而在信號波形發(fā)生畸變后，獲得最優(yōu)模板匹配系數(shù).

（2）針對FRI 信號的畸變問題，依據(jù)理想脈沖與畸變脈沖之間的相互關(guān)系，構(gòu)建畸變FRI 信號模型.之后，依據(jù)FRI 畸變模型的線性回歸特性，構(gòu)建基于多層LSTM 網(wǎng)絡(luò)的AE，通過離線訓(xùn)練和在線推理的模式，實現(xiàn)畸變FRI信號的實時采集及重構(gòu).

2 問題的提出

2.1 有限新息率采樣

考慮一個帶寬為BWHz，新息率為ρ=2K/Tτ的波形信號x(t).該信號可以表示為

在FRI 采樣系統(tǒng)中，通常采用一個帶寬為B≥ρ的采樣核函數(shù)φ*(·)對輸入信號x(t)進行濾波處理，然后以fs≥2B的速率對濾波后的信號y(t)進行采樣，獲得長度為N的Sub-Nyquist樣本yn，即

當(dāng)輸入信號波形結(jié)構(gòu)φ(·)已知時，可以通過設(shè)計φ*(·)，使得φ′(·)成為Sinc 函數(shù).由于N=Tτ/Ts，式（3）可以表示為

依據(jù)信號的周期性，對式（4）進行傅里葉級數(shù)展開，可以得到

2.2 波形畸變與FRI信號重構(gòu)

信號波形結(jié)構(gòu)先驗已知是FRI 采樣系統(tǒng)獲得成功重構(gòu)的必要條件之一.然而，在實際的信息系統(tǒng)中，如超寬帶、雷達等，F(xiàn)RI 信號的波形結(jié)構(gòu)往往因傳輸環(huán)境的影響而產(chǎn)生畸變.如圖1（a）所示，原始的FRI信號經(jīng)過采樣后得到的樣本可以利用譜估計方法獲得FRI信號各個脈沖的時延和幅度信息.圖1（b）顯示，由于多徑效應(yīng)產(chǎn)生的一路回波使得原始信號的波形發(fā)生畸變，最終重構(gòu)結(jié)果與原始信號參數(shù)存在一定的偏差.

圖1 波形畸變示意圖

3 基于深度神經(jīng)網(wǎng)絡(luò)的FRI采樣系統(tǒng)

本文將波形畸變信號視為波形結(jié)構(gòu)未知的信號，依據(jù)模型匹配的思想，分析基于深度神經(jīng)網(wǎng)絡(luò)的波形畸變FRI信號特征序列的提取方法.

3.1 基于深度神經(jīng)網(wǎng)絡(luò)的FRI模型匹配

圖2顯示了基于模型匹配的FRI重構(gòu)系統(tǒng).當(dāng)信號波形函數(shù)滿足廣義Strang-Fix 條件時，可以依據(jù)再生采樣的基本原理［10］，構(gòu)建B樣條指數(shù)再生采樣核函數(shù)，即

圖2 基于模型匹配的FRI重構(gòu)

匹配模型參數(shù)βm,n，將式（3）所示采樣樣本yn映射為特征序列，即

當(dāng)FRI 信號波形結(jié)構(gòu)先驗已知時，可以設(shè)定B 樣條階數(shù)m，獲得已知波形結(jié)構(gòu)的采樣核再生參數(shù)βm,n.但是，當(dāng)信號波形發(fā)生畸變以后，信號的波形結(jié)構(gòu)未知，此時無法獲得再生采樣核的匹配參數(shù)βm,n.定義θ為FRI信號幅度參數(shù)和時延參數(shù)的集合，構(gòu)造函數(shù)fθ，即

其中，W為輸入樣本和估計特征序列之間的加權(quán)系數(shù)，是對βm,n的近似；b是偏置項.

通過最小化代價函數(shù)（如式（9）所示）訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，從而獲得包含幅度參數(shù)和時延參數(shù)的參數(shù)集合θ，即

3.2 網(wǎng)絡(luò)的FRI采樣系統(tǒng)

依據(jù)上一小節(jié)的分析，本文構(gòu)建基于深度神經(jīng)網(wǎng)絡(luò)的FRI 采樣系統(tǒng).如圖3 所示，該系統(tǒng)主要包括離線訓(xùn)練和在線推理兩個部分.在離線訓(xùn)練中，采樣系統(tǒng)利用FRI 采樣系統(tǒng)所獲得的畸變信號樣本庫構(gòu)建訓(xùn)練集合，獲得Sub-Nyquist 樣本和特征序列之間的映射系數(shù)集合.在獲得特征映射集合后，F(xiàn)RI 采樣系統(tǒng)利用深度神經(jīng)網(wǎng)絡(luò)所獲得的最優(yōu)映射系數(shù)，將采樣樣本映射為特征序列，之后利用基于Cadzow降噪的AF 方法重構(gòu)原始無畸變FRI 信號.

圖3 基于深度神經(jīng)網(wǎng)絡(luò)的FRI采樣系統(tǒng)基本結(jié)構(gòu)

4 基于LSTM 自編碼器的FRI 畸變信號采樣及重構(gòu)

本節(jié)通過構(gòu)建畸變FRI信號的基本模型，確定畸變信號的特征序列是原始信號多個不同時延副本的加權(quán)和，因此考慮利用LSTM 網(wǎng)絡(luò)構(gòu)建自動編碼器，獲得畸變FRI的特征序列估計.

4.1 畸變FRI信號模型

由于FRI 畸變信號是多個已知脈沖在不同時延副本的加權(quán)和，在實際場景中存在回波的情況而引發(fā)多徑效應(yīng)，因此可以將畸變FRI信號x′(t)表示為

其中，I表示共有I條路徑反射原始FRI信號；ai表示第i條路徑的反射系數(shù)；ti表示第i條路徑的延時；ε(t)為加性高斯白噪聲.

將式（10）所示畸變FRI 信號送入FRI 采樣系統(tǒng)，依據(jù)式（2）和式（3），在采樣時刻n，定義nl=Tτ/Ts，采樣系統(tǒng)獲得Sub-Nyquist采樣樣本可以表示為

其中，第1 項是確定FRI 信號特征序列的主要依據(jù)，而后面的第2 項則可以認(rèn)為是引發(fā)FRI 信號波形畸變的干擾項.顯然，可以通過深度神經(jīng)網(wǎng)絡(luò)獲得第1 項和干擾項的匹配系數(shù)和

4.2 面向FRI重構(gòu)的LSTM 網(wǎng)絡(luò)結(jié)構(gòu)

本文考慮利用LSTM 網(wǎng)絡(luò)對FRI 畸變信號進行編碼，提取信號的特征序列，并通過最小化式（9）所示的代價函數(shù)來訓(xùn)練網(wǎng)絡(luò)參數(shù).如圖4 所示，LSTM網(wǎng)絡(luò)模型由輸入層、LSTM 層、全連接層與輸出層組成.網(wǎng)絡(luò)的輸入為FRI 采樣獲得的樣本yn，采樣樣本的長度為N=4K+1.LSTM 層由若干個LSTM 單元構(gòu)成，主要學(xué)習(xí)樣本yn中所包含的隱含特征.全連接層將LSTM 層所學(xué)習(xí)的波形特征進行映射并降維，并由輸出層輸出LSTM 網(wǎng)絡(luò)所估計的特征.LSTM 模型f(W,b,yn)由LSTM 結(jié)構(gòu)中的三個基本門單元與上一時刻的細(xì)胞狀態(tài)與輸出共同決定.在期望特征序列的監(jiān)督下，依據(jù)式（9）所示的代價函數(shù)，可以通過隨機梯度下降算法更新模型中的參數(shù)W與b，獲得輸入樣本yn到特征序列的映射加權(quán)系數(shù)

圖4 基于LSTM的波形預(yù)測模型

LSTM 模型中遺忘門決定上一時刻LSTM 單元的細(xì)胞狀態(tài)中的波形信息的保留和丟棄，讀取上一時刻LSTM 單元的輸出ht-1和這一時刻LSTM 單元的輸入yn,t，然后通過激活函數(shù)sigmoid(x)過濾信息.依據(jù)式（11），遺忘門的輸出可以表示為

其中，σ表示sigmoid函數(shù).

遺忘門輸出為0 到1 之間的數(shù)，并通過與上一時刻的細(xì)胞狀態(tài)Ct-1相乘，控制對上一個時刻細(xì)胞狀態(tài)Ct-1的遺忘程度.當(dāng)遺忘門輸出等于1時表示完全保留上一個時刻的細(xì)胞狀態(tài)信息，輸出等于0時表示完全遺忘上一時刻的細(xì)胞狀態(tài)信息.在采樣得到的樣本中存在畸變波形的信息，可以充分利用FRI信號表達式（11）中無畸變脈沖和畸變脈沖之間的相互性，通過遺忘門的選擇消除波形中的畸變項φ′(t/Ts-n-nl)，使得畸變模波形信息不會影響當(dāng)前時刻的細(xì)胞狀態(tài).

模型中的輸入門決定上一時刻LSTM單元的細(xì)胞狀態(tài)中添加新的信息，其讀取上一時刻LSTM 單元的輸出ht-1和這一時刻LSTM 單元的輸入yn,t，通過激活函數(shù)sigmoid 函數(shù)進行激活并通過激活函數(shù)tanh(x)=(exe-x)/(ex+e-x)得到候選向量，輸入層表達式可以表示為

輸入門提取樣本中時延信息與幅度信息的特征序列，記錄時延信息與幅度信息的特征產(chǎn)生候選向量，通過候選向量與輸入門輸出共同作用更新細(xì)胞狀態(tài)中的時延信息與幅度信息.LSTM 單元通過候選向量以及輸入門的輸出共同作用決定向細(xì)胞狀態(tài)中添加部分這一時刻輸入的樣本中的，并通過遺忘門遺忘上一時刻的部分畸變波形的信息來更新細(xì)胞狀態(tài)，具體表示為

輸出門決定這一時刻LSTM 單元的最終輸出，其由更新后的細(xì)胞狀態(tài)、上一時刻LSTM 單元的輸出以及這一時刻的輸入決定，其表達式為

圖4中的H*包含了細(xì)胞狀態(tài)C*和輸出h*.根據(jù)模型結(jié)構(gòu)，可以估計最終的結(jié)果為

5 實驗結(jié)果與分析

5.1 實驗設(shè)置及數(shù)據(jù)集

本文的實驗主要在MATLAB仿真環(huán)境下進行，實驗搭建了多層LSTM網(wǎng)絡(luò)用于FRI信號重構(gòu).實驗在MATLAB 仿真平臺中構(gòu)建了所需數(shù)據(jù)集，具體參數(shù)如表1所示.依據(jù)表1所示參數(shù)，本文隨機生成了10000組長度為21的FRI信號，利用FRI信號對應(yīng)的Sub-Nyquist樣本和特性序列組成了數(shù)據(jù)集.數(shù)據(jù)集被分為訓(xùn)練集和測試集，每種樣本組數(shù)分別為7000組和3000組.

表1 數(shù)據(jù)集基本參數(shù)

5.2 無噪聲條件下網(wǎng)絡(luò)有效性驗證

為驗證本文方法的有效性，在無噪聲干擾條件下進行了仿真.仿真分別在存在無干擾和存在多徑干擾的條件下進行.仿真結(jié)果如圖5（a）所示，其中藍色實線表示原始信號的Nyquist 樣本，紅色實線代表重構(gòu)出的參數(shù)，圖中結(jié)果顯示本文方法在無干擾情況下可以準(zhǔn)確估計原始信號參數(shù).圖5（b）顯示了FRI 信號在多徑效應(yīng)下的重構(gòu)結(jié)果，其中藍色實線表示原始信號的Nyquist 樣本，紅色實線代表原始信號的參數(shù)，黃色虛線表示本文方法估計的參數(shù).在圖5（b）中由于多徑效應(yīng)，接受波形與原始波形存在偏差，實驗結(jié)果顯示，在畸變情況下，本文的方法依然可以獲得良好的重構(gòu).

圖5 無噪聲情況下重構(gòu)結(jié)構(gòu)

5.3 不同網(wǎng)絡(luò)層數(shù)下的重構(gòu)性能

為驗證本文方法不同LSTM 層層數(shù)對估計原始信號參數(shù)的影響，本節(jié)針對不同的LSTM 層數(shù)在不同路徑數(shù)下的重構(gòu)性能進行仿真.在本節(jié)，本文利用重構(gòu)信號的均方誤差（Mean Square Error，MSE）來評價系統(tǒng)的重構(gòu)質(zhì)量，即

其中，x為原始信號的Nyquist 樣本；xrec為重構(gòu)信號的Nyquist樣本.

圖6 顯示了3000 個測試數(shù)據(jù)在不同LSTM 網(wǎng)絡(luò)層數(shù)以及不同路徑數(shù)情況下的重構(gòu)性能.在無多徑效應(yīng)影響的狀況下，LSTM 層數(shù)對重構(gòu)性能影響較小，2層與3 層重構(gòu)性能較為接近，與1 層相比重構(gòu)性能提升較小.一旦信號由于多徑效應(yīng)發(fā)生畸變以后，2 層LSTM的重構(gòu)性能相對于1 層LSTM 的重構(gòu)性能具有較明顯的提升，但3層LSTM 網(wǎng)絡(luò)相對于2層LSTM 網(wǎng)絡(luò)的重構(gòu)性能提升但不顯著.隨著路徑數(shù)的增加，不同層數(shù)LSTM 網(wǎng)絡(luò)重構(gòu)性能均下降.但是在路徑數(shù)為2～4 時，2層、3層LSTM 網(wǎng)絡(luò)相對于1層LSTM 網(wǎng)絡(luò)的重構(gòu)性能均有提升，而3 層LSTM 與2 層LSTM 的重構(gòu)性能相近.顯然，無論有、無多徑的影響，多層LSTM 網(wǎng)絡(luò)重構(gòu)性能高于單層LSTM 網(wǎng)絡(luò)，但是網(wǎng)絡(luò)層數(shù)的增加不能進一步有效地提升信號的重構(gòu)性能.

圖6 無噪聲條件下不同LSTM層層數(shù)在不同路徑數(shù)情況下的重構(gòu)信噪比

5.4 噪聲情況下的重構(gòu)性能對比

本文選用了Cadzow 降噪+AF 重構(gòu)方法［5］與本文中的3 層LSTM 網(wǎng)絡(luò)+AF 重構(gòu)方法進行了對比.Cadzow 降噪+AF 重構(gòu)方法是FRI 重構(gòu)的經(jīng)典方法之一.本文選用無畸變信號的Cadzow 降噪+AF 重構(gòu)性能作為兩種算法的參照，對比分析波形畸變對于重構(gòu)算法的影響.在實驗中，為了和現(xiàn)有FRI 重構(gòu)方法進行有效對比，本文采用關(guān)于時延和幅度參數(shù)的MSE 作為評價FRI 重構(gòu)算法的性能度量指標(biāo)，即

其中，{tk,ck}為原始信號的時延參數(shù)和幅值參數(shù)為重構(gòu)信號的實驗參數(shù)和幅值參數(shù).

圖7（a）～圖7（f）顯示了輸入信噪比（Signal to Noise Ratio，SNR）為-10～30 dB時，不同路徑數(shù)情況下本文算法與經(jīng)典算法的重構(gòu)性能對比.本文的方法在仿真過程采用的最小脈沖間隔為0.01，脈沖寬度為0.01.在路徑數(shù)為2～4時，由圖7可以看出，本文方法的重構(gòu)性能在不同路徑數(shù)下均較為穩(wěn)定.通過對比無畸變波形的Cadzow+AF 重構(gòu)性能可以發(fā)現(xiàn)，在噪聲和多徑效應(yīng)的影響下，重構(gòu)波形的時延參數(shù)和幅度參數(shù)都產(chǎn)生了巨大的變化.由于Cadzow+AF 極易受到噪聲的影響，因此隨著信噪比的增加，無畸變情況下的Cadzow+AF重構(gòu)性能迅速獲得了提升.相對而言，本文算法受噪聲干擾的影響相對較小，隨著信噪比的提升，整體性能改變較小.在時延參數(shù)估計方面，本文算法的重構(gòu)性能略高于Cadzow+AF經(jīng)典算法的重構(gòu)性能.在幅度參數(shù)估計方面，本文算法則與無畸變波形的Cadzow+AF 算法的基本性能近似.以上實驗說明，受多徑效應(yīng)的影響，接收到的脈沖波形由多個路徑的信號疊加而成，使得接收信號的幅值、相位以及波形結(jié)構(gòu)相對于原始信號發(fā)生急劇變化.在任意信噪比下，本文方法對幅值參數(shù)的重構(gòu)性能均優(yōu)于Cadzow+AF算法，對時延參數(shù)的估計的誤差較大，但是本文方法對時延參數(shù)的重構(gòu)性能也優(yōu)于Cadzow+AF算法.

圖7 噪聲條件下不同路徑數(shù)重構(gòu)性能對比

6 總結(jié)

本文針對FRI 采樣系統(tǒng)因信號波形發(fā)生畸變而導(dǎo)致重構(gòu)性能下降的問題，提出了一種基于LSTM 網(wǎng)絡(luò)特征提取的重構(gòu)方法.與現(xiàn)有的FRI 重構(gòu)方法相比，該方法可以有效地提取畸變信號的特性序列，從而降低了信號波形畸變而導(dǎo)致的FRI 重構(gòu)性能下降的概率.在畸變FRI信號數(shù)據(jù)集上的實驗結(jié)果表明，相對于現(xiàn)有的FRI重構(gòu)方法，本文方法基本不受多徑效應(yīng)的影響，在存在4條路經(jīng)時，依然可以獲得有效的重構(gòu).本文方法有效提高了FRI系統(tǒng)的穩(wěn)定性.由于在LSTM網(wǎng)絡(luò)層數(shù)大于2層以后，系統(tǒng)的重構(gòu)性能就提升較慢，因此，3層LSTM網(wǎng)絡(luò)是應(yīng)用FRI重構(gòu)的最佳網(wǎng)絡(luò)層數(shù).本文方法實現(xiàn)結(jié)構(gòu)簡單，在線過程所需的計算資源和時間都相對較短，有望進一步推動FRI系統(tǒng)的在實際應(yīng)用中的推廣.