基于截?cái)嗪朔稊?shù)正則化的協(xié)方差矩陣估計(jì)

李 明，孫國(guó)皓，何子述

(1. 電子科技大學(xué)信息與通信工程學(xué)院，四川成都 611731;2. 四川大學(xué)空天科學(xué)與工程學(xué)院，四川成都 610065)

0 引言

機(jī)載雷達(dá)為應(yīng)對(duì)地面慢速運(yùn)動(dòng)目標(biāo)檢測(cè)的調(diào)整，通常采用空時(shí)自適應(yīng)處理(Space Time Adaptive Processing,STAP)作為重要手段[1]，而目標(biāo)距離環(huán)(Cell Under Test,CUT)雜波協(xié)方差矩陣(Clutter Covariance Matrix,CCM)的估計(jì)是機(jī)載STAP的關(guān)鍵步驟[2]。在CCM的估計(jì)過(guò)程中，要求選擇無(wú)目標(biāo)的訓(xùn)練樣本，且與CUT的雜波信號(hào)保持獨(dú)立同分布。此外，所提供訓(xùn)練樣本數(shù)量至少要達(dá)到空時(shí)維度的兩倍，以確保高輸出信雜噪比(Signal-Clutter-Noise Ratio,SCNR)。而實(shí)際應(yīng)用場(chǎng)景通常為非均勻雜波環(huán)境，尤其對(duì)于高維度應(yīng)用，如多脈沖、大陣列，無(wú)法提供足夠的均勻訓(xùn)練樣本。

為了利用有限樣本精確估計(jì)CCM，學(xué)者們提出了許多算法。降維算法[3]和降秩算法[4]可以有效降低用于CCM估計(jì)所需樣本數(shù)量。文獻(xiàn)[5]中的直接數(shù)據(jù)域STAP算法僅需利用目標(biāo)距離環(huán)數(shù)據(jù)估計(jì)CCM，直接回避了訓(xùn)練樣本不足的問(wèn)題。然而，上述這些算法犧牲了系統(tǒng)自由度，會(huì)導(dǎo)致STAP性能降低。近年來(lái)，學(xué)者們根據(jù)雜波自身的稀疏性，提出了稀疏恢復(fù)(Sparse Recovery,SR)算法，該類(lèi)算法可在空時(shí)域內(nèi)獲得高分辨率。然而，對(duì)于絕大多數(shù)稀疏恢復(fù)算法，如正交匹配追蹤算法(Orthogonal Matching Pursuit,OMP)[6],建立信號(hào)模型需利用離散化字典，會(huì)導(dǎo)致網(wǎng)格點(diǎn)失配問(wèn)題，從而嚴(yán)重影響算法性能[7]。為了解決網(wǎng)格點(diǎn)失配問(wèn)題，文獻(xiàn)[8]提出的原子范數(shù)最小化(Atomic Norm Minimization,ANM)算法，通過(guò)利用CCM的塊Toeplitz結(jié)構(gòu)特性支持多維范德蒙分解實(shí)現(xiàn)連續(xù)域信號(hào)建模，但是由于秩最小化問(wèn)題為NP-hard問(wèn)題，該算法采用核范數(shù)對(duì)矩陣的秩進(jìn)行松弛，然而對(duì)于STAP處理時(shí)的CCM這類(lèi)具有多維Toeplitz結(jié)構(gòu)的矩陣，核范數(shù)松弛無(wú)法保證所估計(jì)協(xié)方差矩陣的低秩特性[9]。

基于上述分析，本文提出了一種基于截?cái)嗪朔稊?shù)正則化(Truncated Nuclear Norm Regularization,TNNR)的CCM估計(jì)算法，可有效解決非均勻雜波環(huán)境下(即有限樣本)的STAP處理問(wèn)題。本文主要?jiǎng)?chuàng)新為利用TNNR確保所估計(jì)CCM的低秩特性，同時(shí)結(jié)合CCM的塊Toeplitz結(jié)構(gòu)先驗(yàn)信息。與常規(guī)秩最小化算法不同，如核范數(shù)松弛算法，其對(duì)所有奇異值的和求最小化處理，難以準(zhǔn)確近似矩陣的秩，由于CCM的秩僅與非零奇異值有關(guān)，本文所采用的TNNR算法僅求解與矩陣的秩不相關(guān)的較小的奇異值的和，從而間接控制CCM的秩，確保低秩估計(jì)。同時(shí)，通過(guò)迭代求解思想，將TNNR優(yōu)化問(wèn)題轉(zhuǎn)換為凸優(yōu)化問(wèn)題實(shí)現(xiàn)求解。此外，結(jié)合機(jī)載雷達(dá)的信號(hào)模型特征，我們?cè)贑CM的估計(jì)過(guò)程中引入塊Toeplitz結(jié)構(gòu)約束，由于塊Toeplitz矩陣可支持多維范德蒙分解，從而可確保CCM的估計(jì)建立在連續(xù)域模型上，可避免了常規(guī)稀疏恢復(fù)算法由于引入離散化字典導(dǎo)致的網(wǎng)格點(diǎn)失配問(wèn)題。仿真實(shí)驗(yàn)表明本文所提出的算法相比于其他同類(lèi)算法具有更高估計(jì)精度，性能更加出色。

1 機(jī)載雷達(dá)STAP信號(hào)模型

假設(shè)機(jī)載雷達(dá)采用以半波長(zhǎng)為間隔布陣的正側(cè)視均勻線陣(ULA)，共有N個(gè)陣元，每個(gè)陣元在一個(gè)相干處理間隔內(nèi)發(fā)射M個(gè)脈沖，脈沖重復(fù)頻率為fr。發(fā)射波長(zhǎng)為λ，陣元間距d為λ/2。對(duì)于目標(biāo)距離環(huán)(CUT)的接收信號(hào)x∈CNM可以表示為

x=s+c+n

(1)

式中，s表示運(yùn)動(dòng)目標(biāo)回波信號(hào)，c表示雜波信號(hào)，n為噪聲向量。對(duì)于單個(gè)反射點(diǎn)的陣列響應(yīng)，可以表示為空域?qū)蚴噶颗c時(shí)域?qū)蚴噶康腒ronecker積形式?？沼?qū)蚴噶亢蜁r(shí)域?qū)蚴噶靠煞謩e表示為ar(fr)∈CN，ad(fd)∈CM，fr和fd分別表示某個(gè)反射點(diǎn)歸一化的空間頻率和多普勒頻率。反射點(diǎn)的空時(shí)導(dǎo)向矢量可表示為空域?qū)蚴噶颗c時(shí)域?qū)蚴噶康腒ronecker積，即ad,r=ad(fd)?ar(fr)。

由上述所得，目標(biāo)信號(hào)可表示為

s=α0ad(fd0)?ar(fr0)∈CNM

(2)

式中，?表示Kronecker積，α0表示目標(biāo)回波信號(hào)復(fù)幅度，fr0和fd0分別表示運(yùn)動(dòng)目標(biāo)歸一化的空間頻率和多普勒頻率。

對(duì)于雜波信號(hào)，我們將所選定距離環(huán)劃分為Nc個(gè)雜波片，回波信號(hào)響應(yīng)即可表示為這些雜波片回波信號(hào)的總和[10]，即

(3)

式中，αi表示第i個(gè)雜波片的回波信號(hào)復(fù)幅度，fri和fdi分別表示第i個(gè)雜波片的歸一化的空間頻率和多普勒頻率。

當(dāng)機(jī)載雷達(dá)采用大規(guī)模陣列或使用多脈沖體制時(shí)，其CCM維度會(huì)很高，從而導(dǎo)致難以為CCM的估計(jì)提供充足的均勻樣本。因此，本文提出了一種基于TNNR的STAP算法，以確保機(jī)載雷達(dá)STAP處理在非均勻雜波環(huán)境下的性能。

2 基于TNNR的協(xié)方差矩陣估計(jì)

根據(jù)Brennan法則[11-12]，利用Mr=?N+β(N-1)」個(gè)空時(shí)導(dǎo)向矢量即可表示接收信號(hào)中的雜波成分并可張成雜波子空間，即

(4)

當(dāng)存在多個(gè)不包含目標(biāo)的均勻訓(xùn)練樣本時(shí)，我們可以利用這些樣本的聯(lián)合稀疏性來(lái)提升CCM的估計(jì)準(zhǔn)確度。假設(shè)這些樣本均具有相同的雜波子空間，則這K個(gè)訓(xùn)練樣本的雜波信號(hào)矩陣可表示為

(5)

利用這K個(gè)訓(xùn)練樣本，CCM可以表示為

(6)

顯然XC可看作Mr個(gè)原子的線性組合[12],其中原子集合可表示為

AMMV={ad,r(f,Φ)|f∈[0,1)×[0,1),

Φ2=1}

(7)

式中，ad,r(f,Φ)[ad(fd)?ar(fr)]ΦT。然后，雜波信號(hào)矩陣XC的原子l0范數(shù)可表示為用AMMV中的原子表示該矩陣所需最少原子個(gè)數(shù)，

(8)

因此，通過(guò)以下的原子范數(shù)最小化算法即可提取訓(xùn)練樣本信號(hào)矩陣X中的雜波成分：

s.t.X-Ξ2≤Kεn

(9)

式中，Ξ表示為XC的估計(jì)。然后我們利用調(diào)整參數(shù)可將優(yōu)化問(wèn)題改寫(xiě)為以下形式：

(10)

式中，λ>0為調(diào)整參數(shù)。式(10)中的優(yōu)化問(wèn)題由于包含ΞAMMV,0，是NP-hard問(wèn)題，無(wú)法直接求解。由文獻(xiàn)[12],ΞAMMV,0=rank(RC)=Mr,此外，RC具有塊Toeplitz矩陣，在優(yōu)化求解中通過(guò)考慮先驗(yàn)結(jié)構(gòu)信息可以有效提高估計(jì)精度。同時(shí)為了將樣本雜波信號(hào)矩陣與RC，此處引入新的矩陣Z±0，即

(12)

(13)

式中，T=[xl1,l2]∈C(2M-1)×(2N-1)，-M

(14)

然而，上述式(14)中的優(yōu)化問(wèn)題包含秩函數(shù)，仍然為NP-hard問(wèn)題?，F(xiàn)存優(yōu)化算法無(wú)法直接求解秩最小化問(wèn)題。通常，我們利用核范數(shù)對(duì)矩陣的秩進(jìn)行松弛，以實(shí)現(xiàn)將非凸問(wèn)題轉(zhuǎn)化為凸優(yōu)化問(wèn)題，如文獻(xiàn)[12]中ANM算法所采用的方法。但理論研究表明核范數(shù)，即矩陣奇異值的總和無(wú)法高度近似矩陣的秩[15-16]，因?yàn)榫仃嚨闹葍H與所有非零奇異值有關(guān)，但是核范數(shù)無(wú)差別對(duì)待所有奇異值，對(duì)總體進(jìn)行求和，在實(shí)際應(yīng)用中性能較差，無(wú)法高度近似矩陣的秩函數(shù)。

為了解決式(14)中的秩最小化問(wèn)題，我們利用TNNR算法對(duì)矩陣Z的秩進(jìn)行更加精確的近似。根據(jù)文獻(xiàn)[15],對(duì)于秩為r的矩陣B∈CNM×NM，其截?cái)嗪朔稊?shù)(Truncated Nuclear Norm，TNN)被定義為最小個(gè)NM-r個(gè)奇異值的和，即

(15)

其中，σi(B)表示矩陣B按遞減順序排列的第i個(gè)奇異值。

在使用TNNR時(shí)，由于涉及矩陣Z的秩，我們可以利用Brennan法則估計(jì)協(xié)方差矩陣RC的秩，然后根據(jù)rank(RC)=rank(Z)。與基于核范數(shù)的方法不同，本文所提出的基于TNNR的算法僅針對(duì)NM-Mr個(gè)最小奇異值進(jìn)行處理，而由于矩陣的秩僅與較大的Mr個(gè)奇異值相關(guān)，因此通過(guò)求解中約束較小NM-Mr個(gè)奇異值的和近似為零，即可控制所得協(xié)方差矩陣的秩[15-16]，從而更加精確的近似CCM的秩。因此，式(14)可重新整理為如下形式：

(16)

其中τ>0，因?yàn)閆r是非凸的，我們?nèi)匀徊荒苤苯忧蠼馐?16)。我們引入一個(gè)新的矩陣A∈CNM，其滿(mǎn)足AAH=INM，其中INM是一個(gè)NM×NM的單位陣。

根據(jù)VonNeumann的跡的不等式可得

Tr(AZAH)=Tr(ZAHA)≤

(17)

(18)

由上述推導(dǎo)可得

(19)

通過(guò)將式(19)與式(17)結(jié)合，可得

(20)

由于Z為半正定Hermitian矩陣，可用其特征值分解替代奇異值分解。假設(shè)Z的特征分解為Z=UΣUH，其中U=(u1,…,uNM)H∈CNM×NM，Σ∈CNM×NM為Z的特征值構(gòu)成的對(duì)角矩陣，那么當(dāng)

A=(u1,…,uMr)H

(21)

則式(20)可取等號(hào)。然后我們可得如下結(jié)果：

(22)

因此，Z的TNN可表示為

(23)

根據(jù)式(23)，式(16)中的最小化問(wèn)題可以被重新表達(dá)為如下形式：

我們可以通過(guò)迭代的方式解決上述優(yōu)化問(wèn)題。將文獻(xiàn)[12]中ANM算法的結(jié)果作為初始值，即Z0=ZANM。在進(jìn)行第k次迭代時(shí)，我們固定Zk然后通過(guò)對(duì)其進(jìn)行特征分解求得Ak，然后固定Ak更新Zk+1，即解決如下優(yōu)化問(wèn)題：

而上述優(yōu)化問(wèn)題為凸優(yōu)化問(wèn)題。通過(guò)上述迭代更新，當(dāng)Zk+1-ZkF≤ε時(shí)，迭代過(guò)程停止，其中·F表示矩陣的Frobenius范數(shù)。我們得到最終的Z，從而可得RC。

關(guān)于矩陣Z的分解不是唯一[17]，上述求解的RC僅能表征雜波子空間。為了準(zhǔn)確獲得CCM，我們需要進(jìn)行如下的校正操作。假設(shè)RC的特征分解為

RC=QΛQH

(26)

式中，Q表示RC的特征向量矩陣，Λ表示對(duì)角矩陣，其對(duì)角線元素對(duì)應(yīng)為RC的特征值。因此，RC可表示為[12]

(27)

式中，diag(·)表示對(duì)角陣，Ξ(l)表示估計(jì)所得的第l個(gè)訓(xùn)練樣本。

3 實(shí)驗(yàn)和結(jié)果分析

圖1顯示了基于TNNR的雜波協(xié)方差矩陣估計(jì)算法與理想?yún)f(xié)方差矩陣的特征譜。當(dāng)β=1，根據(jù)Brennan法則可準(zhǔn)確估計(jì)雜波秩，其雜波秩為31，圖中顯示，基于TNNR的雜波協(xié)方差矩陣估計(jì)算法的估計(jì)結(jié)果其特征譜在第31個(gè)特征值處有陡峭下降，與理想雜波協(xié)方差矩陣趨勢(shì)一致，即本文所提出的基于TNNR的雜波協(xié)方差矩陣估計(jì)算法可有效保證所估計(jì)矩陣的低秩特性。

圖1 雜波協(xié)方差矩陣的特征譜

圖2展示了當(dāng)雜波脊斜率為整數(shù)(β=1)時(shí)，不同STAP算法的SCNR損失對(duì)比曲線圖。由圖中結(jié)果可以看出，本文所提出的基于TNNR的雜波協(xié)方差矩陣估計(jì)算法的STAP性能顯著優(yōu)于OMP、ANM以及樣本矩陣求逆(Sample Matrix Inversion,SMI)算法，這是由于基于TNNR的雜波協(xié)方差矩陣估計(jì)算法不僅可以確保估計(jì)的雜波協(xié)方差矩陣的低秩特性，同時(shí)還結(jié)合了雜波協(xié)方差矩陣的塊Toeplitz結(jié)構(gòu)先驗(yàn)信息，有效提高了小樣本下的協(xié)方差矩陣估計(jì)精度，因此相比其他STAP算法性能更優(yōu)。

圖2 SCNR損失對(duì)比曲線圖(β=1)

圖3和圖4顯示了當(dāng)雜波脊斜率為非整數(shù)(β=0.79/2.31)時(shí)，不同STAP算法的SCNR損失對(duì)比曲線圖。當(dāng)雜波脊斜率為非整數(shù)時(shí)，根據(jù)Brennan法則，無(wú)法準(zhǔn)確估計(jì)雜波秩，但是本文提出的基于TNNR的雜波協(xié)方差矩陣估計(jì)算法的STAP性能仍然顯著優(yōu)于OMP、ANM以及SMI算法。該實(shí)驗(yàn)結(jié)果表明，即使在雜波秩信息不準(zhǔn)確的情況下，基于TNNR的雜波協(xié)方差矩陣估計(jì)算法仍然具有出色的性能，優(yōu)于OMP、ANM以及SMI算法。

圖5展示了基于TNNR的雜波協(xié)方差矩陣估計(jì)算法在不同訓(xùn)練樣本數(shù)量下的SCNR損失對(duì)比曲線圖。由圖中結(jié)果可以看出，隨著訓(xùn)練樣本數(shù)量的增加，本文所提出算法的STAP性能會(huì)明顯提升，當(dāng)訓(xùn)練樣本足夠多時(shí)(L=200<2NM)，基于TNNR的STAP算法性能接近最優(yōu)STAP性能，相差小于1 dB。

圖3 SCNR損失對(duì)比曲線圖(β=0.79)

圖4 SCNR損失對(duì)比曲線圖(β=2.31)

圖5 訓(xùn)練樣本數(shù)量不同時(shí)的TNNR STAP的 SCNR損失對(duì)比曲線圖

4 結(jié)束語(yǔ)

本文提出了基于TNNR的CCM估計(jì)算法以確保機(jī)載雷達(dá)STAP在非均勻雜波環(huán)境下CCM估計(jì)的準(zhǔn)確性。通過(guò)將CCM的低秩特性與塊Toeplitz結(jié)構(gòu)相結(jié)合，新算法可以很好滿(mǎn)足訓(xùn)練樣本不足情況下的應(yīng)用場(chǎng)景。相比于核范數(shù)松弛算法，本文所采用的TNNR算法可以更加準(zhǔn)確地近似矩陣的秩，從而有效確保所估計(jì)CCM的低秩特性。相比同類(lèi)算法，本文所提出的CCM估計(jì)算法在非均勻雜波環(huán)境下的STAP估計(jì)性能更加出色。