低相干高魯棒性觀測(cè)矩陣優(yōu)化

趙 輝，張 樂(lè)，劉瑩莉，張 靜，張?zhí)祢U

(1. 重慶郵電大學(xué) 通信與信息工程學(xué)院 重慶 400065；2.重慶郵電大學(xué) 信號(hào)與信息處理重慶市重點(diǎn)實(shí)驗(yàn)室 重慶 400065)

壓縮感知(Compressed Sensing，CS)是2006年提出的一種新的采樣技術(shù)，可以用低于奈奎斯特的采樣速率采樣信號(hào)，并且重構(gòu)信號(hào)精度高[1]。壓縮感知指出，在信號(hào)稀疏或在某個(gè)變換域是稀疏的前提下，首先利用稀疏基對(duì)信號(hào)進(jìn)行稀疏表示，再使用觀測(cè)矩陣將高維信號(hào)投影到低維空間得到觀測(cè)值，最后從少量觀測(cè)值中高概率地重構(gòu)出原始信號(hào)[2]。壓縮感知憑借其優(yōu)越的性能被廣泛應(yīng)用于機(jī)器學(xué)習(xí)[3]、雷達(dá)[4]以及核磁共振[5]等領(lǐng)域。

壓縮感知觀測(cè)矩陣的作用是將測(cè)試信號(hào)投影成低維觀測(cè)信號(hào)，而觀測(cè)信號(hào)則直接影響了信號(hào)的精確重構(gòu)[6]。當(dāng)前對(duì)觀測(cè)矩陣的研究大致可以分為兩類：第1類是觀測(cè)矩陣的構(gòu)造。這類方法主要是從統(tǒng)計(jì)學(xué)角度討論矩陣是否滿足有限等距特性(Restricted Isometry Property，RIP)[7]或Spark性質(zhì)，但求解這兩個(gè)性質(zhì)都是非確定性多項(xiàng)式(Nop-deterministic Polynomia,NP)難問(wèn)題，在實(shí)際應(yīng)用中并不適用；第2類是觀測(cè)矩陣的優(yōu)化。即構(gòu)造優(yōu)化模型時(shí)，先根據(jù)觀測(cè)矩陣和稀疏字典的內(nèi)積構(gòu)造格拉姆矩陣，再對(duì)該矩陣進(jìn)行優(yōu)化處理，最后反解出優(yōu)化后的觀測(cè)矩陣。這類算法以降低觀測(cè)矩陣和稀疏基的平均互相干性為目標(biāo)，來(lái)保證稀疏信號(hào)的精確重構(gòu)且算法復(fù)雜度較低。

文獻(xiàn)[8]提出用平均互相干系數(shù)代替相干系數(shù)來(lái)表示觀測(cè)矩陣與稀疏基的相關(guān)性，并通過(guò)線性收縮格拉姆矩陣中非對(duì)角元的絕對(duì)值大于固定閾值的方法減小相干性，實(shí)驗(yàn)效果較好。但該算法在運(yùn)行過(guò)程中存在觀測(cè)矩陣的降階問(wèn)題，且所采用的處理方法會(huì)產(chǎn)生絕對(duì)值較大的相關(guān)系數(shù)，影響算法的穩(wěn)定性。文獻(xiàn)[9]用等角緊框架建立的凸集合作為設(shè)計(jì)矩陣，使用梯度下降方法逼近凸集合求得觀測(cè)矩陣，相比文獻(xiàn)[8]，由于引入等角緊框架，算法更加穩(wěn)定，但是梯度下降的步長(zhǎng)需要根據(jù)經(jīng)驗(yàn)確定，且步長(zhǎng)因子的選擇對(duì)算法的影響較大。文獻(xiàn)[10]提出一種同時(shí)逼近等角緊框架和單位矩陣的模型，采用交替迭代算法求解，提高了系統(tǒng)的穩(wěn)定性，但迭代次數(shù)較多。文獻(xiàn)[11]在給定稀疏基的前提下，約束格拉姆矩陣的對(duì)角線為1，設(shè)計(jì)矩陣取單位矩陣，并求出優(yōu)化模型的解析解，避免了梯度下降法迭代經(jīng)驗(yàn)值步長(zhǎng)的問(wèn)題，提高了優(yōu)化算法的性能，但該算法對(duì)字典的依賴性較強(qiáng)，且單位矩陣是一種嚴(yán)格約束條件，不適合做逼近目標(biāo)。文獻(xiàn)[12]提出先構(gòu)造同時(shí)具有低相干性和緊致性的等角緊框架，再用感知矩陣逼近等角緊框架，最后用交替極小化方法求解，該算法雖然降低了平均相干性，但不適用于含噪信號(hào)，并且不能保證算法收斂于全局最優(yōu)，系統(tǒng)的魯棒性不強(qiáng)。

綜上，目前的觀測(cè)矩陣優(yōu)化算法雖然能夠降低觀測(cè)矩陣和稀疏基之間的平均互相干性，但存在優(yōu)化后觀測(cè)矩陣普適性低和算法魯棒性不足的問(wèn)題。因此，針對(duì)以上問(wèn)題，筆者提出一種新的觀測(cè)矩陣優(yōu)化算法。首先，通過(guò)觀測(cè)矩陣和稀疏基的內(nèi)積構(gòu)造格拉姆矩陣，并收縮其非對(duì)角元，根據(jù)格拉姆矩陣構(gòu)造符合要求的緊框架，將格拉姆矩陣同時(shí)逼近緊框架和單位矩陣，避免單位矩陣的嚴(yán)格約束問(wèn)題，也降低了感知矩陣的平均互相干性；同時(shí)，考慮稀疏表示過(guò)程產(chǎn)生的誤差，將稀疏表示誤差作為正則項(xiàng)加入到優(yōu)化模型中，提高感知矩陣的魯棒性；最后，給出優(yōu)化后觀測(cè)矩陣的解析解，確保算法的收斂性。實(shí)驗(yàn)結(jié)果表明，與幾種經(jīng)典算法相比，筆者所提算法有效地降低了平均互相干性和重構(gòu)誤差，并提高了感知矩陣的魯棒性。

1 基本理論

壓縮感知理論指出：設(shè)N維信號(hào)x是在稀疏基Ψ下的K稀疏信號(hào)x=Ψs，其中‖s‖0=K,K?N，CS使用M×N的觀測(cè)矩陣Φ=(φ1,φ2,…,φM)對(duì)其進(jìn)行采樣，得到觀測(cè)值y=(y1,y2,…,yM)，CS觀測(cè)過(guò)程可表示為

y=Φx=ΦΨs=Xs。

(1)

由于M?N，因此利用觀測(cè)值y重構(gòu)出信號(hào)x轉(zhuǎn)換成求解l0范數(shù)優(yōu)化問(wèn)題：

(2)

求解式(2)是一個(gè)NP-hard問(wèn)題，文獻(xiàn)[1]證明l0范數(shù)可以放寬到l1范數(shù)，求得近似解為

(3)

觀測(cè)矩陣的有限等距性和相關(guān)性為上述信號(hào)的重構(gòu)問(wèn)題提供了理論保證，相關(guān)定義如下。

定義1若觀測(cè)矩陣Φ滿足參數(shù)為(K,δK)的有限等距特性[7]，0<δK<1，則對(duì)所有K稀疏信號(hào)x，下式成立：

(1-δK)‖x‖2≤‖Φx‖≤(1+δK)‖x‖2。

(4)

定義2觀測(cè)矩陣與稀疏基的相關(guān)系數(shù)以及平均互相干系數(shù)[8]的計(jì)算公式如下：

(5)

(6)

其中，Φi表示觀測(cè)矩陣的第i列，Ψj表示稀疏基矩陣的第j列，gij代表格拉姆矩陣(G=ΨTΦTΦΨ)第i行j列的值，閾值γ∈[0,1)。相關(guān)系數(shù)反映觀測(cè)矩陣和稀疏基之間列相關(guān)性的最大值，表示局部相關(guān)性；平均互相干系數(shù)反映絕對(duì)值大于或等于閾值的格拉姆矩陣非對(duì)角元絕對(duì)值的平均值，能夠更加客觀地評(píng)價(jià)觀測(cè)矩陣的整體相干性。

由定義2可知，互相關(guān)系數(shù)表征觀測(cè)矩陣和稀疏基的相似程度，理論上越小越好。文獻(xiàn)[13]給出了互相關(guān)系數(shù)的最小值，即韋爾奇界限μWelch的表達(dá)式為

(7)

其中,M為測(cè)量值的個(gè)數(shù)，L為感知矩陣的列數(shù)。

框架是基在概念上的一種冗余擴(kuò)展，目前常見(jiàn)的框架有Grassmannian框架、緊框架和等角緊框架。Grassmannian框架關(guān)注框架原子的相干性，緊框架關(guān)注框架的緊致性，等角緊框架兼具相干性和緊致性兩種屬性理應(yīng)受到廣泛應(yīng)用。但已經(jīng)證實(shí)，構(gòu)造Grassmannian框架和等角緊框架相當(dāng)困難，故文中構(gòu)造不受維度限制且易實(shí)現(xiàn)的緊框架。下面給出緊框架的定義。

定義3對(duì)任意矩陣A∈RM×L是α-緊框架的3個(gè)充要條件是：

(1)矩陣A的M個(gè)非零奇異值均為α1/2。

(2)ATA的M個(gè)非零特征值均為α。

(3)α1/2*A的行向量是標(biāo)準(zhǔn)正交的。

2 觀測(cè)矩陣優(yōu)化算法

2.1 構(gòu)造緊框架

(8)

2.2 觀測(cè)矩陣優(yōu)化模型

在優(yōu)化觀測(cè)矩陣過(guò)程中，為了保證重構(gòu)質(zhì)量，需要構(gòu)造與稀疏基相干性較低的觀測(cè)矩陣。一般情況，先構(gòu)造格拉姆矩陣G=ΨTΦTΦΨ，再通過(guò)優(yōu)化算法將格拉姆矩陣逼近于設(shè)計(jì)矩陣Gt來(lái)減小μav，具體模型如下：

(9)

在參考文獻(xiàn)[11，14-15]中，設(shè)計(jì)矩陣皆取單位矩陣，但單位矩陣是一種嚴(yán)格約束條件，不適合做單一的逼近目標(biāo)。文獻(xiàn)[11]中將格拉姆矩陣對(duì)角線元素約束為1，僅考慮對(duì)角線元素，并沒(méi)有減小感知矩陣的相干性。綜上，筆者所提方法將設(shè)計(jì)矩陣取單位矩陣，通過(guò)約束格拉姆矩陣非對(duì)角線元素來(lái)降低感知矩陣的平均互相干性，并保證相關(guān)系數(shù)盡可能小，結(jié)合2.1節(jié)構(gòu)造的緊框架，得到如下約束問(wèn)題：

(10)

(11)

其中，α是拉格朗日乘子，也可稱為格拉姆矩陣同時(shí)逼近兩個(gè)設(shè)計(jì)矩陣的平衡參數(shù)。對(duì)式(11)化簡(jiǎn)，得

(12)

(13)

2.3 基于稀疏表示誤差的觀測(cè)矩陣優(yōu)化模型

目前大多的觀測(cè)矩陣優(yōu)化算法假設(shè)原信號(hào)在給定字典下可以被絕對(duì)表示，但是在實(shí)際場(chǎng)景中，對(duì)于某些無(wú)法精確稀疏的信號(hào)存在稀疏表示誤差[16]。鑒于此，為了構(gòu)造魯棒的觀測(cè)矩陣，將稀疏表示誤差作為正則項(xiàng)加入到式(13)中，提出的基于緊框架與稀疏表示誤差的觀測(cè)矩陣優(yōu)化模型如下：

(14)

其中，E=X-ΨS，是稀疏表示誤差；X=[x1,x2,…,xP]，是測(cè)試信號(hào)；S=[s1,s2,…,sP]，是測(cè)試信號(hào)對(duì)應(yīng)的稀疏系數(shù)矩陣。式(14)是多變量?jī)?yōu)化問(wèn)題，可采用交替優(yōu)化求解Φ。求解算法如下。

基于緊框架和稀疏表示誤差的觀測(cè)矩陣優(yōu)化算法：

輸入：M×N維的高斯隨機(jī)矩陣Φ1，N×L維的稀疏基Ψ，平衡參數(shù)α和β，韋爾奇界限μWelch，交替迭代次數(shù)n。

初始化：迭代次數(shù)k=1

fork=1:ndo

②對(duì)Gk先進(jìn)行列歸一化，再用下式進(jìn)行收縮：

(15)

④根據(jù)式(14)更新觀測(cè)矩陣Φk。

⑤Φk+1=Φk。

end for

為了保證優(yōu)化算法的收斂性，下面重點(diǎn)研究如何求解式(14)。先對(duì)矩陣Ge進(jìn)行奇異值分解，即

Ge=VSVT=VS1/2(VS1/2)T=DDT，

(16)

其中，S∈RM×M,V∈RL×M,DT∈RM×L。式(14)可以化簡(jiǎn)為

(17)

令Q=[β1/2Ψ(1-β)1/2E],R=[β1/2DT0],Q∈RN×(L+P),R∈RM×(L+P)，優(yōu)化問(wèn)題可簡(jiǎn)化為

(18)

式(18)可用梯度法求解，如果沒(méi)有選到合適的初始值，求解容易陷入局部最優(yōu)解。為了解決這個(gè)問(wèn)題并保證所提算法的收斂性，文中求解式(18)的解析解，得到如下定理。

(19)

其中，RQ=RVQ=[R1R2],R1∈RM×rank(Q),Φ2∈RM×(N-rank(Q))。

證明：令ΦQ=ΦUQ=[Φ1Φ2],Φ1∈RM×rank(Q)，則

(20)

(21)

故化簡(jiǎn)后得到Φ1最小值為

(22)

則式(18)的解析解為

(23)

證畢。

3 仿真分析

為了驗(yàn)證文中算法的有效性，分別使用Elad優(yōu)化矩陣[8]、Li優(yōu)化矩陣[10]、Bai優(yōu)化矩陣[12]和文中算法優(yōu)化矩陣對(duì)比平均互相干系數(shù)、格拉姆矩陣非對(duì)角線元素直方圖以及不同優(yōu)化矩陣在正交匹配追蹤 (Orthogonal Matching Pursuit, OMP) 算法下的重構(gòu)誤差。所有實(shí)驗(yàn)均在MATLAB R2014b環(huán)境下，硬件條件為Intel(R) Core(TM) i5-4590 CPU @3.30GHz，內(nèi)存為7.87GB下完成。

3.1 矩陣性能分析

該部分主要對(duì)比幾種優(yōu)化矩陣的相關(guān)系數(shù)和平均互相干系數(shù)，以及相關(guān)系數(shù)的分布。選擇初始觀測(cè)矩陣為高斯分布的隨機(jī)矩陣，固定稀疏基，對(duì)比隨機(jī)矩陣、Elad優(yōu)化矩陣、Li優(yōu)化矩陣、Bai優(yōu)化矩陣以及文中優(yōu)化矩陣性能。其中Elad優(yōu)化算法中收縮因子γ=0.95，閾值選t=0.4[8]；Bai優(yōu)化算法中平衡參數(shù)w=0.4[12]；筆者提出的優(yōu)化算法參數(shù)經(jīng)多次實(shí)驗(yàn)后設(shè)置為：α=0.4,β=0.5，所有實(shí)驗(yàn)算法均迭代1 000次。

表1 低維不同優(yōu)化矩陣相關(guān)性對(duì)比

注：表中黑體數(shù)字代表本行性能最優(yōu)。

表2 高維不同優(yōu)化矩陣相關(guān)性對(duì)比

注：表中黑體數(shù)字代表本行性能最優(yōu)。

圖1和圖2是格拉姆矩陣列歸一化后的非對(duì)角線元素絕對(duì)值的直方圖，橫軸代表非對(duì)角元絕對(duì)值的大小，縱軸代表非對(duì)角元的個(gè)數(shù)。從直方圖可以看出，所提優(yōu)化算法能大大減少感知矩陣中相關(guān)列的數(shù)目，在增加考慮稀疏表示誤差后，直方圖的值分布更為集中，并且減少了分布圖的拖尾，說(shuō)明了考慮稀疏表示誤差后的優(yōu)化矩陣更魯棒。通過(guò)圖1、圖2的對(duì)比發(fā)現(xiàn)，在低維和高維觀測(cè)矩陣中，所提算法優(yōu)化效果均優(yōu)于同類算法。

圖1 低維優(yōu)化矩陣直方圖

圖2 高維優(yōu)化矩陣直方圖

圖3 μav隨迭代次數(shù)變化圖

在Elad優(yōu)化算法中，收縮因子γ值越小，算法收斂速度越快。文中對(duì)比所提算法與Elad算法驗(yàn)證所提優(yōu)化算法收斂性，其中韋爾奇界限取μWelch={(120-25)/[25(120-1)]}1/2=0.18，Elad算法收縮因子γ分別取0.95，0.75，0.55。據(jù)實(shí)驗(yàn)結(jié)果分析，文中算法的收斂速度快于Elad算法的γ=0.75，略慢于γ=0.55，但收斂后的平均互相干系數(shù)μav是小于Elad算法的。由此可知，文中算法的收斂效果是優(yōu)于Elad算法的。

3.2 重構(gòu)性能分析

(22)

其中,N=1 000，表示稀疏信號(hào)的組數(shù)。由文獻(xiàn)[17]知，當(dāng)相對(duì)誤差er大于一定門限值ρ∈(0,1)時(shí)，表示測(cè)試信號(hào){sj}能夠成功恢復(fù)，此處設(shè)置ρ=0.01。

本部分實(shí)驗(yàn)采用OMP重構(gòu)算法驗(yàn)證各對(duì)比算法相對(duì)誤差er隨信號(hào)稀疏度K、觀測(cè)矩陣行數(shù)M以及稀疏基列數(shù)L的變化曲線。稀疏度K對(duì)算法的重構(gòu)性能有直接的影響。當(dāng)觀測(cè)次數(shù)已知時(shí)，稀疏度越高，相對(duì)誤差越大。圖4(a)中矩陣設(shè)置為：M=25，N=80，L=120，對(duì)于相同稀疏度，所提優(yōu)化算法相對(duì)誤差皆小于對(duì)比算法。圖4(b)中參數(shù)設(shè)置為：K=4,N=80,L=120，當(dāng)觀測(cè)值M>25時(shí)，相對(duì)誤差接近于零，信號(hào)能被精確重構(gòu)。圖4(c)中矩陣參數(shù)設(shè)置為：K=4,M=25,N=80，可以看到文中優(yōu)化算法誤差皆小于對(duì)比算法。

圖4 不同優(yōu)化算法下相對(duì)誤差er隨K,M,L的變化圖

4 結(jié)束語(yǔ)

觀測(cè)矩陣優(yōu)化是提高壓縮感知系統(tǒng)性能的關(guān)鍵。通過(guò)對(duì)觀測(cè)矩陣優(yōu)化問(wèn)題進(jìn)行深入研究，提出一種能降低觀測(cè)矩陣和稀疏基矩陣間的相干性，同時(shí)能提高系統(tǒng)魯棒性的觀測(cè)矩陣優(yōu)化算法。該算法在傳統(tǒng)模型將格拉姆矩陣逼近單位矩陣的基礎(chǔ)上，同時(shí)逼近構(gòu)造的緊框架，以降低相干性，另外，考慮稀疏表示過(guò)程產(chǎn)生的誤差，進(jìn)一步優(yōu)化模型，并求出優(yōu)化算法的解析解。實(shí)驗(yàn)結(jié)果表明，采用所提優(yōu)化算法，可以降低感知矩陣的平均互相干性，提高魯棒性，重構(gòu)誤差也小于各對(duì)比算法。在實(shí)際應(yīng)用中，所提觀測(cè)矩陣優(yōu)化算法確保了投影得到的低維觀測(cè)值能盡可能多地保留原始信號(hào)的能量，進(jìn)一步證實(shí)了所提算法的有效性。