基于壓縮感知中矩陣分解的觀測矩陣改進(jìn)

蘭明然，王友國

(南京郵電大學(xué) 理學(xué)院，江蘇 南京 210046)

基于壓縮感知中矩陣分解的觀測矩陣改進(jìn)

蘭明然，王友國

(南京郵電大學(xué) 理學(xué)院，江蘇 南京 210046)

觀測矩陣構(gòu)造是壓縮感知(CS)理論中的重點(diǎn)。在構(gòu)造觀測矩陣中，應(yīng)盡可能地降低觀測矩陣與稀疏變換基之間的相關(guān)性，同時(shí)增大觀測矩陣列的獨(dú)立性。為此，提出了一種新的改進(jìn)方法。該方法采用梯度下降法處理Gram矩陣以降低其非對角線元素，在對所得到的觀測矩陣進(jìn)行QR分解的基礎(chǔ)上，再對QR分解后的矩陣進(jìn)行奇異值(SVD)分解，以進(jìn)一步增大觀測矩陣的列獨(dú)立性。為了驗(yàn)證所提出算法的有效性，將所得觀測矩陣分別與未優(yōu)化的高斯矩陣、經(jīng)SVD分解優(yōu)化的高斯矩陣和梯度下降法優(yōu)化的高斯矩陣在同等壓縮比下進(jìn)行了對比仿真實(shí)驗(yàn)。對比仿真實(shí)驗(yàn)結(jié)果表明，應(yīng)用所提出算法而得到的矩陣具有較好的重構(gòu)性能，特別當(dāng)壓縮比小于0.3時(shí)，對應(yīng)于未經(jīng)優(yōu)化的觀測矩陣，峰值信噪比提高約2至3倍。

壓縮感知；觀測矩陣；QR分解；SVD分解

0 引 言

傳統(tǒng)的奈奎斯特采樣定理要求信號采樣頻率不低于信號帶寬的兩倍，這樣才可不失真地實(shí)現(xiàn)重構(gòu)。近年來，Donoho等在信號分解以及逼近理論的基礎(chǔ)上，提出一種全新的信號采樣理論—壓縮感知(Compressive Sensing,CS)[1-2]。該理論指出：利用信號的稀疏性(或可壓縮性)先驗(yàn)條件，通過一定的線性或非線性的解碼模型可以以高概率恢復(fù)原始信號[3]。其中測量矩陣的研究對信號重構(gòu)精度有直接影響，其性能越好，信號恢復(fù)越好。因此，測量矩陣的構(gòu)造至關(guān)重要。

CS理論研究表明，信號的精確重構(gòu)要求觀測矩陣滿足RIP[4-5]，該性質(zhì)同觀測矩陣與稀疏基不相關(guān)[6]等價(jià)。文獻(xiàn)[7]引用相關(guān)系數(shù)概念，其指觀測矩陣與稀疏矩陣之間列向量內(nèi)積的最大值。由已有的理論可知，若觀測矩陣與稀疏矩陣的相關(guān)性特別小，測量值的數(shù)量就能逼近理論值，且能重構(gòu)出信號的稀疏范圍是比較大的[8]。目前，關(guān)于降低兩者互相關(guān)性的研究有：趙瑞珍等[9]采用特征值分解法來減小相關(guān)系數(shù)，并研究了基于Gram矩陣的整體互相關(guān)系數(shù)的方法；Nhat V D M等提出一種有效投影法[10]，該方法提取稀疏變換基中奇異值向量的部分列向量，并用這些列向量組成觀測矩陣，進(jìn)而使得提取出的矩陣與稀疏矩陣間的非相關(guān)性增大；Elad等[11]為了減小非對角線上的元素，在閾值上進(jìn)行一些處理，并提出以Gram陣為基礎(chǔ)的t平均互相關(guān)的性質(zhì)； Abolghasemin等[12]研究了梯度下降法在Gram矩陣中的影響與作用，并與特殊矩陣進(jìn)行比較。

為此，將梯度下降法和矩陣分解相結(jié)合，對壓縮感知矩陣進(jìn)行優(yōu)化，以降低觀測矩陣與稀疏矩陣間的互相關(guān)性并增大觀測矩陣列獨(dú)立性，進(jìn)一步優(yōu)化后得到一個(gè)新矩陣，并將提出方法與未優(yōu)化的高斯矩陣、SVD分解優(yōu)化的高斯矩陣和梯度下降法優(yōu)化的高斯矩陣在同等壓縮比下的性能進(jìn)行了對比分析。仿真結(jié)果表明，應(yīng)用提出方法所獲得的矩陣有較好的重構(gòu)性能，特別是在壓縮比較小時(shí)的優(yōu)勢更加明顯。

1 壓縮感知理論簡介

壓縮感知，是給定一個(gè)可稀疏或壓縮的原始信號，通過某個(gè)特定的矩陣將其投影到一個(gè)低維空間，再利用一定的重構(gòu)算法重構(gòu)出原始信號[1]。具體如下：

(1)設(shè)x是一維離散信號，長度為N，可表示為x(n),n=1,2,…,N。根據(jù)信號稀疏分解理論，N維離散信號x=(x1,x2,…,xN)T可表示一組標(biāo)準(zhǔn)正交基的線性組合。

(1)

常見的稀疏基有DCT基、小波基及傅里葉基等等，文中采用小波基。

y=Φx

(2)

結(jié)合式(1)與式(2)得：

y=Φx=ΦΨs=Θs

(3)

其中，Φ和Θ=ΦΨ均是M×N矩陣，分別稱為測量矩陣和感知矩陣。

2 觀測矩陣優(yōu)化構(gòu)造

常用的測量矩陣包括：高斯隨機(jī)測量矩陣、貝努利隨機(jī)測量矩陣、部分正交測量矩陣、循環(huán)測量矩陣、托普利茲測量矩陣、稀疏隨機(jī)測量矩陣?，F(xiàn)有的這些測量矩陣對信號的重構(gòu)精度都很高，但也有其自身固有的不足，如隨機(jī)測量矩陣元素的不確定性及硬件難以實(shí)現(xiàn)性；確定性矩陣雖然穩(wěn)定性較好，但測量數(shù)上卻差強(qiáng)人意。針對這些缺點(diǎn)，提出了一種基于梯度下降法與矩陣分解結(jié)合的改進(jìn)方法，進(jìn)而得到性能優(yōu)越的觀測矩陣。

2.1 基于梯度下降法增大非相干性方法

(4)

針對Gram矩陣的所有非對角線元素，利用梯度下降法讓Gram矩陣逐漸逼近單位矩陣，以減小Gram矩陣非對角線元素。因單位矩陣中非對角線元素都為0，則相干系數(shù)為0，這是一種理想情況。可以優(yōu)化Gram矩陣，使得它與單位矩陣很接近，即求解以下優(yōu)化模型：

(5)

(6)

由上述分析可知，滿足式(6)時(shí)測量矩陣與稀疏基間互相干系數(shù)最小。

定義誤差函數(shù)：

(7)

根據(jù)文獻(xiàn)[14]：

(8)

(9)

2.2 矩陣分解增大列獨(dú)立性

由Donoho給出的測量矩陣特性[1]和矩陣分解理論可知，測量矩陣Φ的最小奇異值必須大于某一個(gè)非負(fù)常數(shù)η1。矩陣的最小奇異值與矩陣線性相關(guān)性具有緊密聯(lián)系[15]，矩陣最小奇異值越大，其列相關(guān)性越弱，獨(dú)立性越強(qiáng)。因此測量矩陣的最小奇異值對重構(gòu)圖像質(zhì)量起著致關(guān)重要的作用。

2.2.1 矩陣QR分解

2.2.2 矩陣奇異值分解

(10)

其中，Σ=diag(δ1,δ2,…,δr)，且δ1≥δ2≥…≥δr>0，δi(i=1,2,…,r)是A的正奇異值。式(10)稱為矩陣A的奇異值分解。

定義2：任意復(fù)矩陣A∈Cm×n，若存在G∈Cn×m，滿足四個(gè)Penrose方程(AGA=A；GAG=G；(AG)H=AG；(GA)H=GA)中的某幾個(gè)或全部，則稱G為A的一個(gè)廣義逆矩陣。若滿足全部四個(gè)方程的廣義逆矩陣稱為A的Moore-Penrose逆，記為A+。

引理1：若向量x1，x2分別滿足Ax1=y1，Ax2=y2，令d1=‖x1-x2‖p/‖x1‖p，d2=‖y1-y2‖p/ ‖y1‖p，則有d1≤k(A)d2，其中k(A)=‖A‖p*‖A+‖p。

2.3 矩陣優(yōu)化

根據(jù)以上分析，該優(yōu)化方法思路是以高斯矩陣為初始觀測矩陣，通過它構(gòu)造Gram矩陣，利用梯度下降法對Gram矩陣逐步逼近于單位矩陣，通過迭代優(yōu)化后的矩陣反向求出觀測矩陣，且對得到的矩陣進(jìn)行QR分解優(yōu)化，并對分解后矩陣再進(jìn)行SVD分解；繼續(xù)用優(yōu)化后的觀測矩陣求解Gram矩陣，在不斷進(jìn)行Gram矩陣和觀測矩陣反復(fù)作用的過程中，當(dāng)?shù)螖?shù)達(dá)到一定值時(shí)，輸出此時(shí)的觀測矩陣。通過上述優(yōu)化后，觀測矩陣不但與稀疏基間的互相關(guān)性減小，而且其列獨(dú)立性得到增強(qiáng)。另外，由于每次迭代中QR分解優(yōu)化時(shí)R只保存主對角線元素，觀測矩陣保留著重要信息，同時(shí)通過均值算法修改奇異值得到的觀測矩陣具有更好性能。新矩陣優(yōu)化如下：

輸入：稀疏矩陣Ψ，迭代步長η，最大迭代次數(shù)K。

初始化：Φ為一個(gè)任意的隨機(jī)矩陣，Θ=ΦΨ。

循環(huán)：k=1:K。

對Θ做列單位化，Θ←Θ-ηΘ(ΘTΘ-I)，得到：Φ1←ΘΨ-1。

對Φ1進(jìn)行近似QR分解優(yōu)化：即先對Φ1進(jìn)行QR分解，得到Φ1=QR，其中Q為正交陣，R為上三角矩陣；然后將R中的非對角線元素設(shè)置為零，得到R1；最后根據(jù)Φ2=QR1求得進(jìn)一步更新的矩陣Φ2。

再根據(jù)Θ=Φ3Ψ，依次循環(huán)。

3 仿真結(jié)果與分析

為證實(shí)新矩陣優(yōu)化算法相關(guān)理論的優(yōu)越性，采用Matlab標(biāo)準(zhǔn)圖像庫中256*256的Lena圖像進(jìn)行仿真實(shí)驗(yàn)。對比算法的觀測矩陣分別是初始高斯矩陣、經(jīng)SVD分解優(yōu)化的高斯矩陣[15]、梯度下降法優(yōu)化的高斯矩陣[13]。在整個(gè)壓縮感知過程中，原始矩陣采用高斯矩陣，稀疏基選取小波基，以O(shè)MP(正交匹配追蹤)算法作為重構(gòu)算法。在M/N<0.5時(shí)，新矩陣方法采用50次平均統(tǒng)計(jì)的結(jié)果為最后結(jié)果。4種觀測矩陣在不同壓縮比時(shí)的峰值信噪比見表1。

表1 不同壓縮比下的PSNR

壓縮比未優(yōu)化/dB梯度下降法優(yōu)化/dBSVD優(yōu)化/dB所提優(yōu)化/dB0．103．765．023．749．170．204．955．155．3214．900．3012．8318．9418．5827．120．4023．5425．6325．5929．300．5026．8228．2727．2831．51

由表1可知，梯度下降優(yōu)化和SVD優(yōu)化方法的峰值信噪比相差不大，而新矩陣優(yōu)化方法相比其兩種矩陣優(yōu)化的峰值信噪比有顯著提升，當(dāng)壓縮比為0.10、0.20、0.30、0.40、0.50時(shí)，Lena的PSNR比未優(yōu)化方法的PSNR分別提高5.41 dB、9.95 dB、14.29 dB、5.76 dB和4.69 dB。通過比較可知，峰值信噪比的提高驗(yàn)證了新矩陣改進(jìn)方法的可行性；而且當(dāng)壓縮比趨于0.30時(shí)，新矩陣優(yōu)化的峰值信噪比提升最佳。圖1為4種觀測矩陣的峰值信噪比隨壓縮比變化趨勢圖。

圖1 觀測矩陣的峰值信噪比隨壓縮比變化趨勢圖

從圖1可看出，SVD優(yōu)化和梯度下降優(yōu)化效果很相近，其PSNR值比未優(yōu)化的信噪比稍微增大；而新矩陣優(yōu)化后的測量矩陣用于圖像重構(gòu)，所得PSNR值比SVD優(yōu)化和梯度下降優(yōu)化得到的PSNR值有顯著提高，更優(yōu)于未經(jīng)優(yōu)化的測量矩陣圖像重構(gòu)的效果。PSNR值的提高表明，新矩陣優(yōu)化方法可提高重構(gòu)精度，改善重構(gòu)質(zhì)量。圖2給出了Lena和部分Lena在壓縮比為0.5時(shí)4種算法的重構(gòu)效果。

其中，圖2(a)是未優(yōu)化恢復(fù)的圖像；圖2(b)是梯度下降法優(yōu)化恢復(fù)的圖像；圖2(c)是SVD優(yōu)化恢復(fù)的圖像；圖2(d)是新矩陣優(yōu)化恢復(fù)的圖像。由對比可知，新矩陣優(yōu)化方法重構(gòu)圖像質(zhì)量優(yōu)于SVD優(yōu)化和梯度下降優(yōu)化方法重建圖像的質(zhì)量；再則，圖(a)和圖(b)比較模糊，圖(d)相對圖(c)在下巴和嘴巴這些細(xì)節(jié)上重構(gòu)效果更好，圖(d)清晰度更接近原始圖像。綜上，提出算法在相同的壓縮比下重構(gòu)性能更高。

4 結(jié)束語

針對觀測矩陣與稀疏變換基之間的相關(guān)性以及觀測矩陣列的獨(dú)立性,提出了一種基于梯度下降法的矩陣分解優(yōu)化方法，得到了較優(yōu)的觀測矩陣。由仿真結(jié)果分析可知，提出的優(yōu)化方法用于圖像重構(gòu)，在壓縮比0.5時(shí)，重構(gòu)圖像的PSNR值比SVD優(yōu)化和梯度下降優(yōu)化的PSNR值提高約3.2 dB,優(yōu)于未優(yōu)化的PSNR值，尤其在壓縮較少時(shí)，優(yōu)勢更明顯。可見，提出的方法具有較好的適用性和較為顯著的優(yōu)越性能。

[1] Donoho D L.Compressed sensing[J].IEEE Transactions on Information Theory,2006,52(4):1289-1306.

[2] Candes E.Compressive sampling[C]//Proceeding of the international congress of mathematicians.[s.l.]:[s.n.],2006:1433-1452.

[3] 方 紅,章權(quán)兵,韋 穗.基于非常稀疏隨機(jī)投影的圖像重建方法[J].計(jì)算機(jī)工程與應(yīng)用,2007,43(22):25-27.

[4] Candes E, Tao T.Near optimal signal recovery form random projections:universal encoding strategies?[J].IEEE Transactions on Information Theory,2007,52(12):5406-5425.

[5] 馬慶濤,唐加山.基于壓縮感知的測量矩陣研究[J].微型機(jī)與應(yīng)用,2013,32(8):64-67.

[6] Baraniuk R.A lecture on compressive sensing[J].IEEE Signal Processing Magazine,2007,24(4):118-121.

[7] Donoho D L,Stark P B.Uncertainty principles and signal recovery[J].SIAM Journal on Applied Mathematics,1989,49(3):906-931.

[8] 徐 靜,王彩云.壓縮感知測量矩陣優(yōu)化混合方法[J].深圳大學(xué)學(xué)報(bào):理工版,2014,31(1):58-62.

[9] Zhao Ruizhen,Qin Zhou,Hu Shaohai,et al.An optimization method for measurement matrix based on eigenvalue decomposition[J].Signal Processing,2012,28(5):654-656.

[10] Nhat V D M,Vo D,Halla S,et al.Efficient projection for compressed sensing[C]//Proceedings of the computer and information science.[s.l.]:[s.n.],2008:322-327.

[11] Elad M. Optimized projections for compressed sensing[J].IEEE Transactions on Signal Processing,2007,55(12):5695-5702.

[12] Abolghasemin V,Ferdowsi S,Makkiabadi B,et al.A robust approach for optimization of the measurement matrix in compressed sensing[C]//International workshop on cognitive information processing.Elba Island:IEEE Press,2010:388-392.

[13] Abolghasemin V,Ferdowsi S,Sanei S.A gradient-based alternating minimization approach for optimization of the measurement matrix in compressed sensing[J].Signal Processing,2012,92(3):999-1009.

[14] Abolghasemi V,Ferdowsi S,Makkiabadi B,et al.On optimization of the measurement matrix for compressive sensing[C]//18th European signal processing conference.[s.l.]:IEEE,2010:427-431.

[15] 彭玉樓,何怡剛,林 斌.基于奇異值分解的壓縮感知噪聲信號重構(gòu)算法[J].儀器儀表學(xué)報(bào),2012,33(12):2655-2660.

[16] 傅迎華.可壓縮傳感重構(gòu)算法與近似QR分解[J].計(jì)算機(jī)應(yīng)用,2008,28(9):2300-2302.

Improvement of Measurement Matrix with Matrix Decomposition in Compressive Sensing

LAN Ming-ran,WANG You-guo

(College of Science,Nanjing University of Posts and Telecommunications,Nanjing 210046,China)

The structure of measurement matrix is the key point in the theory of Compressive Sensing (CS).In the measurement matrix constructing,it is possible to reduce the correlation between the measurement matrix and the sparse transformation matrix,and to increase the independence of the measurement matrix.A new improved method has been proposed for this purpose,which uses gradient Gram matrix to reduce its non-diagonal elements with descent method of measurement matrix obtained by QR decomposition.After decomposition of the QR matrix,Singular Value Decomposition (SVD) has been implemented to further increase the independence among the measurement matrix.In order to verify the effectiveness of the proposed algorithm,contrast experiments of matrix acquired by the proposed method with three types of Gauss matrices,such as these without optimization,optimized by SVD decomposition and optimized by gradient descent method,have been carried out at the same compression.The experimental simulation results show that the proposed algorithm and thus the reconstruction matrix have displayed better performance,especially when the compression ratio is less than 0.3,the peak signal-to-noise ratio has increased about 2 to 3 times comparing with the measurement matrix without optimization.

compressive sensing;measurement matrix;QR decomposition;singular value decomposition

2016-07-05

2016-11-04 網(wǎng)絡(luò)出版時(shí)間：2017-04-28

國家自然科學(xué)基金資助項(xiàng)目(61179027)

蘭明然(1992-)，女，碩士研究生，研究方向?yàn)樾盘柼幚砝碚撆c應(yīng)用；王友國，教授，博士生導(dǎo)師，研究方向?yàn)樾畔⒗碚摷皯?yīng)用、編碼理論及應(yīng)用、隨機(jī)共振理論與研究。

http://kns.cnki.net/kcms/detail/61.1450.TP.20170428.1703.048.html

TP31

A

1673-629X(2017)06-0056-04

10.3969/j.issn.1673-629X.2017.06.012