低相關性壓縮感知表示基學習算法

楊穎穎

（滁州職業(yè)技術學院 基礎部，安徽 滁州 239000）

低相關性壓縮感知表示基學習算法

楊穎穎

（滁州職業(yè)技術學院 基礎部，安徽 滁州 239000）

壓縮感知理論作為一種新的信息壓縮與采樣理論，廣泛用于各種信號的壓縮與采樣.提出一種低相關壓縮感知稀疏表示基學習算法，用于實現(xiàn)稀疏投影下的自適應稀疏表示基設計，從而有效提高在稀疏采樣壓縮情況下的壓縮感知數(shù)據(jù)信號的恢復性能.實驗結(jié)果表明本文提出的方法可以有效提高數(shù)據(jù)恢復性能.

壓縮感知；表示基學習；低相關性；投影矩陣

0 引言

壓縮感知（Compressive sensing，CS）理論作為一種新的信息獲取與采樣技術，其認為只要對稀疏信號進行少量的線性組合即可恢復被采樣的稀疏信號［1］.近年來，壓縮感知理論已被國內(nèi)外學者進行大量研究，同時被廣泛用于圖像壓縮、去噪、降維、數(shù)據(jù)收集等眾多應用領域［2-5］.然而，傳統(tǒng)的壓縮感知理論主要集中在兩個方面：其一是在給定投影矩陣情況下，如何減少采樣值數(shù)目.通常假設投影矩陣為高斯隨機投影矩陣.其二是在稀疏信號的恢復算法上，通常假設帶壓縮信號在通用正交稀疏表示基是稀疏的，如DFT表示基、DCT表示基、DWT表示基等［1］.但在很多實際應用中，投影矩陣要求每行只有一個非零元素，則通用的稀疏表示基很難滿足壓縮感知理論的要求，能精確恢復被采樣數(shù)據(jù)［3-4］.

針對稀疏投影矩陣下的信號采樣與恢復，本文提出一種低相關性壓縮感知表示基學習算法，進行稀疏投影下自適應稀疏字典學習，以實現(xiàn)對數(shù)據(jù)的有效稀疏采樣與精確恢復.本算法是利用壓縮感知中投影矩陣與稀疏表示基需要滿足低相關性要求，并結(jié)合歷史數(shù)據(jù)進行稀疏表示基的自適應學習.

1 問題描述

1.1 壓縮感知

假設X為一個長度為N的信號，如果‖X‖0＜＜N，則向量X稱為稀疏的，那么可以通過X的M個隨機線性組合值來重構(gòu)X.假設X的線性變換矩陣為ΦM×N，則yM×1=ΦX，其中M＜N，Φ稱作測量矩陣.換句話說，如果X足夠稀疏，我們可以從y中恢復信號X.通常情況下X并不稀疏，但X可以在另一個變換域下稀疏表示.例如，X=ΨN×NSN×1，S是一個系數(shù)向量且‖S‖0=K(K＜＜N).矩陣Ψ作為表示基，則測量向量表示為：

由于方程數(shù)M遠小于變量數(shù)N，故這是一個欠定線性方程組，尋找這個問題的解決方案是近年來廣泛研究的課題.目前主要有如下大致幾類解決方案.第一類是尋找最小l0范數(shù)：

直接解決上述問題是棘手的，但目前最快速的方法是平滑的l0范數(shù).第二類方法繞過原始的l0范數(shù)，

式

（3）用LP（linear programming）方法可以很容易解決.除了LP算法，還有IRWLS（Iterative Re-weighted Least Squares），OMP（OrthogonalMatching Pursuit），這些算法計算比LP快，但評估質(zhì)量要比LP低，尤其在信號不足夠稀疏時.

使用上面任何的恢復算法，K稀疏的信號都可以從M個測量值中高精度恢復，只要M滿足如下條件：

其中，C是常數(shù)，N是信號維度，u(Φ,Ψ)是矩陣Φ和矩陣Ψ的相關性.假設給出一對RN的正交基(Φ,Ψ)，u(Φ,Ψ)可以定義為：

而是尋找解決最小l1范數(shù)問題來降低計算復雜度，被稱為BP（Basic Pursuit）：

其中，?i和ψj分別是Φ和Ψ的行和列.對于給定的Φ和X，Ψ，必須滿足以下兩點：1）X必須在Ψ域上稀疏；2）Ψ必須使得u(Φ,Ψ)盡可能小.

1.2 字典學習

字典學習是一種常見的稀疏表示基提取方式［7］.假設給定字典，字典D中每列數(shù)據(jù)dk∈Rn稱為一個原子，則信號可以用字典D中若干相關原子進行線性相關表示，即X=DA.其中，是信號X在字典D下的表示系數(shù). 如果αi中僅有S(S＜＜K)個非零系數(shù)，我們就稱系數(shù)αi是S-稀疏的.綜合模型一般情況下使用l0或者l1范數(shù)來衡量表示系數(shù)的稀疏性.字典D的學習過程如下：

1.3 問題建模

由壓縮感知理論可知，待收集信號X本身通常并不稀疏，但X在某個稀疏變換域上是稀疏的，如X=Ψ?S，其中Ψ為稀疏表示基，S為變換后的信號，并且S只有K個是非零值.對信號稀疏表示的意義在于：只有稀疏信號才能在測量矩陣的觀測下精確重構(gòu)數(shù)據(jù)，因為稀疏信號中“零”值元素很多，因此在信號重構(gòu)時數(shù)據(jù)不會失真.

近幾年來，除了基于稀疏表示基的稀疏表示技術外，基于冗余字典的稀疏分解已經(jīng)吸引研究學者們的廣泛興趣.這是一種新穎的信號稀疏理論：冗余字典使用超完備的冗余函數(shù)庫代替基函數(shù)，字典中的一列數(shù)據(jù)稱為一個原子.對一個稀疏表示基的學習我們采用字典學習的方法.用一組數(shù)據(jù)作為學習字典的訓練數(shù)據(jù)，其中xi∈RN是一個N維數(shù)據(jù)向量.用矩陣X∈RN×L作為訓練數(shù)據(jù)：

稀疏表示基學習的一般形式為

其中，‖·‖F(xiàn)為矩陣的范德蒙范數(shù)；S為稀疏信號的稀疏度，C∈RK×L為稀疏信號矩陣.將作為互相干性懲罰項（提高信號的重構(gòu)精度）加入到式（8）中，得到一個優(yōu)化稀疏表示基的學習模型：

通過求解優(yōu)化模型式（9），則可以得到稀疏表示基.

2 問題迭代求解

為求解優(yōu)化問題式（9），提出交替迭代算法，在每次循環(huán)迭代優(yōu)化過程中主要包含以下兩個步驟：①稀疏求解；②表示基更新.

2.1 稀疏求解

在稀疏求解階段，首先固定稀疏表示基Ψ，然后求解訓練數(shù)據(jù)X在稀疏表示基Ψ上的稀疏表示矩陣C，求解公式如下

對于式（10）采用OMP算法來求解.

2.2 表示基更新

在更新階段，首先固定稀疏矩陣C，根據(jù)下面的優(yōu)化模型求解出新的表示基Ψ：

發(fā)現(xiàn)式（11）是一個凸優(yōu)化問題，必定存在一個全局最優(yōu)解.令

對g(Ψ)進行求導可得：

令g′(Ψ)=0 ，得到

用式（13）作為優(yōu)化模型（11）的最優(yōu)解的近似估計，在迭代過程中對表示基進行更新：

其中，Ψk+1是第k+1輪循環(huán)中更新的稀疏表示基；ψk是第k輪循環(huán)中更新的稀疏表示基.每次得到更新表示基都要對每一列進行單位化處理.綜合上面所述，交替迭代求解稀疏表示基的算法執(zhí)行流程如圖1所示.

圖1 交替迭代算法流程

3 實驗

3.1 實驗方案

為了驗證本文算法的有效性，采用灰度圖像數(shù)據(jù)進行模擬實驗.實驗圖像如圖2和圖3所示，這兩個實驗圖像大小都是1024*1024.

本文將兩幅圖像分割為1024*128和1024*896兩個部分，1024*128作為訓練數(shù)據(jù)，1024*896作為測試數(shù)據(jù).整個實驗過程主要分為以下兩個步驟：首先是運用本文的算法對圖像矩陣進行字典學習并得到稀疏表示基；然后觀測該稀疏表示基在測試數(shù)據(jù)集上的稀疏表示能力.為了充分驗證本文的稀疏表示基學習算法的效果，故選擇固定的DCT［10］字典和 K-SVD［6-7，9］算法學習的字典進行對比 .

圖2 模擬數(shù)據(jù)1

圖3 模擬數(shù)據(jù)2

3.2 實驗結(jié)果

從訓練數(shù)據(jù)集得到稀疏表示基D后，評測該表示基在測試數(shù)據(jù)上的稀疏表示能力.首先得到測試數(shù)據(jù)集X在稀疏表示基上的稀疏表達：

則稀疏表示的誤差用式（15）表示：

圖4顯示本文的表示基學習算法、DCT字典、k-SVD在（a）模擬數(shù)據(jù)集1和（b）模擬數(shù)據(jù)集2上的稀疏表示能力.

圖4 不同表示基的稀疏表示能力

4 總結(jié)

本文通過對低相關性壓縮感知表示基學習算法展開研究，提出一種基于歷史數(shù)據(jù)的稀疏表示基學習方法，從而有效提高稀疏投影下壓縮感知數(shù)據(jù)恢復性能.實驗結(jié)果表明本文提出的方法比傳統(tǒng)通用稀疏表示基和通過K-SVD字典學習算法得到的稀疏表示基性能更好.

［1］BARANIUK R G.Compressive Sensing［J］.IEEE Signal Processing Magazine，2007，24（4）：118-121.

［2］LUO C，WU F，SUN J，et al.Compressive data gathering for large-scale wireless sensor networks［C］∥International Confer?ence on Mobile Computing and NETWORKING.ACM，2009：145-156.

［3］WU X，XIONG Y，YANG P，et al.Sparsest random scheduling for compressive data gathering in wireless sensor networks［J］.IEEE Transactions on Wireless Communications，2014，13（10）：5867-5877.

［4］WU X，LIU M，WU Y.In-situ soil moisture sensing：Optimal sensor placement and field estimation［J］.Acm Transactions on Sensor Networks，2012，8（4）：1-30.

［5］WANG J，TANG S，YIN B，et al.Data gathering in wireless sensor networks through intelligent compressive sensing［C］∥INFOCOM，2012 Proceedings IEEE.IEEE，2012：603-611..

［6］ZHANG Q，LI B.Discriminative K-SVD for dictionary learning in face recognition［C］∥Computer Vision and Pattern Rec?ognition（CVPR），2010 IEEE Conference on.IEEE，2010：2691-2698.

［7］練秋生，石保順，陳書貞.字典學習模型，算法及其應用研究進展［J］.自動化學報，2015，41（2）：240-260.

［8］RAVISHANKAR S，BRESLER Y.Learning sparsifyingtransforms［J］.IEEE Transactions on Signal Processing，2013，61（5）：1072-1086.

［9］RUBINSTEIN R，PELEG T，ELAD M.Analysis K-SVD：a dictionary-learning algorithm for the analysis sparse model［J］.IEEE Transactions on Signal Processing，2013，61（3）：661-677.

［10］常德寬，張廣智，印興耀.基于學習型DCT字典的3D地震數(shù)據(jù)隨機噪聲壓制［C］∥中國地球科學聯(lián)合學術年會.2014.

Research on Low Coherent Representation Basis Learning Algorithm

YANG Yingying
（Department of Basic，Chuzhou Vocational Technology College，239000，Chuzhou,Anhui,China）

Compressive sensing is a new sampling and compression theory.It is widely applied to various sig?nals sampling and compression.In this paper，a low coherent representation basis learning algorithm is pre?sented，which realizes adaptive representation basis design with sparse projection.Our experimental results show that our proposed algorithm could improve the data recovery quality.

compressive sensing；dictionary learning；low coherence；projection matrix

O 29

A

2095-0691（2017）04-0044-05

2017-04-12

楊穎穎（1982- ），女，安徽濉溪人，碩士，研究方向：課程教學、數(shù)學建模、數(shù)學文化、應用數(shù)學.