基于滑窗置信傳播算法的聯(lián)合信源信道編碼

鹿增輝，方 勇，霍迎秋

(西北農(nóng)林科技大學(xué) 信息工程學(xué)院，陜西 楊凌 712100)

基于滑窗置信傳播算法的聯(lián)合信源信道編碼

鹿增輝，方 勇，霍迎秋

(西北農(nóng)林科技大學(xué) 信息工程學(xué)院，陜西 楊凌 712100)

針對(duì)聯(lián)合信源信道編碼中信源統(tǒng)計(jì)特性和信道噪聲參數(shù)未知情況下，解碼算法性能急劇下降的問(wèn)題，提出一種基于滑窗置信傳播算法(SWBP)的聯(lián)合信源信道編碼，簡(jiǎn)稱滑窗算法。研究采用不規(guī)則重復(fù)累積(IRA)碼來(lái)實(shí)現(xiàn)基于滑窗置信傳播算法的聯(lián)合信源信道編碼，IRA碼可以取得與低密度奇偶校驗(yàn)(LDPC)碼同樣優(yōu)越的性能，但編碼復(fù)雜度遠(yuǎn)遠(yuǎn)低于LDPC碼。在解碼端引入滑動(dòng)窗口，通過(guò)實(shí)時(shí)地估計(jì)不斷變化的信源統(tǒng)計(jì)特性和信道噪聲參數(shù)，從而提高解碼速率。實(shí)驗(yàn)結(jié)果表明該算法具有接近相關(guān)參數(shù)已知情況下的理想性能、不依賴于初始參數(shù)、復(fù)雜度低且易于實(shí)現(xiàn)等優(yōu)點(diǎn)。

聯(lián)合信源信道編碼；不規(guī)則重復(fù)累積碼；置信傳播；相關(guān)參數(shù)估計(jì)；低密度奇偶校驗(yàn)碼

通信的目的是實(shí)現(xiàn)消息從信源到信宿的可靠傳輸，該過(guò)程一般需要進(jìn)行信源編碼和信道編碼。信源編碼的主要目的是提高碼字序列中碼元的平均信息量，即去除消息中的冗余，提高傳輸效率。信道編碼的目的在于提高系統(tǒng)的可靠性，通過(guò)增加冗余位和校驗(yàn)信息，使系統(tǒng)具有一定的糾錯(cuò)能力和抗干擾能力，從而極大地避免碼流傳送中誤碼的發(fā)生[1]。在香農(nóng)信源信道分離理論的指導(dǎo)下，通常信源編碼和信道編碼分離開(kāi)來(lái)進(jìn)行獨(dú)立地編解碼[2]。然而，在許多場(chǎng)景下，獨(dú)立編碼已經(jīng)不能滿足實(shí)際的需求，例如：受資源限制的系統(tǒng)、時(shí)變系統(tǒng)和多用戶系統(tǒng)等，因此聯(lián)合信源信道編碼逐漸成為當(dāng)前的研究熱點(diǎn)之一。通常聯(lián)合信源信道編碼有如下幾種實(shí)現(xiàn)方案：分層編碼[3]、基于低密度奇偶校驗(yàn)(Low Density Parity Check， LDPC)碼的聯(lián)合譯碼[4]、Turbo碼[5]和多描述編碼[6]。不規(guī)則重復(fù)累積碼(Irregular Repeat Accumulate， IRA)是一種特殊的LDPC碼，不僅可以實(shí)現(xiàn)對(duì)信源的壓縮，而且可以進(jìn)行信道容錯(cuò)，因此本文中采用IRA碼來(lái)實(shí)現(xiàn)聯(lián)合信源信道編碼[7]。

在IRA碼譯碼算法中，對(duì)信源統(tǒng)計(jì)特性和信道噪聲相關(guān)參數(shù)的估計(jì)，仍是影響解碼算法性能的重要因素[8]。為了提高解碼效率，學(xué)者們提出了許多參數(shù)估計(jì)方法。鄭思明等人提出基于粒子濾波的置信傳播算法[9]，該方法在標(biāo)準(zhǔn)置信傳播算法基礎(chǔ)上引入粒子濾波的過(guò)程，通過(guò)為每個(gè)變量節(jié)點(diǎn)賦予不同權(quán)重的隨機(jī)粒子，然后在每次標(biāo)準(zhǔn)置信傳播譯碼之后，重新計(jì)算粒子的置信和權(quán)重，舍棄權(quán)重較小的粒子，保留權(quán)重大的粒子，以實(shí)現(xiàn)對(duì)信源后驗(yàn)概率的估計(jì)。方勇提出基于滑窗的置信傳播(Belief Propagation，BP)算法[10]，該算法的主要思想是在解碼端引入滑動(dòng)窗口，在每輪置信傳播算法迭代之后，不斷地對(duì)信源參數(shù)進(jìn)行估計(jì)和更新，從而提高譯碼算法性能。

鑒于上述研究是基于理想信道進(jìn)行的缺點(diǎn)，本文在IRA聯(lián)合譯碼算法的基礎(chǔ)上提出一種改進(jìn)的IRA聯(lián)合譯碼算法，即基于滑窗置信傳播算法的聯(lián)合信源信道編碼。改進(jìn)的IRA聯(lián)合譯碼算法基于標(biāo)準(zhǔn)聯(lián)合譯碼算法基礎(chǔ)上引入滑動(dòng)窗口，解碼的同時(shí)對(duì)信源似然概率信息和信道噪聲似然信息進(jìn)行實(shí)時(shí)估計(jì)，從而極大地提高解碼速率。改進(jìn)的IRA聯(lián)合譯碼算法具有時(shí)間復(fù)雜度低，對(duì)初始值不敏感等優(yōu)點(diǎn)。

1 基于IRA碼的聯(lián)合信源信道編碼

傳統(tǒng)的聯(lián)合信源信道編碼，首先使用信源碼對(duì)信源進(jìn)行壓縮，再串連一個(gè)信道碼以實(shí)現(xiàn)信道容錯(cuò)。本文采用一種特殊的LDPC碼，即IRA碼。它既可以實(shí)現(xiàn)信源壓縮，又可以實(shí)現(xiàn)信道容錯(cuò)，非常適合聯(lián)合信源信道編碼的應(yīng)用場(chǎng)景。

1.1 系統(tǒng)模型與描述

如圖1所示，利用在解碼器中引入一個(gè)內(nèi)嵌編碼器的方法可以將分布式編碼轉(zhuǎn)化為傳統(tǒng)編碼[11]，如圖1所示。具體轉(zhuǎn)換過(guò)程如下：sx=Hx，其中sx為x的伴隨式，H為奇偶校驗(yàn)矩陣。在解碼端，首先計(jì)算邊信息y的伴隨式sy=Hy，則s=sx⊕sy=H(x⊕y)=Hz。此時(shí)，可以將信源x和邊信息y之間交叉概率的估計(jì)問(wèn)題轉(zhuǎn)換為求z統(tǒng)計(jì)特性參數(shù)。

圖1 解碼器中引入內(nèi)嵌編碼器模型

1.2 基于IRA的編碼器和解碼器

圖2所示為IRA碼的二分圖表示，IRA碼有變量節(jié)點(diǎn)和校驗(yàn)節(jié)點(diǎn)[12]。[x1,x2,…,xn]和[u1,u2,…,um]代表變量節(jié)點(diǎn)，[s1,s2,…,sm]表示校驗(yàn)節(jié)點(diǎn)。

圖2 IRA碼二分圖表示

基于IRA碼的聯(lián)合信源信道編碼的原理可描述如下[13]：

(1)

再通過(guò)IRA譯碼算法進(jìn)行解碼，就可以恢復(fù)信源x和u。

上述過(guò)程可以總結(jié)為：兩邊的變量節(jié)點(diǎn)，將置信度傳遞給中間校驗(yàn)節(jié)點(diǎn)。然后中間的校驗(yàn)節(jié)點(diǎn)，再將自身置的信度分別傳遞給兩邊的變量節(jié)點(diǎn)。此過(guò)程不斷迭代，直至譯碼成功或達(dá)到最大迭代次數(shù)。實(shí)際上，x到s的過(guò)程為壓縮，從s到u是一個(gè)容錯(cuò)過(guò)程。

2 改進(jìn)的IRA聯(lián)合譯碼算法

在信源統(tǒng)計(jì)特性和信道噪聲參數(shù)未知的情況下，為了解決IRA聯(lián)合譯碼算法性能急劇下降的問(wèn)題，本文基于滑窗置信傳播算法提出改進(jìn)的IRA聯(lián)合譯碼算法，以下簡(jiǎn)稱滑窗置信傳播算法。下面分別從滑窗置信傳播算法的流程、改進(jìn)后的譯碼算法和參數(shù)估計(jì)三方面對(duì)改進(jìn)后的算法進(jìn)行介紹。

2.1 符號(hào)說(shuō)明

Li：與變量節(jié)點(diǎn)xi相連的所有校驗(yàn)節(jié)點(diǎn)的索引集合；

Mj：與校驗(yàn)節(jié)點(diǎn)sj相連的變量節(jié)點(diǎn)xi的索引集合；

αij：xi傳遞給sj的消息；

αkj：uk傳遞給sj的消息；

βji：sj傳遞給xi的消息；

βjk：sj傳遞給uk的消息。

2.2 算法流程圖

圖3 SWBP算法流程圖

2.3 IRA聯(lián)合譯碼算法

標(biāo)準(zhǔn)的IRA聯(lián)合譯碼算法，包含如下4步：

1) 變量節(jié)點(diǎn)向校驗(yàn)節(jié)點(diǎn)傳遞消息

(2)

2) 校驗(yàn)節(jié)點(diǎn)向變量節(jié)點(diǎn)傳遞消息

(3)

3) 計(jì)算后驗(yàn)概率

(4)

4) 硬判決譯碼

(5)

2.4 參數(shù)估計(jì)

1)信源統(tǒng)計(jì)特性的估計(jì)

(6)

(7)

2)信道噪聲參數(shù)的估計(jì)

類似于對(duì)信源統(tǒng)計(jì)特性的估計(jì)，對(duì)于信道噪聲參數(shù)的估計(jì)，同樣使用滑窗技術(shù)。估計(jì)公式如下

(8)

3 窗口大小的確定

3.1 自適應(yīng)窗口大小算法描述

(9)

(10)

則該問(wèn)題可轉(zhuǎn)化為

(11)

(12)

3.2 搜索策略

在尋找最優(yōu)窗口大小時(shí)，不需要從1到n搜索每個(gè)奇數(shù)。一方面，窗口太大或太小時(shí)該算法的性能都不會(huì)太好。另一方面，相鄰兩個(gè)窗口的大小對(duì)算法性能影響差別不大。因此，可采取間隔一個(gè)距離的方法進(jìn)行搜索，假設(shè)間隔為20，則分別搜索大小為21、41、61等窗口。

4 實(shí)驗(yàn)結(jié)果

實(shí)驗(yàn)采用IRA碼仿真滑窗算法的譯碼性能及其參數(shù)估計(jì)能力。對(duì)實(shí)驗(yàn)中的參數(shù)做如下說(shuō)明：假設(shè)信源的統(tǒng)計(jì)特性取值為正弦函數(shù)，即pi=p+(p-0.01)×sin(2πi/n)。假設(shè)信道的噪聲參數(shù)也取值正弦函數(shù)，即qk=q+(q-0.01)×sin(2πk/m)。使用碼長(zhǎng)為6 336的規(guī)則碼，交叉測(cè)試6種不同的速率，即q取值0.05時(shí)，p分別取值0.02，0.03，0.04，0.05，0.06，0.07；p取值0.04時(shí)，q分別取值0.02，0.03，0.04，0.05，0.06，0.07。

表1描述了碼長(zhǎng)為6 336的規(guī)則IRA碼，當(dāng)q取0.05時(shí)，信源統(tǒng)計(jì)特性p在6種不同速率下的譯碼性能。其中ideal列表示在已知非平穩(wěn)信源的統(tǒng)計(jì)特性的條件下，IRA碼獲得的實(shí)際編碼速率；static列表示將非平穩(wěn)信源看成平穩(wěn)信源，且使用p來(lái)初始化變量節(jié)點(diǎn)的置信度，獲得的實(shí)際編碼速率；swbp-p列表示在不知道平穩(wěn)信源的統(tǒng)計(jì)特性條件下，使用p來(lái)初始化變量節(jié)點(diǎn)置信度，運(yùn)行SWBP算法獲得的編碼速率。同理swbp-2p、swbp-0.5p列是分別使用2p和0.5p初始化置信度獲得的編碼速率。

表1 q為0.05時(shí)、p在6種不同碼率下的譯碼性能

從表1的實(shí)驗(yàn)結(jié)果可以看出，在信源統(tǒng)計(jì)特性未知的前提下，SWBP算法的性能接近于已知信源統(tǒng)計(jì)特性的理論性能，即ideal列與swbp-p列非常接近。主要是因?yàn)镾WBP算法在迭代譯碼的過(guò)程中不斷地對(duì)非平穩(wěn)信源的統(tǒng)計(jì)特性和噪音參數(shù)進(jìn)行估計(jì)與更新。swbp-p列、swbp-2p列和swbp-0.5p列實(shí)驗(yàn)結(jié)果非常接近，這說(shuō)明對(duì)于不同初始化參數(shù)p、2p和0.5p對(duì)SWBP算法影響不大，因此，該算法具有魯棒性，其性能曲線如圖4所示。

圖4 p在6種不同速率下的譯碼性能

表2描述了碼長(zhǎng)為6 336的規(guī)則IRA碼，當(dāng)p取0.04時(shí)，信道噪聲參數(shù)q在6種不同速率下的譯碼性能。其中ideal列表示在已知信道噪聲參數(shù)的條件下，IRA碼獲得的實(shí)際編碼速率；static列表示將信道噪聲看成平穩(wěn)變化的，且使用q來(lái)初始化置信度，所獲得的實(shí)際編碼速率；swbp-q列表示在未知信道噪聲參數(shù)條件下，使用q來(lái)初始化置信度，運(yùn)行SWBP算法獲得的編碼速率。同理swbp-2q、swbp-0.5q列分別表示使用2q和0.5q初始化置信度獲得的編碼速率。

表2 p為0.04時(shí)q在6種不同碼率下的譯碼性能

從表2的實(shí)驗(yàn)結(jié)果可以看出，在信道噪聲參數(shù)未知的前提下，SWBP算法的性能接近于已知信道噪音參數(shù)的理論性能，即ideal列與swbp-q列非常接近。這主要是因?yàn)镾WBP算法在迭代譯碼的過(guò)程中不僅可以估計(jì)信源的統(tǒng)計(jì)特性還可以估計(jì)信道的噪聲參數(shù)。swbp-q列、swbp-2q列和swbp-0.5q列實(shí)驗(yàn)結(jié)果非常接近，這說(shuō)明SWBP算法對(duì)于不同初始化參數(shù)q、2q和0.5q不敏感，具有魯棒性，其性能曲線如圖5所示。

圖5 q在6種不同速率下的譯碼性能

5 結(jié)束語(yǔ)

本文提出了一種基于SWBP的聯(lián)合信源信道編碼方法，其主要思想是在譯碼階段引入滑窗算法，不斷對(duì)信源統(tǒng)計(jì)特性和信道噪聲參數(shù)進(jìn)行估計(jì)和更新，從而提高了譯碼性能。該方法有效地解決了在譯碼階段信源統(tǒng)計(jì)特性和信道噪聲參數(shù)未知的情況下，譯碼性能急劇下降的問(wèn)題。本實(shí)驗(yàn)采用的信源統(tǒng)計(jì)特性服從正弦函數(shù)，由于滑窗算法對(duì)當(dāng)前變量節(jié)點(diǎn)局部統(tǒng)計(jì)特性的估計(jì)依賴于其周圍變量節(jié)點(diǎn)的置信度，因此該方法對(duì)其他連續(xù)非平穩(wěn)信源同樣適用。實(shí)驗(yàn)結(jié)果表明，該方法的性能接近于理想情況下的性能，具有簡(jiǎn)單易實(shí)現(xiàn)、時(shí)間復(fù)雜度低和不依賴于初始值等優(yōu)點(diǎn)。

[1] 陳運(yùn). 信息論與編碼[M]. 2版.北京：電子工業(yè)出版社，2011.

[2] SHANNON C E. A mathematical theory of communication[J]. Bell System Technical Journal，1948(27)：379-423.

[3] 席志紅，肖春麗，劉曉慧. 基于ROI圖像傳輸?shù)穆?lián)合信源信道編碼的研究[J]. 應(yīng)用科技，2008，35(11)：11-14.

[4] 趙旦峰，王詩(shī)力，周相超. 基于隱馬爾科夫模型的多元LDPC聯(lián)合譯碼[J]. 電子科學(xué)，2013，26(8)：4-6.

[5] 賈鎮(zhèn)澤，馬林華，張嵩，等. RS碼與LDPC碼的聯(lián)合迭代譯碼[J].電視技術(shù)，2013，37(17)：200-203.

[6] 張丹，李曉峰，簡(jiǎn)沖，等. 一種多參數(shù)優(yōu)化的聯(lián)合信源信道編碼方法[J].計(jì)算機(jī)應(yīng)用研究，2010，27(4)：1530-1533.

[7] 袁基睿，陳賀新，趙巖. 基于H.264和Turbo碼的信源信道聯(lián)合解碼[J].吉林大學(xué)學(xué)報(bào)：工學(xué)版，2007，37(5)：1187-1191.

[8] 余華，曹維娜，趙力，等. 信源信道聯(lián)合編碼技術(shù)用于AVS傳輸?shù)难芯縖J]. 電視技術(shù)，2007，31(8)：9-10.

[9] XU Q， STANKOVIC V， XIONG Z. Layered Wyner-Ziv video coding for transmission over unreliable channels[J]. Signal Processing，2006，86(11)： 3212-3225.

[10] FANF Yong. Analysis on crossover probability estimation using LDPC syndrome[J]. Science China： Information Sciences，2011，54(9)：1895-1904.

[11] WANG S，CUI L，CHENG S，et al. Noise adaptive LDPC decoding using particle filtering[J]. IEEE Trans. Commun.，2011，59(4)：913-916.

[12] FANG Yong. LDPC-based lossless compression of nonstationary binary sources using sliding-window belief propagation[J]. IEEE Trans. Communications，2012，60(11)：3161-3166.

[13] FANG Yong. Crossover probability estimation using mean-intrinsic- LLR of LDPC syndrome[J]. IEEE Commun. Lett.，2009，13(9)： 679-681.

[14] 周勝源，曹治政，臧嵐，等.不規(guī)則LDPC碼度分布的優(yōu)化設(shè)計(jì)研究[J]. 電視技術(shù)，2012，36(15)：90-93.

[15] FANG Yong. Joint source-channel estimation using accumulated LDPC syndrome[J]. IEEE Commun. Lett. 2010，14(11)：1044-1046.

鹿增輝(1990— )，碩士生，主研信源信道編碼方向的研究；

方 勇(1979— )，教授，博士生導(dǎo)師，主要從事編碼理論、網(wǎng)絡(luò)信息論、圖像壓縮與傳輸、并行計(jì)算等方向的研究，為本文通訊作者。

責(zé)任編輯：時(shí) 雯

Joint Source-channel Coding Based on Sliding-window Belief Propagation

LU Zenghui，F(xiàn)ANG Yong， HUO Yingqiu

(CollegeofInformationEngineering，NorthwestA&FUniversity，ShaanxiYangling712100，China)

To solve the problem of unknown source statistical properties and channel noise parameters and that of the decoding performance degradation， a new joint source-channel coding scheme based on the Sliding-Window Belief Propagation (SWBP) algorithm is proposed. In this paper， irregular repeat accumulate (IRA) is adopted to achieve the SWBP algorithm in joint source-channel coding. IRA coding can obtain the same superior performance with low density parity check (LDPC) coding， but less than complexity. A sliding-window is introduced in the decoder， and the decoding rate is improved by estimating the changing source statistical properties and channel noise parameters real-timely. The experiment results show that the performance of the proposed algorithm is close to the ideal curve when correlation parameters have been given. While the algorithm shows other advantages， including the robustness to initial parameters， the low linear time complexity， and easy to implement.

joint source-channel coding； irregular repeat accumulate coding； belief propagation； correlation estimation； low density parity check coding

【本文獻(xiàn)信息】鹿增輝，方勇，霍迎秋.基于滑窗置信傳播算法的聯(lián)合信源信道編碼[J].電視技術(shù),2015，39(11).

國(guó)家自然科學(xué)基金項(xiàng)目(61271280)；中央高?；究蒲袠I(yè)務(wù)項(xiàng)目(QN2013086)

TN911.2

A

10.16280/j.videoe.2015.11.023

2015-01-19