面向5G網(wǎng)絡(luò)的信息論與編碼課程教學(xué)探討

劉建剛 胡桔洲

摘 ?要： 5G網(wǎng)絡(luò)時代已經(jīng)來臨，文章從面向5G通信網(wǎng)絡(luò)的角度對與之關(guān)系密切的信息論與編碼課程的教學(xué)提出了新要求。探討了信息論與編碼課程與概率論與數(shù)理統(tǒng)計、線性代數(shù)等課程之間的內(nèi)在聯(lián)系，介紹了在信息論與編碼課程實踐教學(xué)中的體會。總結(jié)得出，該課程須不斷更新教學(xué)內(nèi)容，特別是要將涉及5G通信網(wǎng)絡(luò)的低密度奇偶校驗碼（LDPC）、極化碼（Polar Code）等編碼方法引入到課程教學(xué)中來。

關(guān)鍵詞： 5G網(wǎng)絡(luò); 信息論與編碼; 教學(xué); 變革; 低密度奇偶校驗碼與極化碼

中圖分類號：TN911.2;G642.4 ? ? ? ? ?文獻標(biāo)志碼：A ? ? 文章編號：1006-8228（2019）11-102-04

Abstract： With the advent of 5G network era， this paper puts forward new requirements for the teaching of information theory and coding course which are closely related to 5G communication network. This paper probes into the internal relations between the information theory and coding course and the courses of probability theory and mathematical statistics， linear algebra and the others， and introduces the experience in the practical teaching of information theory and coding course. It is concluded that the teaching content of this course should be updated continuously， especially the 5G communication network related coding methods LDPC and Polar Code should be introduced into the teaching of this course.

Key words： 5G network; information theory and coding; teaching; change; LDPC and Polar Code

0 引言

5G是指第五代移動通信網(wǎng)絡(luò)，其峰值理論傳輸速度可達每秒數(shù)十Gb，其比4G網(wǎng)絡(luò)的傳輸速度快數(shù)百倍。5G網(wǎng)絡(luò)的主要目標(biāo)是讓終端用戶始終處于聯(lián)網(wǎng)狀態(tài)，在不久的將來，其不僅支持智能手機，而且還要支持智能手表、健身腕帶、智能家庭設(shè)備等[1]。

2014年5月13日，三星電子宣布，其已率先開發(fā)出了首個基于5G核心技術(shù)的移動傳輸網(wǎng)絡(luò)，并表示將在2020年之前進行5G網(wǎng)絡(luò)的商業(yè)推廣。2018年6月14日，3GPP全會批準(zhǔn)了第五代移動通信技術(shù)標(biāo)準(zhǔn)獨立組網(wǎng)功能凍結(jié)，加之去年12月完成的非獨立組網(wǎng)NR標(biāo)準(zhǔn)，5G已經(jīng)完成了第一階段全功能標(biāo)準(zhǔn)化工作，進入了產(chǎn)業(yè)全面沖刺新階段，也充分表明5G時代很快就要到來。

信息論與編碼是信息、通信、電子工程類等專業(yè)的核心主干課程，內(nèi)容主要包括信息的定義和度量，離散信源和連續(xù)信源的信息熵，信道和信道容量，平均失真度和信息率失真函數(shù)、信源編碼、信道編碼、加密編碼、網(wǎng)絡(luò)信息理論等，課程傳統(tǒng)的核心內(nèi)容圍繞無失真信源編碼定理、信道編碼定理、限失真信源編碼定理為主要脈絡(luò)的香農(nóng)三大極限定理以及香農(nóng)公式展開[2]。

5G網(wǎng)絡(luò)涉及的編碼方法將區(qū)別于4G時代下的Turbo編碼方法，因此，有必要將信息論與編碼課程內(nèi)容進行革新。隨著5G移動通信時代的即將來臨，本文擬從面向5G網(wǎng)絡(luò)的角度，對與之緊密聯(lián)系的信息論與編碼課程重新定位，探討信息論與編碼課程的教學(xué)。

1 面向5G的信息論與編碼課程定位與變革

⑴ 5G時代背景下信息論與編碼課程重新定位

信息論與編碼作為信息、通信、電子工程類等專業(yè)的核心主干課程，面臨著5G時代的來臨，更能凸顯該課程的重要性及其突出地位，有必要重新審視該課程的定位。要將其放在突出重要的地位，以期培養(yǎng)出能夠跟上5G時代步伐的信息類專門人才[3-4]。

⑵ 將5G的變革與信息論與編碼的發(fā)展緊密聯(lián)系起來

1948年，香農(nóng)發(fā)表了現(xiàn)代信息論的開創(chuàng)性權(quán)威論文A mathematical theory of communication（通信的數(shù)學(xué)理論），為信息論的創(chuàng)立作出了獨特的貢獻，其本人也因此成為了信息論的奠基人。1959年，香農(nóng)發(fā)表Coding theorems for a discrete source with a fidelity criterion（保真度準(zhǔn)則下的離散信源編碼定理），為各種信源編碼的研究奠定了基礎(chǔ)[5]。

5G時代面臨巨大的變革，其中主要包括5G網(wǎng)絡(luò)需要遠超過4G網(wǎng)絡(luò)的傳輸速率，目前5G網(wǎng)絡(luò)已成功在28千兆赫（GHz）波段下達到了1Gbps，相比之下，當(dāng)前的第四代長期演進（4G LTE）服務(wù)的傳輸速率僅為75Mbps;5G網(wǎng)絡(luò)需要能夠靈活地支持各種不同的設(shè)備，除了支持手機和平板電腦外，5G網(wǎng)絡(luò)將還需要支持可佩戴式設(shè)備，例如健身跟蹤器和智能手表、智能家庭設(shè)備如鳥巢式室內(nèi)恒溫器等;5G網(wǎng)絡(luò)不僅要支持更多的數(shù)據(jù)，而且要支持更多的使用率，改善端到端性能將是5G時代面對的一個重大的課題;5G網(wǎng)絡(luò)將會帶來智能手機和移動設(shè)備電池壽命的大幅提升[6]。

因此，急需將這些面臨的變革與信息論與編碼的發(fā)展緊密聯(lián)系起來。

⑶ 將涉及5G時代的編碼方法引入課堂教學(xué)

2016年10月14日，由美國主推的LDPC戰(zhàn)勝由中國支持的Polar碼和歐洲主推的Turbo 2.0，被3GPP RAN1確定為5G標(biāo)準(zhǔn)New Radio （NR）長碼編碼方案，這標(biāo)志著3G、4G下使用的Turbo碼結(jié)束了其長達十幾年的統(tǒng)治地位，其輝煌時代也由此落幕。

LDPC碼即低密度奇偶校驗碼（Low Density Parity Check Code），是由Robert G. Gallager博士于1963年提出的一類具有稀疏校驗矩陣的線性分組碼，限于當(dāng)時技術(shù)條件的局限性，缺乏可行的譯碼算法，在此后的35年間，LDPC碼基本上被人們忽略，其間由Tanner在1981年推廣了LDPC碼，并給出了稱為Tanner圖的該碼的圖表示。1993年Berrou等人發(fā)現(xiàn)了Turbo碼，在此基礎(chǔ)之上，1995年前后MacKay和Neal等人對LDPC碼重新進行了研究，提出了可行的譯碼算法，從而進一步發(fā)現(xiàn)LDPC碼不僅有逼近香農(nóng)極限的良好性能，而且譯碼復(fù)雜度較低， 結(jié)構(gòu)靈活。目前該碼已廣泛應(yīng)用于深空通信、光纖通信、衛(wèi)星數(shù)字視頻和音頻廣播等領(lǐng)域，其被確定為5G標(biāo)準(zhǔn)長碼編碼方案，將在國內(nèi)外掀起對其研究的熱潮[7]。

2016年11月17凌晨，在3GPP RAN1 87次會議關(guān)于5G短碼方案討論中，華為推薦的極化碼 （Polar Code）方案成為5G控制信道eMBB場景編碼的最終解決方案，美國高通公司主導(dǎo)的LDPC碼作為數(shù)據(jù)信道的編碼方案。

Polar Code是由土耳其畢爾肯大學(xué)Erdal Arikan教授于2008年首次提出，其論文從理論上第一次嚴(yán)格證明了在二進制輸入對稱離散無記憶信道下，極化碼可以“達到”香農(nóng)極限，且有著低的編碼和譯碼復(fù)雜度。從某種意義上說，極化碼“理論上”解決了近60年來信息論和編碼領(lǐng)域一直想要解決的問題，更湊巧的是，LDPC碼的發(fā)明人Robert Gallager就是Erdal Arikan的MIT導(dǎo)師，而Gallager的導(dǎo)師恰恰就是現(xiàn)代信息論的奠基人香農(nóng)。

因此，有必要將LDPC、Polar Code等5G時代下的編碼方法引入到信息論與編碼的課堂教學(xué)中，以期望學(xué)生增強對該課程的重視程度及興趣。

⑷ 基于國家網(wǎng)絡(luò)安全的需要，加大密碼學(xué)的重視力度

香農(nóng)在1949年發(fā)表的“保密通信的信息理論”論文中首先用信息論的觀點對信息保密問題作了全面的論述，直到1976年迪弗和海爾曼發(fā)表論文“密碼學(xué)的新方向”，提出公鑰密碼體制之后，保密通信問題才得到公開、廣泛的研究。特別是現(xiàn)在，網(wǎng)絡(luò)信息安全已成為一個關(guān)系到信息產(chǎn)業(yè)發(fā)展的重大問題，已經(jīng)上升到國家戰(zhàn)略高度，成立了以習(xí)近平總書記為主任的中央網(wǎng)絡(luò)安全和信息化委員會，可見國家對網(wǎng)絡(luò)信息安全的重視程度。

因此，有必要在5G時代背景下，進一步加大對密碼學(xué)的學(xué)習(xí)及重視力度。

⑸ 將凸優(yōu)化、博弈論、變分不等式、分布式算法等內(nèi)容引入課堂教學(xué)

功率約束下的高斯白噪聲干擾信道下的速率最大化問題、QoS約束下的網(wǎng)絡(luò)能量最小化問題、認(rèn)知無線電（CR）的速率最小化問題、多跳通訊網(wǎng)中的擁塞問題等問題的求解，均對凸優(yōu)化、博弈論、變分不等式等內(nèi)容有所涉及[8]?；凇白⑺惴ā钡牟⒙?lián)高斯加性信道的功率分配問題，近年來也演化發(fā)展到采用涉及多智能體系統(tǒng)一致性的分布式算法求解[9]。因此，有必要采用講座形式，結(jié)合5G時代背景下的最新研究前沿，將凸優(yōu)化、博弈論、變分不等式、分布式算法等內(nèi)容引入課堂教學(xué)中來。

2 信息論與編碼實踐教學(xué)體會

2.1 信息論與編碼與其他課程之間的聯(lián)系

⑴ 信息論與編碼與概率論與數(shù)理統(tǒng)計

首先，信源熵是在概率的基礎(chǔ)上定義起來的?；诜朳xi]的概率[p（xi）]定義其自信息量[I（xi）=-logp（xi）]，將信源所有符號的自信息量在其概率空間上作統(tǒng)計平均，可得信源熵[H（X）=-ip（xi）logp（xi）];在信源輸出前，信息熵[H（X）]表示信源的平均不確定性;在信源輸出后，信息熵[H（X）]表示每個符號提供的平均信息量。

進而，結(jié)合聯(lián)合概率，得到聯(lián)合熵[HX，Y=-ijp（xi，yj）logp（xi，yj）]，其是聯(lián)合符號集合[（X，Y）]的每個元素對[（xi，yj）]的自信息量的概率加權(quán)統(tǒng)計平均值，它表示[X]和[Y]同時發(fā)生的不確定度。結(jié)合條件概率，得到條件熵[HXY=-ijp（xi，yj）logp（xi ?yj）]，其是在聯(lián)合符號集合[（X，Y）]上的條件自信息量的聯(lián)合概率加權(quán)統(tǒng)計平均值。

此外，信源的有無記憶特性與條件概率密切相關(guān)，若信源在不同時刻發(fā)出的符號之間是相互依賴的，則此信源是有記憶的;當(dāng)記憶長度為[m+1]時，也就是信源所發(fā)出的符號只與前[m]個符號有關(guān)，而與更前面的符號無關(guān)，稱這種有記憶信源為[m]階馬爾可夫信源，可以用馬爾可夫鏈來描述。

類似離散信源，借助概率密度函數(shù)，可以定義連續(xù)信源的熵[Hc（X）=-Rp（x）logp（x）dx]，若信源輸出的幅度被限定在[[a，b]]區(qū)域內(nèi)，則當(dāng)輸出信號的概率密度是均勻分布時，信源具有最大熵。若一個連續(xù)信源輸出符號的平均功率被限定為[σ2]，則當(dāng)其輸出信號幅度的概率密度分布是高斯分布時，信源有最大的熵，其值為 [12log2πeσ2]。

⑵ 信息論與編碼與線性代數(shù)

在信息論與編碼領(lǐng)域，多項式與編碼緊密的結(jié)合在了一起，把碼字[C=cn-1 ?cn-2 … c1 c0]與一個不大于[n-1]次的碼多項式[C（x）]對應(yīng)起來，循環(huán)碼將生成矩陣簡化為生成多項式，在構(gòu)造循環(huán)碼過程中可用多項式運算來表達循環(huán)移位[1]。

矩陣在信息編碼中也有著深入的應(yīng)用，解密、加密都可以類似地轉(zhuǎn)化為逆矩陣的運算。n個BSC信道的串聯(lián)，涉及到信道轉(zhuǎn)移概率矩陣[P]的冪運算，借助正交變換通過分析[Pn]的收斂性，可以度量串聯(lián)信道容量的大小。

在編碼領(lǐng)域，線性分組碼C是由k個線性無關(guān)的基底張成的k維n重子空間，所有碼字都可以寫成k個基底的線性組合，即[c=mk-1gk-1+… m1g1+m0g0]，其中生成矩陣[G=gk-1 … g1 g0T]，也就是說當(dāng)信息元確定后，線性分組碼的碼字由生成矩陣[G]確定。碼空間C的基底與其對偶空間D的基底正交，空間C和空間D也正交，它們互為零空間[1]。在信道編碼方面，可以通過解伴隨式線性方程組[He=s]來得到差錯圖案[e]。馬爾可夫信源的穩(wěn)態(tài)分布[w]，可以通過求解線性方程組[wP=w]來獲得。

信息論與編碼課程內(nèi)容除了與概率論與數(shù)理統(tǒng)計、線性代數(shù)等課程密切相關(guān)外，其還與高等數(shù)學(xué)有著緊密的聯(lián)系，例如：一般離散無記憶信道容量的計算、并聯(lián)高斯加性信道的功率分配“注水算法”等內(nèi)容均涉及拉格朗日乘子法。

2.2 教學(xué)心得

⑴ 第一章 緒論，部分學(xué)生消息、信息、信號的定義不易區(qū)分;通信系統(tǒng)的構(gòu)成及各模塊的作用難以理解;信息論的研究內(nèi)容比較含糊。

⑵ 第二章 信源與信息熵，要靈活的掌握信源的分類;信息熵是一個不容易理解的概念，各種熵的公式尤其是條件熵的計算公式記憶容易出錯;互信息是一個非常重要的概念，其與信源熵、疑義度、信宿熵、噪聲熵之間的關(guān)系式需要牢記。

⑶ 第三章 信道與信道容量，可以將信道看成水管，將信道容量看成管道水容量來理解;對于固定的信道，可以選擇最佳信源分布，使得互信息達到最大值，即為信道容量;類似地，可以理解成，對于確定的水管，可以選擇功率最合適的水泵將管道充滿;隨著串聯(lián)信道數(shù)目的增加（趨于無窮），互信息會趨近于零;類似地，可以理解成，當(dāng)水泵功率確定的情況下，隨著水管管道長度的增加（趨于無窮），在水管的盡頭就沒有水了;著名的功率分配算法，簡稱為“注水算法”，再一次印證了信息與水之間的關(guān)系。

⑷ 第四章 信息率失真函數(shù)，將信源編碼器視為假想信道，在信源分布確定的條件下，選擇編碼方式（即從允許試驗信道中，選取合適的假想信道轉(zhuǎn)移概率矩陣），讓其在滿足保真度準(zhǔn)則的前提下，使得假信道對應(yīng)的互信息達到最小值。

⑸ 整個課程圍繞香農(nóng)三大定理和香農(nóng)公式來進行展開，第一定理為無失真信源編碼定理，要求[KLLlogm≥HL（X）+ε]，即編碼長度大于平均符號熵，目的是使信源與信道匹配;第二定理為信道編碼定理，要求[RR（D）]，即傳輸率要大于信息率失真函數(shù)，通俗的講，[R（D）]為信源限失真壓縮的下限，編碼的目的是旨在減少表達信源所需的符號個數(shù)。

3 結(jié)論

本文從面向5G網(wǎng)絡(luò)的角度，對與之緊密聯(lián)系的信息論與編碼課程重新定位，信息論與編碼課程教學(xué)進行了探討。提出要將信息論與編碼的課程教學(xué)同5G網(wǎng)絡(luò)時代的變革與發(fā)展緊密結(jié)合起來，不斷更新教學(xué)內(nèi)容，特別地要將涉及5G通信網(wǎng)絡(luò)的LDPC碼、Polar Code等編碼方法引入到課程教學(xué)中來，進一步加大密碼學(xué)的教學(xué)力度，以適應(yīng)國家網(wǎng)絡(luò)信息安全的需要。需瞄準(zhǔn)學(xué)術(shù)研究國際前沿，在課程教學(xué)中對解決通信優(yōu)化問題相關(guān)的凸優(yōu)化、博弈論、變分不等式、分布式并行算法等內(nèi)容進行介紹。

參考文獻（References）：

[1] 王胡成，徐暉，程志密，5G網(wǎng)絡(luò)技術(shù)研究現(xiàn)狀和發(fā)展趨勢[J].電信科學(xué)，2015.9：156-162

[2] 傅祖蕓，趙建中.信息論與編碼[M].北京，電子工業(yè)出版社， 2014：1-356

[3] 鄧家先，信息論與編碼課程教學(xué)改革探討[J].電氣電子教學(xué)學(xué)報，2007.29（2）：111-114

[4] 張秋聞，王曉，信息論與編碼教學(xué)模式的研究與探索[J].計算機教育，2015.12：58-73

[5] 曹雪虹，張宗橙，信息論與編碼[M].北京，清華大學(xué)出版社，2016：1-240.

[6] 陳山枝，發(fā)展5G的分析與建議[J].電信科學(xué)，2016.7：1-10

[7] 趙國鋒，陳婧，韓遠兵，5G 移動通信網(wǎng)絡(luò)關(guān)鍵技術(shù)綜述，重慶郵電大學(xué)學(xué)報（ 自然科學(xué)版），2015.27（4）：441-452

[8] Gesualdo Scutari，Daniel P.Palomar， Francisco Facchinei，and Jong-Shi Pang.Convex Optimization，Game Theory， and Variational Inequality Theory[J]. IEEE Signal Processing Mag，2010：35-49

[9] Raffaele Carli，Mariagrazia Dotoli，A Distributed Control Algorithm for Waterfilling of Networked Control Systems via Consensus[J].IEEE Control Systems Letters，2017.1（2）：334-339