信息論與編碼課程教學(xué)探討

摘要：信息論與編碼是通信、電子信息類本科開設(shè)的專業(yè)基礎(chǔ)課。針對該課程在教學(xué)過程中存在的問題和學(xué)生接受的能力，分析了信息論與編碼課程的特點(diǎn)和現(xiàn)狀，提出切實(shí)可行的解決方案，并給出實(shí)驗(yàn)環(huán)節(jié)的一些建議，以提高教學(xué)質(zhì)量。

關(guān)鍵詞：信息論與編碼；教學(xué)；實(shí)驗(yàn)

作者簡介：馬玉琨（1983-），女，河南新鄉(xiāng)人，河南科技學(xué)院信息工程學(xué)院，助教；崔微微（1987-），女，河南新鄉(xiāng)人，河南科技學(xué)院信息工程學(xué)院，助教。（河南 新鄉(xiāng) 453003）

中圖分類號：G642.0 文獻(xiàn)標(biāo)識碼：A 文章編號：1007-0079（2014）05-0146-02

隨著通信技術(shù)的不斷發(fā)展，我國在發(fā)展通信系統(tǒng)與信息系統(tǒng)方面取得了長足的進(jìn)步。而信息產(chǎn)業(yè)日新月異的發(fā)展就需要大量從事信息、通信、電子工程類專業(yè)的人才，信息論與編碼作為這類專業(yè)的一門基礎(chǔ)課已經(jīng)變得越來越重要，[1]因此現(xiàn)在河南科技學(xué)院將這門課作為信息工程和通信工程兩個專業(yè)的必修課。經(jīng)過實(shí)踐的檢驗(yàn)，該門課程不僅成為學(xué)生理解相關(guān)專業(yè)課程的基礎(chǔ)，同時引領(lǐng)了學(xué)生在信息論方向上進(jìn)行研究的興趣，對學(xué)生今后的發(fā)展有著較大的幫助。

一、課程的重要性

信息論與編碼研究的是整個通信的最基本的問題，從香農(nóng)1948年發(fā)表《通信中的數(shù)學(xué)理論》到現(xiàn)在60余年的時間，信息論對整個行業(yè)的發(fā)展有著不可替代的指導(dǎo)意義。

該課程分為信息論和編碼兩大方面，以通信系統(tǒng)模型為研究對象，以香農(nóng)的三大定理作為理論依據(jù)，目的在于提高通信系統(tǒng)的有效性、可靠性、安全性。信息論中最著名的是香農(nóng)的三大定理，第一定理信源編碼定理，是解決通信中信源的壓縮問題，也是后來圖像和視頻壓縮的基本定理；第二定理信道編碼定理，是解決通信中數(shù)據(jù)能夠在特定信道中傳輸?shù)淖畲笾档膯栴}，容量問題是通信中研究最活躍的問題之一，比如4G或LTE中廣泛用到的MIMO技術(shù)，其理論本質(zhì)就是容量與天線數(shù)的遞增關(guān)系；第三定理有損信源編碼定理解決了在允許一定失真的情況下的信源編碼問題，比如jpeg圖像編碼、mp3音頻編碼，都是有損的編碼，都是在香農(nóng)第三定理的基礎(chǔ)上得出的。

信息論與編碼無疑是現(xiàn)代信息科學(xué)的一個非常重要的組成部分，是通信的基礎(chǔ)，就像歐幾里得的幾何原本影響了西方學(xué)界近2000年一樣，信息論在未來也必將影響通信的發(fā)展。

二、課程特色

該課程需要大量的數(shù)學(xué)知識作基礎(chǔ)，對學(xué)生的數(shù)學(xué)功底要求較高，包括高等數(shù)學(xué)、線性代數(shù)、概率論與數(shù)理統(tǒng)計(jì)。如在計(jì)算信源熵時需要用到概率論與數(shù)理統(tǒng)計(jì)中條件概率、聯(lián)合概率、先驗(yàn)概率和后驗(yàn)概率的計(jì)算；計(jì)算信道容量和信息率失真函數(shù)時需要通過求導(dǎo)求極值，進(jìn)行信道編碼時要用到矩陣之間的運(yùn)算和空間的概念，糾錯碼的譯碼更是需要用到群、環(huán)和域的概念和相關(guān)理論，這都要求學(xué)生有很扎實(shí)的數(shù)學(xué)功底。

另外很多定理公式的推導(dǎo)過程復(fù)雜，比較難懂，如香農(nóng)三大定理的證明。學(xué)生在學(xué)習(xí)的過程中很容易感覺乏味，產(chǎn)生厭學(xué)情緒。同時課程涉及到的一些專業(yè)知識，需要一些先修課程作基礎(chǔ)，如通信原理、信號與系統(tǒng)、電路分析等，所以一般將該課程安排在大三的下學(xué)期來完成。

三、選取教材

信息論與編碼的內(nèi)容高度抽象，難以理解，因此在選擇教材方面尤為重要。目前有關(guān)“信息論與編碼”課程的教材很多，綜合考慮各個教材的特色，選擇曹雪虹、張宗橙編寫的由清華大學(xué)出版社出版的《信息論與編碼》第二版。本書注重基本概念，針對工科本科生特點(diǎn)，盡量從實(shí)際問題出發(fā)，深入淺出地?cái)⑹龈拍?，加?qiáng)理論與應(yīng)用的結(jié)合，使讀者能將概念應(yīng)用于實(shí)際工作中。[2]

四、教學(xué)內(nèi)容及要求

通過本課程的學(xué)習(xí)，學(xué)生應(yīng)達(dá)到如下要求：理解有關(guān)信息和信息度量的概念，掌握離散信源信息度量的計(jì)算方法；理解香農(nóng)信息論中信道和信道容量的概念，了解信道容量的分析與計(jì)算方法；了解典型信源和信道的分析方法及其特性；理解香農(nóng)第一定理和香農(nóng)第二編碼定理的結(jié)論和理論意義；了解香農(nóng)第三定理；理解和掌握信源編碼和信道編碼的基本概念、理論和主要方法。

在實(shí)際的教學(xué)過程中，可以根據(jù)學(xué)生的具體情況，靈活地運(yùn)用教學(xué)方式，對教學(xué)內(nèi)容做出適當(dāng)側(cè)重和取舍，突出教學(xué)重點(diǎn)。

五、重點(diǎn)及難點(diǎn)

重點(diǎn)：信息以及信源熵、信道及信道容量、無失真信源編碼方法、限失真信源編碼方法以及有噪信道編碼方法。

難點(diǎn)：香農(nóng)三大編碼定理機(jī)器逆定理。

對于課程的重點(diǎn)和難點(diǎn)，教師應(yīng)重點(diǎn)講解，放慢節(jié)奏，反復(fù)強(qiáng)調(diào)，并通過布置適當(dāng)?shù)木毩?xí)題來鞏固加深學(xué)生的掌握程度。

六、教學(xué)中存在的主要問題及解決方案

1.對課程的重要性認(rèn)識不夠

很多學(xué)生，剛接觸信息論與編碼時，通常會認(rèn)為這門課對以后的就業(yè)和工作沒有用，并以此來判斷這門課的重要程度，認(rèn)為不重要。另外有些學(xué)生認(rèn)為該課程是純理論課，本科生沒有必要學(xué)習(xí)這么深奧的知識。這些思想使得學(xué)生缺乏正確的認(rèn)識，從而沒有學(xué)習(xí)的動力，甚至出現(xiàn)學(xué)生在課堂上看其他課教材的情況。

針對這個問題，教師在展開講授之前，應(yīng)強(qiáng)調(diào)該課程的地位，明確編碼理論在媒體技術(shù)、網(wǎng)絡(luò)技術(shù)、無線通信技術(shù)及數(shù)字電視技術(shù)等方面的應(yīng)用，讓學(xué)生意識到為什么要學(xué)、學(xué)什么、對以后工作的用處，從內(nèi)心對該課程有一個正確的認(rèn)識。另外，在講解某個知識點(diǎn)時，側(cè)重于該知識點(diǎn)的應(yīng)用，如講解信源編碼時可以結(jié)合圖像壓縮標(biāo)準(zhǔn)JPEG和MPEG，通過壓縮編碼降低圖片文件的大小，從而降低手機(jī)上網(wǎng)流量。在講解信道時，可以用移動通信系統(tǒng)的無線信道和傳統(tǒng)電話的無線信道作比較，讓學(xué)生明白手機(jī)信號時好時壞的原因。

2.內(nèi)容抽象枯燥

信息論與編碼需要用到大量的數(shù)學(xué)知識，此外還有繁瑣的公式推導(dǎo)和抽象證明，因此學(xué)生在學(xué)習(xí)的過程中顯得枯燥。[3]很多學(xué)生在面對復(fù)雜、抽象的公式等教學(xué)內(nèi)容時，不由會產(chǎn)生畏懼和厭學(xué)心理。

對此，教師在教學(xué)過程中需要培養(yǎng)學(xué)生的學(xué)習(xí)興趣，提高學(xué)生對本課程的學(xué)習(xí)積極性。教學(xué)過程中可適當(dāng)結(jié)合學(xué)生日常生活中能夠接觸到的例子，培養(yǎng)學(xué)生的興趣。比如，在講信息率失真函數(shù)時，如果僅僅講概念，沒幾個學(xué)生能真正地理解其中的含義，可以現(xiàn)場給學(xué)生演示通過降低分辨率進(jìn)行圖片壓縮所帶來的失真效果，給學(xué)生直觀的感受。在講編碼時，可以結(jié)合很多影視資料里的莫爾斯電碼來講解。而令學(xué)生望而生畏的馬爾科夫信源則可以通過和人的記憶特性作比較，讓學(xué)生有感性的認(rèn)識。通過這樣的講解，激發(fā)學(xué)生的好奇心，提高學(xué)生學(xué)習(xí)的興趣，學(xué)習(xí)積極性也會得到慢慢提高，從而達(dá)到較好的教學(xué)效果。

對于繁瑣的公式推導(dǎo)和抽象證明，可以將重點(diǎn)放在物理意義的解釋上，從教學(xué)大綱出發(fā)，優(yōu)化理論教學(xué)。比如在講解香農(nóng)三大定理時，因?yàn)槎ɡ淼闹饕康氖窃诠こ虒?shí)踐中，對通信系統(tǒng)的設(shè)計(jì)或者檢驗(yàn)起指導(dǎo)作用，因此應(yīng)側(cè)重于三大定理的結(jié)論，只從物理角度闡述定理的內(nèi)容及意義，而不再花大量的時間講解定理的證明過程，避免學(xué)生因?yàn)榉爆嵉淖C明而產(chǎn)生厭學(xué)心理。

3.學(xué)習(xí)的被動性

很多人認(rèn)為大學(xué)的課堂上沒有必要進(jìn)行互動，往往是教師講什么，學(xué)生被動地記什么，這樣的教學(xué)往往達(dá)不到理想的效果。學(xué)生尤其是大學(xué)生，是一個能夠獨(dú)立思考的個體，而不是學(xué)習(xí)的機(jī)器。教學(xué)不是單純地讓學(xué)生記住知識，而是要理解知識，掌握學(xué)習(xí)的方法。因此為了避免學(xué)生的被動性，針對本課程的特點(diǎn)，教學(xué)中采用引導(dǎo)式、互動式和研究式相結(jié)合的方法。

在講解每一個新知識點(diǎn)或概念時，通過提出問題、解決問題來引出概念，教學(xué)中可以通過提問來掌握學(xué)生的理解程度。部分老師可能擔(dān)心提問會引起學(xué)生的反感，其實(shí)不然，恰當(dāng)?shù)奶釂柌坏莒柟讨R，反饋教學(xué)效果，而且可以實(shí)現(xiàn)對學(xué)生思想的引導(dǎo)，從填鴨式的教學(xué)轉(zhuǎn)變?yōu)閷W(xué)生主動學(xué)習(xí)。[4]另外還可以組織學(xué)生展開適當(dāng)?shù)挠懻摚膭顚W(xué)生發(fā)表自己的理解，大膽提出質(zhì)疑或者新的見解。

七、實(shí)驗(yàn)安排

信息論與編碼是一門理論與實(shí)踐緊密結(jié)合的課程，如果僅停留在理論教學(xué)上，則很難調(diào)動學(xué)生學(xué)習(xí)的興趣和積極性。因此要從課堂教學(xué)出發(fā)，設(shè)計(jì)一些配套的實(shí)驗(yàn)。在實(shí)驗(yàn)內(nèi)容的選擇上，應(yīng)考慮學(xué)生的基礎(chǔ)、動手能力和課程特點(diǎn)，選擇對理解課程內(nèi)容有益的，學(xué)生經(jīng)過努力可以獨(dú)立完成的實(shí)驗(yàn)。[5]通過實(shí)驗(yàn)將抽象的理論知識付諸實(shí)踐，加深學(xué)生的理解程度。

因?yàn)樾畔⒄撆c編碼課程用到大量的矩陣計(jì)算，因此選擇Matlab軟件作為該課程的實(shí)驗(yàn)平臺。Matlab語言簡單易懂，實(shí)現(xiàn)了數(shù)值分析、矩陣計(jì)算、數(shù)據(jù)可視化等功能，可以利用該軟件做一些仿真和驗(yàn)證性實(shí)驗(yàn)。具體內(nèi)容安排如下：信道容量的迭代算法，唯一可譯碼判決準(zhǔn)則，分別對已知信源進(jìn)行霍夫曼編碼、香農(nóng)編碼和費(fèi)諾編碼、算術(shù)編碼、循環(huán)碼和卷積碼的編碼和譯碼。

八、總結(jié)

本文從多年的信息論與編碼的教學(xué)經(jīng)驗(yàn)出發(fā)，總結(jié)了該課程的地位及重要性、課程特色、選取的教材，列舉了該課程對學(xué)生的要求，即教學(xué)內(nèi)容。重點(diǎn)分析了教學(xué)中存在的主要問題，針對各個問題提出了相應(yīng)的改善措施。實(shí)踐中，這些措施明顯提高了教學(xué)質(zhì)量。最后探討了該課程的實(shí)驗(yàn)安排，通過實(shí)驗(yàn)可以加深學(xué)生對理論知識的理解和掌握程度。在教學(xué)中還會不斷出現(xiàn)各種問題，還需要持續(xù)的關(guān)注和研究。

參考文獻(xiàn)：

[1]張小峰，逢珊，鄒海林.信息論與編碼的教學(xué)改革探討[J].計(jì)算機(jī)教育，2011，（13）.

[2]曹雪虹，張宗橙.信息論與編碼（第二版）[M].北京：清華大學(xué)出版社，2009.

[3]張亞飛.應(yīng)用型本科“信息論與編碼”教學(xué)改革探討[J].中國電力教育，2010，（28）.

[4]張正言，田雨波，張波.信息論與編碼本科教學(xué)改革實(shí)踐[J].計(jì)算機(jī)教育，2010，（20）.

[5]高博，錢志鴻，楊曉萍.“信息論與編碼”理論與實(shí)驗(yàn)教學(xué)研究[J].中國電力教育，2012，（4）.

（責(zé)任編輯：王意琴）