面向人工智能應(yīng)用的《信息論與編碼》課程教學(xué)初探

劉澤江

摘要：隨著素質(zhì)教育的深入推進(jìn)，教師也逐漸從傳統(tǒng)的教學(xué)模式中解放出來(lái)，不斷的摸索、研究新的教學(xué)方法。信息的獲取、處理、傳輸和應(yīng)用在現(xiàn)實(shí)生活中隨處可見(jiàn)，而如何提高信息傳輸?shù)目煽啃?、有效性、保密性和認(rèn)證性，正是《信息論與編碼》課程要研究的內(nèi)容，其研究目的是解決信息傳輸系統(tǒng)的昀優(yōu)化問(wèn)題?！缎畔⒄撆c編碼》課程是一門(mén)學(xué)科交叉性很強(qiáng)的課程，不僅涉及很多通信領(lǐng)域的專(zhuān)業(yè)知識(shí)，還涉及諸多數(shù)學(xué)知識(shí)，被稱(chēng)為“通信的數(shù)學(xué)理論”，目前已經(jīng)成為通信工程、電子信息工程等專(zhuān)業(yè)的重要專(zhuān)業(yè)課程。本文就面向人工智能應(yīng)用的《信息論與編碼》課程教學(xué)展開(kāi)探討。

關(guān)鍵詞：信息論與編碼;人工智能;創(chuàng)新

引言

信息論是現(xiàn)代信息科學(xué)與技術(shù)的基礎(chǔ)理論，它與人們的工作和生活息息相關(guān)，已被廣泛應(yīng)用到數(shù)字圖像處理、數(shù)字通信等各個(gè)領(lǐng)域。因而現(xiàn)在各大高校均針對(duì)通信、電子信息類(lèi)專(zhuān)業(yè)設(shè)置了信息論與編碼課程，同時(shí)該課程也由原來(lái)的研究生課程逐漸成為本科課程體系中的一門(mén)專(zhuān)業(yè)必修課。信息論與編碼主要是運(yùn)用概率論和數(shù)理統(tǒng)計(jì)的方法來(lái)研究信息的傳輸和處理過(guò)程中一般規(guī)律和具體實(shí)現(xiàn)的學(xué)科。

1信息論與人工智能相關(guān)專(zhuān)業(yè)的關(guān)聯(lián)

信息論是現(xiàn)代信息科學(xué)的重要組成部分，人工智能是一門(mén)研究如何使機(jī)器具有人類(lèi)智能的學(xué)科，是當(dāng)下昀熱門(mén)的行業(yè)方向，二者之間一直是“一體兩面”的關(guān)系。例如，對(duì)于人工智能領(lǐng)域的機(jī)器 學(xué)習(xí)，劍 橋大 學(xué)教 授 David MacKay 說(shuō)“Information theory and machine learning are thetwo sides of the same coin”。信息論與機(jī)器學(xué)習(xí)同為涉及計(jì)算機(jī)科學(xué)和應(yīng)用數(shù)學(xué)等學(xué)科的分支領(lǐng)域，二者在起源和應(yīng)用上有很多相似之處。信息論方法在人工智能方向多種應(yīng)用算法中同樣有重要作用，特別對(duì)信息統(tǒng)計(jì)、數(shù)據(jù)挖掘等領(lǐng)域的發(fā)展有重要意義。

2面向人工智能應(yīng)用的《信息論與編碼》課程教學(xué)

2.1課程內(nèi)容的調(diào)整與更新

在理論教學(xué)中，現(xiàn)有的教學(xué)內(nèi)容主要以基礎(chǔ)概念為主，課程內(nèi)容枯燥單一，缺乏聯(lián)系實(shí)際。比如熵的概念，學(xué)生只是簡(jiǎn)單理解概念，而不清楚應(yīng)具體應(yīng)用在哪個(gè)領(lǐng)域，而且運(yùn)用的編碼方法過(guò)于陳舊，脫離企業(yè)目前使用的流行的方法。因此，課程內(nèi)容需要與時(shí)俱進(jìn)。如在教學(xué)中可以引入交叉熵的概念，并將其結(jié)合到圖像識(shí)別中作為代價(jià)函數(shù)進(jìn)行講解，介紹代價(jià)函數(shù)的作用。另外通過(guò)基于卷積神經(jīng)網(wǎng)絡(luò)的圖像分類(lèi)等具體案例加深學(xué)生對(duì)改函數(shù)的理解，并在實(shí)驗(yàn)中與傳統(tǒng)的二次方差函數(shù)進(jìn)行比較，觀察不同代價(jià)函數(shù)下網(wǎng)絡(luò)的收斂情況，在此基礎(chǔ)上推薦學(xué)生一些參考文獻(xiàn)，了解前沿技術(shù)。在章節(jié)安排中進(jìn)行一些調(diào)整。如在講解限失真源編碼內(nèi)容之前，先解釋信息率失真函數(shù)。介紹其目的和作用，并結(jié)合身邊例子加深學(xué)生理解。內(nèi)容上重點(diǎn)講述新技術(shù)的用途和影響。如可以通過(guò)實(shí)驗(yàn)中無(wú)線通信系統(tǒng)的仿真，從多方面介紹信道編碼技術(shù)，幫助學(xué)生更好地理解和理解這些技術(shù)原理。在興趣的驅(qū)使下，學(xué)生將樂(lè)于探索新知識(shí)。整合專(zhuān)業(yè)知識(shí)，介紹具體案例，提高學(xué)生綜合應(yīng)用能力?！靶畔⒗碚撆c編碼”是本科院校的高級(jí)電子專(zhuān)業(yè)課程，與、、、

“通信原理”“信號(hào)與系統(tǒng)”“C語(yǔ)言編程”“Matlab”和“數(shù)字信號(hào)處理”之間存在一定的相關(guān)性。如基于支持向量級(jí)的心電圖信號(hào)身份識(shí)別案例中，在心電信號(hào)的預(yù)處階段，會(huì)用到“信號(hào)與系統(tǒng)”、“通信原理”和“數(shù)字信號(hào)處理”的理論用于信號(hào)分析———心電信號(hào)分割和去噪，在特征提取階段，會(huì)用到“信息論與編碼”用于提取信號(hào)的有用信息，昀后在分類(lèi)階段會(huì)用到計(jì)算機(jī)語(yǔ)言用于實(shí)現(xiàn)支持向量機(jī)的分類(lèi)。

2.2采用線上線下混合式教學(xué)

在教學(xué)過(guò)程中，有些知識(shí)點(diǎn)很容易理解，這些知識(shí)點(diǎn)就不需要在課堂上重復(fù)講解，以免過(guò)多浪費(fèi)線下課堂的有限時(shí)間，而有些知識(shí)點(diǎn)則較難理解，大部分學(xué)生都會(huì)卡在這些較難理解的知識(shí)點(diǎn)上。因此，為了提高課堂教學(xué)的效率，可在超星等網(wǎng)絡(luò)平臺(tái)創(chuàng)建線上課程，把相關(guān)的教學(xué)資料提前上傳到網(wǎng)站上，讓學(xué)生提前預(yù)習(xí)。通過(guò)課前的線上預(yù)習(xí)，學(xué)生已經(jīng)基本掌握了較容易理解的知識(shí)點(diǎn)，則在線下課堂上就不需要對(duì)一般性的內(nèi)容再重復(fù)講解，可以重點(diǎn)關(guān)注課程的難點(diǎn)和核心內(nèi)容，解答學(xué)生的疑問(wèn)?！缎畔⒄撆c編碼》課程較好的線上課程資源有西安電子科技大學(xué)、國(guó)防科技大學(xué)的信息論國(guó)家精品課程，MIT開(kāi)放課程，Stanford的信息論課程等，都可以作為學(xué)生提前預(yù)習(xí)的線上課程材料。同時(shí)，由于采取了線上資源的提前學(xué)習(xí)，這也能夠?yàn)榫€下課堂節(jié)省出一定的時(shí)間，可以在這些節(jié)省出來(lái)的時(shí)間開(kāi)展更多的課堂互動(dòng)交流活動(dòng)，進(jìn)一步提高學(xué)生的學(xué)習(xí)興趣和學(xué)習(xí)效果。

2.3關(guān)聯(lián)拓展，弱化公式推導(dǎo)證明

信息論與編碼課程本身包含大量的公式推導(dǎo)和定理證明，這涉及眾多的先修知識(shí)，比如高等數(shù)學(xué)、概率論與數(shù)理統(tǒng)計(jì)、隨機(jī)過(guò)程、線性代數(shù)、數(shù)字信號(hào)處理、通信原理等。因而該課程的學(xué)習(xí)對(duì)學(xué)生先修知識(shí)的要求是比較高的，這也是學(xué)生感覺(jué)學(xué)習(xí)信息論困難的主要原因之一。這就要求教師在教學(xué)過(guò)程中要根據(jù)需要適當(dāng)引入先修知識(shí)幫助學(xué)生完成學(xué)習(xí)的順利過(guò)渡。例如在求解一般類(lèi)型信道的信道容量時(shí)，可先簡(jiǎn)述下高等數(shù)學(xué)中拉格朗日乘子法求條件極值的方法，這也將有利于后續(xù)章節(jié)的講授，比如信息率失真函數(shù)的參量表達(dá)式推導(dǎo)也涉及到了該知識(shí)點(diǎn)。另外，教學(xué)內(nèi)容不應(yīng)僅僅拘泥于教材中的示例，可以做適當(dāng)?shù)耐卣箶U(kuò)充，將本課程的基礎(chǔ)知識(shí)與科技前沿技術(shù)結(jié)合起來(lái)，進(jìn)一步激發(fā)學(xué)生的學(xué)習(xí)熱情，比如在講授離散信源的冗余度時(shí)先簡(jiǎn)略介紹下人工智能的相關(guān)知識(shí)，就可以與教材中英語(yǔ)信源的示例相銜接，這既可以給學(xué)生建立一個(gè)更宏觀的知識(shí)結(jié)構(gòu)框架，也有利于學(xué)生對(duì)該知識(shí)點(diǎn)的理解。

結(jié)語(yǔ)

《信息論與編碼》課程對(duì)培養(yǎng)電子信息類(lèi)的專(zhuān)業(yè)人才具有重要的作用。針對(duì)傳統(tǒng)《信息論與編碼》課程教學(xué)中存在的問(wèn)題，本文從轉(zhuǎn)變課程認(rèn)識(shí)、整合教學(xué)內(nèi)容、改善教學(xué)方法和提升實(shí)踐能力等方面提出了改革措施，通過(guò)提升該課程的教學(xué)質(zhì)量來(lái)提高人才培養(yǎng)的質(zhì)量，以便為電子信息領(lǐng)域培養(yǎng)更多優(yōu)秀人才。

參考文獻(xiàn)

[1]曹雪虹.信息論與編碼[M].北京：清華大學(xué)出版社，2018.

[2]余海峰. “信息論與編碼理論”課程教學(xué)改革與實(shí)踐[J].黃山學(xué)院學(xué)報(bào)，2019，18（03）：87-89.

[3]劉美春. “信息論與編碼”課程實(shí)驗(yàn)教學(xué)探析[J].教育現(xiàn)代化，2019，6（32）：133-134.