機(jī)器學(xué)習(xí)科研實踐課程建設(shè)

中國石油大學(xué)（華東）計算機(jī)與通信工程學(xué)院 王雷全 吳春雷 郭曉菲

機(jī)器學(xué)習(xí)科研實踐課程建設(shè)

中國石油大學(xué)（華東）計算機(jī)與通信工程學(xué)院 王雷全 吳春雷 郭曉菲

針對本科機(jī)器學(xué)習(xí)課程中的教學(xué)實際，分析在教學(xué)過程中遇到的問題，結(jié)合目前機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點，提出在本科機(jī)器學(xué)習(xí)教學(xué)中以深度學(xué)習(xí)作為課程體系的主導(dǎo)，引入Tensorflow框架，重新整合教學(xué)資源、建設(shè)相關(guān)實驗內(nèi)容，構(gòu)建以深度學(xué)習(xí)為教學(xué)內(nèi)容核心、以Tensorflow為實踐平臺的機(jī)器學(xué)習(xí)科研實踐課程體系。

機(jī)器學(xué)習(xí)；深度學(xué)習(xí)；Tensorflow；課程建設(shè)

機(jī)器學(xué)習(xí)是當(dāng)前的標(biāo)志性技術(shù)，且已成為電子信息類課程中最為重要的一個專業(yè)方向[1]。近年來，深度學(xué)習(xí)作為機(jī)器學(xué)習(xí)的一個分支，在圖像和語音識別等領(lǐng)域取得了重要突破，是當(dāng)前計算機(jī)領(lǐng)域最具影響力的熱點研究方向。掌握“深度學(xué)習(xí)”的基本知識與實踐技術(shù)是當(dāng)前對本科生機(jī)器學(xué)習(xí)課程的基本要求。

1. 傳統(tǒng)機(jī)器學(xué)習(xí)課程面臨挑戰(zhàn)

傳統(tǒng)機(jī)器學(xué)習(xí)課程的授課內(nèi)容主要以經(jīng)典機(jī)器學(xué)習(xí)算法為主[2]，包括支持向量機(jī)、邏輯斯諦回歸和隱馬爾可夫模型等經(jīng)典算法。隨著深度學(xué)習(xí)的迅速發(fā)展，傳統(tǒng)機(jī)器學(xué)習(xí)的教學(xué)內(nèi)容受到了挑戰(zhàn)，在本科機(jī)器學(xué)習(xí)教學(xué)過程中增加“深度學(xué)習(xí)”的相關(guān)內(nèi)容，已是大勢所趨。然而，將深度學(xué)習(xí)融入到機(jī)器學(xué)習(xí)課程中卻面臨兩個問題。一方面，在大學(xué)本科階段涉及深度學(xué)習(xí)知識的課程還比較少，教學(xué)案例嚴(yán)重缺乏，尤其是針對深度學(xué)習(xí)的實踐類指導(dǎo)資源更為稀少。另一方面，目前主流的深度學(xué)習(xí)框架較多，在實際科研與開發(fā)中，Caffe、Theano、Torch等不同開源深度學(xué)習(xí)框架種類繁雜。然而，對于課程內(nèi)容設(shè)置來說，很難面面俱到地涉及到所有框架，需要選擇一種主流開源框架為核心，作為課程的主要線索加以展開。為了解決上述問題，機(jī)器學(xué)習(xí)科研實踐課程將機(jī)器學(xué)習(xí)課程與科研實踐課程相結(jié)合，并將深度學(xué)習(xí)框架Tensorf l ow納入到課程體系中。

2. 機(jī)器學(xué)習(xí)科研實踐課程

《科研實踐》課程是針對我校計算機(jī)與通信工程學(xué)院本科專業(yè)第7學(xué)期開設(shè)的一門科研實踐類課程，共6周，合96學(xué)時。該課程是一門以科研實踐為主導(dǎo)，采取小班研討、啟發(fā)式教學(xué)、結(jié)合實際科研案例的綜合性實踐類課程。

《科研實踐》課程的教學(xué)過程劃分為理論講解、主題研討和實踐驗證三個部分。該教學(xué)方式的要點包括三個方面：

①案例引導(dǎo)的理論知識鋪墊。把深度學(xué)習(xí)的基礎(chǔ)理論融入到項目案例的細(xì)節(jié)中，以技術(shù)發(fā)展的過程重新組織并介紹理論，增強(qiáng)教學(xué)效果；

②面向科研主題的研討交流活動。為了充分調(diào)動學(xué)生學(xué)習(xí)的積極性和主動性，并培養(yǎng)學(xué)生總結(jié)科研進(jìn)展的能力，該課程增設(shè)了基于主題的研討式教學(xué)環(huán)節(jié)，通過啟發(fā)式教育激發(fā)學(xué)生的科研創(chuàng)新能力。

③科研項目驅(qū)動的完整實踐過程。建立了以科研創(chuàng)新為主線的實踐流程，目標(biāo)是使學(xué)生能夠以行業(yè)先進(jìn)的技術(shù)與平臺進(jìn)行科研訓(xùn)練，驗證科學(xué)想法，規(guī)范化、系統(tǒng)化地培養(yǎng)學(xué)生科研實踐能力。

根據(jù)目前的科研與應(yīng)用熱點，結(jié)合機(jī)器學(xué)習(xí)課程的現(xiàn)狀，課程組將機(jī)器學(xué)習(xí)方向引入到科研實踐課程中，并將深度學(xué)習(xí)作為機(jī)器學(xué)習(xí)科研實踐課程的主導(dǎo)項目。通過機(jī)器學(xué)習(xí)與科研實踐課程相結(jié)合，課程組在課程目標(biāo)與培養(yǎng)標(biāo)準(zhǔn)、知識體系域教學(xué)內(nèi)容、開發(fā)平臺與實踐流程、案例建設(shè)與共享交流等方面進(jìn)行改革，進(jìn)一步提升機(jī)器學(xué)習(xí)課程的教學(xué)質(zhì)量與本科生的科研實踐能力。

3. 課程改革實施方案

針對本科生科研能力薄弱的特點[3]，課程組認(rèn)為科研案例與實踐指導(dǎo)資源的缺乏，嚴(yán)重制約了本科生機(jī)器學(xué)習(xí)實踐層次的提升。目前面向人工智能方向課程主要集中在研究生階段、企業(yè)內(nèi)部以及各類IT培訓(xùn)機(jī)構(gòu)。在大學(xué)本科階段開設(shè)該類專門實踐課程的還非常少，尤其是深度學(xué)習(xí)方向的科研實踐類課程更不多見。因此，一方面，課程組重新審視課程定位，完善知識體系和教學(xué)內(nèi)容；另一方面建設(shè)以Tensorf l ow為核心的科研創(chuàng)新與應(yīng)用平臺，從而提升科研實踐教學(xué)水平。

（1）重新定位課程目標(biāo)與培養(yǎng)標(biāo)準(zhǔn)

根據(jù)工業(yè)界與學(xué)術(shù)界對于人才的實際需求，從知識、能力、素質(zhì)和長期發(fā)展規(guī)劃等多個角度對培養(yǎng)目標(biāo)進(jìn)行分解，形成具有高度可操作性的細(xì)化培養(yǎng)標(biāo)準(zhǔn)。修訂科研實踐課程教學(xué)大綱，深化深度學(xué)習(xí)的教學(xué)內(nèi)容，并將Tensorf l ow基礎(chǔ)納入教學(xué)大綱，貫穿整個課程教學(xué)與實踐體系。課程組借鑒國內(nèi)外相關(guān)優(yōu)秀課程，走訪國內(nèi)相關(guān)高校與知名企業(yè)，調(diào)研深度學(xué)習(xí)的現(xiàn)狀與前景，完善課程的培養(yǎng)目標(biāo)、知識體系和教學(xué)內(nèi)容。目前機(jī)器學(xué)習(xí)科研實踐課程教學(xué)大綱分為四部分內(nèi)容：

機(jī)器學(xué)習(xí)基礎(chǔ)與深度學(xué)習(xí)（24學(xué)時）

Tensorf l ow基礎(chǔ)與實踐（16學(xué)時）

深度學(xué)習(xí)經(jīng)典案例研討與Tensorf l ow實踐（24學(xué)時）

以Tensorf l ow為平臺的科研實踐課程設(shè)計（32學(xué)時）

（2）優(yōu)化課程知識體系與授課內(nèi)容

借鑒國內(nèi)外著名大學(xué)的課程資料如CS231n、CS224d等，優(yōu)化當(dāng)前教學(xué)大綱中的知識體系，使知識體系更完整和更具時效性。目前，傳統(tǒng)機(jī)器算法已經(jīng)不能滿足本科生掌握最新機(jī)器學(xué)習(xí)知識的需要，在機(jī)器學(xué)習(xí)科研實踐課程中明確以深度學(xué)習(xí)為核心教學(xué)內(nèi)容，重新分配教學(xué)內(nèi)容和學(xué)時，并編寫配套的參考案例和課件。

根據(jù)行業(yè)的最新應(yīng)用需求與科研方向，科研實踐課程將深度學(xué)習(xí)作為教學(xué)的核心內(nèi)容?；A(chǔ)理論部分包括梯度下降、BP算法、CNN與LSTM等。在此基礎(chǔ)上，課程為學(xué)生提供若干個熱點科研主題供學(xué)生自主選擇，如物體檢測、機(jī)器翻譯，語音識別等，然后圍繞最新科研項目組織教學(xué)，將學(xué)生的綜合能力融入到一個完整的科研實踐過程中，在該過程中從不同的側(cè)面介紹理論體系、指導(dǎo)科研實踐，重點培養(yǎng)以升學(xué)為發(fā)展方向的學(xué)生科研實踐能力。

（3）規(guī)范實踐平臺、完善實踐流程

目前深度學(xué)習(xí)框架較為混雜，包含了caffe2、mxnet、theano等許多平臺。新的機(jī)器學(xué)習(xí)實踐教學(xué)中確定以Tensorflow框架為核心實踐平臺，在課程理論環(huán)節(jié)的案例教學(xué)、實踐環(huán)節(jié)的實驗教學(xué)與科研實踐中均統(tǒng)一應(yīng)用，對照新的課程開發(fā)計劃，增加Tensorflow平臺操作練習(xí)題，設(shè)置深度學(xué)習(xí)關(guān)鍵技術(shù)練習(xí)題（如BP、Dropout、Batch Normalization等），建立以Tensorf l ow為核心的實踐平臺，增加Tensorflow基礎(chǔ)的實踐流程，在此基礎(chǔ)上指導(dǎo)學(xué)生完成科研項目驅(qū)動的完整實踐過程，以提高學(xué)生的科研實踐能力。

此外，我校最新一版的電子信息類本科生培養(yǎng)方案加大了人工智能課程群的課時，尤其是實驗課時。例如，《智能計算基礎(chǔ)》的實驗課時設(shè)置為8學(xué)時；《機(jī)器學(xué)習(xí)》的實驗課時設(shè)置為16課時。我們希望通過本項目的實施，能夠指導(dǎo)其它人工智能方向（包含研究生課程）的教學(xué)內(nèi)容與實踐項目的改革，最終實現(xiàn)以Tensorflow為核心的人工智能課程群的實驗與實踐創(chuàng)新平臺。

（4）加強(qiáng)典型教學(xué)案例建設(shè)

深度學(xué)習(xí)教學(xué)案例的缺乏是當(dāng)前深度學(xué)習(xí)方面課程建設(shè)的主要問題。課程組成員跟蹤最新深度學(xué)習(xí)內(nèi)容，充分利用CVPR、ICLR等知名國際會的最新進(jìn)展，搜集適于本科生教育的具有縱向發(fā)展的主流科研方向作為面向機(jī)器學(xué)習(xí)科研實踐的深度學(xué)習(xí)教學(xué)案例，主要案例包括：卷積神經(jīng)網(wǎng)絡(luò)、物體檢測、CNN-LSTM以及對抗生成網(wǎng)絡(luò)等。

在學(xué)生科研項目選題時，課程組結(jié)合實際科研動向提供科研案例以供選擇或啟發(fā)學(xué)生自行立意。同時，將優(yōu)秀的學(xué)生科研實踐成果加入教學(xué)案例庫。此外，課程組在課程建設(shè)中探索了具有石油特色的機(jī)器學(xué)習(xí)教學(xué)案例。石油是中國石油大學(xué)的辦學(xué)核心，近年來我校多個相關(guān)專業(yè)不斷嘗試如何將石油技術(shù)與最新的機(jī)器學(xué)習(xí)方法相結(jié)合（比如，深度學(xué)習(xí)與地質(zhì)勘探的結(jié)合、深度學(xué)習(xí)與海上溢油區(qū)發(fā)現(xiàn)的結(jié)合）。課程組將該類成果通過Tensorflow平臺轉(zhuǎn)化出來，豐富具有石油特色的深度學(xué)習(xí)教學(xué)案例，服務(wù)于石油石化行業(yè)。

4. 課程特色與亮點

目前面向機(jī)器學(xué)習(xí)的課程主要集中在研究生階段[4]、企業(yè)內(nèi)部以及各類IT培訓(xùn)機(jī)構(gòu)。在大學(xué)本科階段開設(shè)該類專門實踐課程的還非常少，尤其是深度學(xué)習(xí)方向的科研實踐類課程更不多見。本課程具備以下特色：

（1）夯實數(shù)學(xué)理論基礎(chǔ)，培養(yǎng)數(shù)學(xué)應(yīng)用能力

考慮到電子信息類專業(yè)的特點，絕大多數(shù)實踐類課程以工程鍛煉為主，缺少理論應(yīng)用的訓(xùn)練[5]，導(dǎo)致大多數(shù)學(xué)生難以理解前期設(shè)置的數(shù)學(xué)類公共基礎(chǔ)課程的作用。因此，課程組認(rèn)為需要著眼于學(xué)生職業(yè)生涯的長遠(yuǎn)發(fā)展，在科研實踐中強(qiáng)調(diào)基礎(chǔ)理論的作用，提升學(xué)生的理論水平和科研實踐能力。

（2）實時結(jié)合業(yè)界熱點，彌補(bǔ)教學(xué)科研鴻溝

近年來，機(jī)器學(xué)習(xí)與模式識別發(fā)展迅速，尤其以深度學(xué)習(xí)為代表，在工業(yè)界與學(xué)術(shù)界取得了里程碑式的發(fā)展。機(jī)器學(xué)習(xí)與模式識別方向，無論在在工業(yè)界或是學(xué)術(shù)界都是熱點，且新的成果不斷涌現(xiàn)。在目前的國內(nèi)本科生培養(yǎng)方案中，學(xué)生難以接觸到學(xué)科的最新科研成果，使得教學(xué)與科研嚴(yán)重脫節(jié)。因此，需要在授課過程中，實時地將該方向的最新研究成果引入到機(jī)器學(xué)習(xí)科研實踐課程中，培養(yǎng)本科生掌握人工智能的相關(guān)思維方法和技術(shù)手段，并將之應(yīng)用于以后的科研工作之中。

（3）借鑒國外名校課程，編寫深度學(xué)習(xí)實踐指導(dǎo)

經(jīng)典的深度學(xué)習(xí)課程，如美國斯坦福大學(xué)的CS231n、CS224d等，為深度學(xué)習(xí)的發(fā)展起到了尤為關(guān)鍵的作用。然而，目前國內(nèi)深度學(xué)習(xí)課程并不多見，大多數(shù)學(xué)校仍然以經(jīng)典機(jī)器學(xué)習(xí)算法為主要教學(xué)內(nèi)容，尤其缺少適于本科教學(xué)使用的深度學(xué)習(xí)實踐指導(dǎo)。Tensorf l ow在圖像分類、音頻處理、推薦系統(tǒng)和自然語言處理等多種場景下都有豐富的應(yīng)用，是目前業(yè)界最為流行的深度學(xué)習(xí)框架。因此，建立以Tensorflow為核心的深度學(xué)習(xí)實踐指導(dǎo)也是本項目的一個特色與亮點。

（4）實施本科生創(chuàng)新教育，鼓勵學(xué)生將成果轉(zhuǎn)化為科研論文與專利

年輕人思維活躍，是人工智能社區(qū)的生力軍，在人工智能的科研論文中占有一定優(yōu)勢。受益于當(dāng)前中國的教育體制，我國高校本科生具備深厚的數(shù)學(xué)功底，這對于從事機(jī)器學(xué)習(xí)領(lǐng)域尤為重要。課程組希望通過機(jī)器學(xué)習(xí)科研實踐課程的實施，為學(xué)生創(chuàng)造條件，鼓勵他們將學(xué)習(xí)成果轉(zhuǎn)化成科研成果，實施本科生創(chuàng)新教育。

5. 總結(jié)

通過機(jī)器學(xué)習(xí)科研實踐課程體系改革，為深度學(xué)習(xí)的教學(xué)積累了豐富經(jīng)驗與經(jīng)典案例。機(jī)器學(xué)習(xí)科研實踐課程對知識體系的先進(jìn)性、實踐平臺的規(guī)范完整性、項目案例的示范性、交流共享平臺的實用和開放性等方面進(jìn)行了深化改革，為機(jī)器學(xué)習(xí)實踐教育提供了借鑒和示范作用。

[1]閔鋒,魯統(tǒng)偉.“機(jī)器學(xué)習(xí)”課程教學(xué)探索與實踐[J].教育教學(xué)論壇,2014(53):158-159.

[2]李勇.本科機(jī)器學(xué)習(xí)課程教改實踐與探索[J].計算機(jī)教育,2015(13): 63-66.

[3]胡雪蕾,孫明明,孫廷凱,等.研究生“機(jī)器學(xué)習(xí)”課程教學(xué)改革實踐與探討[J].煤炭高等教育,2012(1):118-121.

[4]曲衍鵬,鄧安生,王春立,等.面向機(jī)器學(xué)習(xí)課程的教學(xué)改革實踐[J].計算機(jī)教育,2014(19):88-91.

[5]曾憲華,李偉生,于洪.智能信息處理課程群下的機(jī)器學(xué)習(xí)課程教學(xué)改革[J].計算機(jī)教育,2014(19):60-62.

王雷全（1981-），男，遼寧丹東人，博士，計算機(jī)與通信工程學(xué)院，實驗師，研究方向：計算機(jī)視覺。

教育部高等學(xué)校計算機(jī)類專業(yè)教學(xué)指導(dǎo)委員會專業(yè)課程改革項目（編號：MXF2016-2-1）；中國石油大學(xué)研究性教學(xué)方法改革項目（編號：YK201612）。中央高校基本科研業(yè)務(wù)費專項資金資助（17CX02041A）。

吳春雷（1980-），男，河南臺前人，博士，計算機(jī)與通信工程學(xué)院，副教授，研究方向：軟件工程。

郭曉菲（1980-），女，山東平度人，碩士，計算機(jī)與通信工程學(xué)院，實驗師，研究方向：通信工程。