云計(jì)算人工智能邊緣計(jì)算實(shí)驗(yàn)課程建設(shè)與探索

張志佳　李丹　陳麗

關(guān)鍵詞：實(shí)驗(yàn)室建設(shè)；分布式教學(xué)；智能與邊緣計(jì)算

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1009-3044（2023）12-0167-04

0 引言

高校實(shí)驗(yàn)室是培養(yǎng)學(xué)生動(dòng)手實(shí)踐能力的實(shí)驗(yàn)場(chǎng)所，是驗(yàn)證學(xué)生專業(yè)課學(xué)習(xí)結(jié)果和能力的工具，被喻為創(chuàng)新能力培養(yǎng)的基礎(chǔ)訓(xùn)練場(chǎng)、創(chuàng)造先進(jìn)生產(chǎn)力的培養(yǎng)皿、前沿技術(shù)發(fā)展的源泉和引擎[1-3]。

傳統(tǒng)的高校實(shí)驗(yàn)課程實(shí)踐方式[4]需要在固定的高流動(dòng)性、聚集性和經(jīng)常性實(shí)踐場(chǎng)所開展，尤其是專業(yè)性實(shí)驗(yàn)課，大多需要在專業(yè)設(shè)備和專業(yè)場(chǎng)所進(jìn)行。隨著云計(jì)算技術(shù)的高速發(fā)展并趨于成熟，課程內(nèi)容信息化進(jìn)程已在高校課堂全面鋪開，傳統(tǒng)的線下實(shí)驗(yàn)課授課方式已無(wú)法滿足師生需求，實(shí)施線上實(shí)踐課程教學(xué)同時(shí)，結(jié)合線下實(shí)踐是一項(xiàng)十分有效的實(shí)踐教學(xué)嘗試[5-6]。

人工智能專業(yè)實(shí)驗(yàn)室不僅要提供基礎(chǔ)的開發(fā)環(huán)境，還要提供機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等人工智能專業(yè)實(shí)驗(yàn)課的運(yùn)算環(huán)境以及用于實(shí)驗(yàn)的數(shù)據(jù)集。這些實(shí)驗(yàn)素材的準(zhǔn)備均需專業(yè)的人工智能實(shí)驗(yàn)室作為支撐，也需要專業(yè)的能夠?qū)崿F(xiàn)師生互動(dòng)操作的實(shí)驗(yàn)平臺(tái)，普通的實(shí)驗(yàn)室無(wú)法達(dá)到開展人工智能專業(yè)線上實(shí)踐課程的要求。

1 支持人工智能邊緣計(jì)算實(shí)驗(yàn)課程的實(shí)驗(yàn)室建設(shè)

為滿足本學(xué)院面向邊緣計(jì)算算法和邊緣計(jì)算設(shè)備構(gòu)建人工智能人才培養(yǎng)體系的需求，為全校師生解決同專業(yè)同時(shí)上課同時(shí)實(shí)踐同時(shí)考試，并解決線下實(shí)驗(yàn)室場(chǎng)地有限的問題，沈陽(yáng)工業(yè)大學(xué)人工智能學(xué)院成立了智能與邊緣計(jì)算實(shí)驗(yàn)室，應(yīng)用人工智能實(shí)驗(yàn)管理平臺(tái)進(jìn)行相關(guān)線上實(shí)踐課程體系建設(shè)、開展分布式實(shí)踐教學(xué)，以應(yīng)對(duì)學(xué)生零散位置前提下的專業(yè)實(shí)踐課程培養(yǎng)。

1.1 人工智能邊緣計(jì)算實(shí)驗(yàn)室構(gòu)成

智能與邊緣計(jì)算實(shí)驗(yàn)室整合了人工智能一體機(jī)產(chǎn)品、智能終端平臺(tái)，以及FPGA中國(guó)創(chuàng)新中心提供的共享資源。

1） 人工智能一體機(jī)

人工智能一體機(jī)包括人工智能云平臺(tái)和硬件平臺(tái)。人工智能云平臺(tái)支持AI開發(fā)全生命周期的管理，可按需提供虛擬機(jī)、容器資源、分布式存儲(chǔ)以及資源管理調(diào)度，可提供實(shí)驗(yàn)課程常用的AI框架，數(shù)據(jù)集、模型、算法等，并面向科學(xué)研究和實(shí)驗(yàn)教學(xué)提供完善的系統(tǒng)管理支撐服務(wù)功能。

2） 智能終端平臺(tái)

邊緣計(jì)算創(chuàng)新實(shí)驗(yàn)室以數(shù)據(jù)中心和智能終端相結(jié)合的方式開展實(shí)驗(yàn)，可開發(fā)AI終端項(xiàng)目開發(fā)實(shí)踐課程、自動(dòng)駕駛實(shí)驗(yàn)課程、畫像風(fēng)格遷移實(shí)驗(yàn)設(shè)計(jì)、無(wú)人機(jī)實(shí)訓(xùn)課程以及機(jī)器人開發(fā)課程等。

3） FPGA中國(guó)創(chuàng)新中心共享資源

FPGA中國(guó)創(chuàng)新中心支持共建聯(lián)合創(chuàng)新實(shí)驗(yàn)室，提供公有云資源，即FPGA云實(shí)例和云存儲(chǔ)，同時(shí)支持學(xué)科體系共建。

1.2 人工智能邊緣計(jì)算實(shí)驗(yàn)管理平臺(tái)技術(shù)架構(gòu)

人工智能實(shí)驗(yàn)管理平臺(tái)技術(shù)架構(gòu)共有五層，即實(shí)現(xiàn)界面設(shè)計(jì)的展示層、實(shí)現(xiàn)服務(wù)功能的業(yè)務(wù)層、支持人工智能實(shí)驗(yàn)操作的AI平臺(tái)層、管理容器化和虛擬機(jī)資源的調(diào)度層以及構(gòu)成計(jì)算資源的資源層。

1） 展示層

平臺(tái)開發(fā)采用前后端分離架構(gòu)模式，前端使用Vue、AngularJS框架開發(fā)，通過HTTP和RESTful API 與服務(wù)端通信，使用Web?socket 實(shí)現(xiàn)服務(wù)器與客戶端之間的消息推送。

2） 業(yè)務(wù)層

后端使用Java開發(fā)語(yǔ)言，基于微服務(wù)架構(gòu)設(shè)計(jì)，主要采用SpringBoot 框架。通過Rabbitmq實(shí)現(xiàn)服務(wù)間的數(shù)據(jù)同步，確保數(shù)據(jù)的一致性。使用MySQL網(wǎng)站數(shù)據(jù)庫(kù)管理系統(tǒng)，使用Redis中間件解決分布式鎖等競(jìng)爭(zhēng)性問題。使用Nginx實(shí)現(xiàn)請(qǐng)求轉(zhuǎn)發(fā)、代理等功能，使用ETCD分布式存儲(chǔ)系統(tǒng)，并與Nginx共同實(shí)現(xiàn)動(dòng)態(tài)負(fù)載均衡。

3） AI平臺(tái)層

AI平臺(tái)支持TTS（從文本到語(yǔ)音）、MINIST數(shù)據(jù)集、FaceNet（人臉識(shí)別系統(tǒng)）等人工智能算法，同時(shí)支持TensorFlow、Mxnet、Caffe、PyTorch等人工智能框架。

4） 調(diào)度層

使用Kubernetes（容器資源調(diào)度平臺(tái)）實(shí)現(xiàn)容器化資源的調(diào)度、服務(wù)編排、租戶管理等。通過對(duì)接Open?stack（云計(jì)算管理平臺(tái)）實(shí)現(xiàn)虛擬機(jī)資源的調(diào)度管理。

5） 資源層

資源層包括CPU、GPU、FPGA異構(gòu)計(jì)算資源。使用CephFS文件系統(tǒng)實(shí)現(xiàn)分布式文件存儲(chǔ)。使用Pro?metheus實(shí)現(xiàn)對(duì)主機(jī)狀態(tài)、資源使用情況的監(jiān)控。

1.3 人工智能邊緣計(jì)算實(shí)驗(yàn)管理平臺(tái)功能架構(gòu)

人工智能實(shí)驗(yàn)管理平臺(tái)部署的功能架構(gòu)方案，包括由硬件設(shè)備層提供計(jì)算資源、存儲(chǔ)設(shè)備、網(wǎng)絡(luò)設(shè)備以及安全設(shè)備，依靠人工智能管理平臺(tái)提供算力支撐，依托云計(jì)算管理平臺(tái)提供云主機(jī)，支持云主機(jī)類型實(shí)驗(yàn)和FPGA 開發(fā)板實(shí)驗(yàn)，搭建各種智能實(shí)訓(xùn)場(chǎng)景。

人工智能實(shí)驗(yàn)管理平臺(tái)功能架構(gòu)分為基礎(chǔ)功能和高級(jí)功能兩部分。

（1） 基礎(chǔ)功能

①課程管理：包括自建課程和內(nèi)置課程。

②實(shí)驗(yàn)管理：包括容器類型實(shí)驗(yàn)、虛擬機(jī)類型實(shí)驗(yàn)、FPGA開發(fā)板實(shí)驗(yàn)。

③支持實(shí)驗(yàn)課程建設(shè)的系統(tǒng)管理功能。

④實(shí)驗(yàn)配置。

⑤操作日志。

（2） 高級(jí)功能

①AI應(yīng)用中心系統(tǒng)：使用內(nèi)置模型預(yù)測(cè)服務(wù)進(jìn)行預(yù)測(cè)并獲得預(yù)測(cè)結(jié)果。

②門戶管理系統(tǒng)：根據(jù)課程需求定義個(gè)性化內(nèi)容，在實(shí)驗(yàn)平臺(tái)首頁(yè)展示。

③統(tǒng)計(jì)分析系統(tǒng)：統(tǒng)計(jì)實(shí)驗(yàn)作業(yè)情況和實(shí)驗(yàn)記

錄，便于教師隨時(shí)跟進(jìn)學(xué)生的實(shí)驗(yàn)進(jìn)度。

④實(shí)驗(yàn)自動(dòng)評(píng)測(cè)系統(tǒng)：系統(tǒng)自動(dòng)評(píng)測(cè)學(xué)生提交的實(shí)驗(yàn)作業(yè)。

⑤考試系統(tǒng)。

⑥數(shù)據(jù)集管理系統(tǒng)：業(yè)務(wù)管理員或教師向數(shù)據(jù)集中存放實(shí)驗(yàn)所需文件，學(xué)生使用數(shù)據(jù)集中的文件完成相應(yīng)的實(shí)驗(yàn)作業(yè)。

⑦GPU資源池管理系統(tǒng)：開啟GPU復(fù)用后支持創(chuàng)建GPU切片實(shí)驗(yàn)，提高GPU使用率，統(tǒng)計(jì)并展示GPU使用情況。

2 人工智能邊緣計(jì)算實(shí)驗(yàn)課程分布式教學(xué)設(shè)計(jì)與應(yīng)用

邊緣計(jì)算是指在靠近物或數(shù)據(jù)源頭的一側(cè)，采用網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用核心能力為一體的開放平臺(tái)，就近提供最近端服務(wù)。這樣能夠在減少請(qǐng)求響應(yīng)時(shí)間、減少網(wǎng)絡(luò)帶寬同時(shí)，保證數(shù)據(jù)的安全性[7]。其基本原理是在網(wǎng)絡(luò)邊緣的數(shù)據(jù)產(chǎn)生側(cè)對(duì)數(shù)據(jù)進(jìn)行處理和分析，通過及時(shí)響應(yīng)邊緣側(cè)發(fā)起的請(qǐng)求，進(jìn)而實(shí)現(xiàn)減少網(wǎng)絡(luò)傳輸所產(chǎn)生的時(shí)延[8]。

人工智能實(shí)驗(yàn)管理平臺(tái)部署的功能架構(gòu)方案，包括由硬件設(shè)備層提供計(jì)算資源、存儲(chǔ)設(shè)備、網(wǎng)絡(luò)設(shè)備以及安全設(shè)備，依靠人工智能管理平臺(tái)提供算力支撐，依托云計(jì)算管理平臺(tái)提供云主機(jī)，支持云主機(jī)類型實(shí)驗(yàn)和FPGA開發(fā)板實(shí)驗(yàn)，搭建各種智能實(shí)訓(xùn)場(chǎng)景。

人工智能實(shí)驗(yàn)管理平臺(tái)結(jié)合云技術(shù)，提供了不受時(shí)空限制的與線下實(shí)驗(yàn)相同的線上實(shí)驗(yàn)操作，是開展人工智能學(xué)院邊緣與計(jì)算實(shí)驗(yàn)課程分布式教學(xué)的應(yīng)用平臺(tái)工具。在線實(shí)驗(yàn)課分布式實(shí)踐教學(xué)設(shè)計(jì)包括創(chuàng)建實(shí)驗(yàn)課程、在線授課、在線測(cè)試等流程，經(jīng)過師生在線互動(dòng)，初步形成了人工智能實(shí)驗(yàn)管理平臺(tái)分布式教學(xué)的線上實(shí)驗(yàn)教學(xué)模式，在人工智能專業(yè)學(xué)生中展開應(yīng)用。

2.1 人工智能邊緣計(jì)算實(shí)驗(yàn)課程在線創(chuàng)建

授課教師在線創(chuàng)建課程，點(diǎn)擊頁(yè)面“新建課程”選項(xiàng)，根據(jù)頁(yè)面提示補(bǔ)充課程大綱、參考書籍、實(shí)驗(yàn)資料以及實(shí)踐內(nèi)容等信息后，點(diǎn)擊“發(fā)布”課程，此為課程建立。

課程一經(jīng)發(fā)布即在平臺(tái)可查、可選、可學(xué)習(xí)，任課教師在課程詳情點(diǎn)擊頁(yè)面“排課管理”，需根據(jù)不同學(xué)期不同教學(xué)班的授課安排，點(diǎn)擊“添加分組”，可根據(jù)授課時(shí)間給上課班級(jí)安排課表。至此，所有專業(yè)實(shí)踐課程所需線上課程資源都已建立。

AILab實(shí)驗(yàn)管理平臺(tái)創(chuàng)建的實(shí)驗(yàn)課程，教師和業(yè)務(wù)員權(quán)限可以創(chuàng)建支持虛擬桌面、Jupyter、FPGA開發(fā)板三種類型實(shí)驗(yàn)。

① 虛擬桌面：適用于帶有圖形可視化的實(shí)驗(yàn)場(chǎng)景，支持容器/虛擬機(jī)類型的實(shí)驗(yàn)環(huán)境配置；

② Jupyter：分步執(zhí)行實(shí)時(shí)運(yùn)行，適用于交互式編程類實(shí)驗(yàn)；

③ FPGA 開發(fā)板：對(duì)接人工智能邊緣實(shí)驗(yàn)平臺(tái)后，可操作FPGA相關(guān)實(shí)驗(yàn)。

2.2 人工智能邊緣計(jì)算實(shí)驗(yàn)課程在線授課

實(shí)驗(yàn)課開課前，需要業(yè)務(wù)管理員根據(jù)在線課程要求創(chuàng)建實(shí)驗(yàn)運(yùn)行環(huán)境所需的鏡像和規(guī)格。鏡像是提供實(shí)驗(yàn)運(yùn)行的環(huán)境，規(guī)格則是實(shí)驗(yàn)環(huán)境中CPU、內(nèi)存和GPU資源。業(yè)務(wù)管理員在平臺(tái)“配置管理”目錄下分別創(chuàng)建容器規(guī)格、容器鏡像。如果實(shí)驗(yàn)需要用到數(shù)據(jù)集，創(chuàng)建實(shí)驗(yàn)課程還需上傳實(shí)驗(yàn)所需數(shù)據(jù)集。

授課教師需要在系統(tǒng)提前上傳實(shí)驗(yàn)指導(dǎo)書，并根據(jù)實(shí)驗(yàn)課的難易程度，提供可供學(xué)生參考的實(shí)驗(yàn)代碼和實(shí)驗(yàn)數(shù)據(jù)。授課教師可以在線布置實(shí)驗(yàn)作業(yè)，布置實(shí)驗(yàn)作業(yè)時(shí)需要選擇關(guān)聯(lián)一門實(shí)驗(yàn)課程，實(shí)驗(yàn)作業(yè)可以定向定時(shí)發(fā)布給學(xué)生，并要求學(xué)生在規(guī)定時(shí)間內(nèi)完成。

學(xué)生按照實(shí)驗(yàn)課程排課登錄人工智能實(shí)驗(yàn)管理平臺(tái)點(diǎn)擊“我的課程”上課，并與教師在線交流。課后在“我的實(shí)驗(yàn)”界面查看老師布置的實(shí)驗(yàn)作業(yè)，點(diǎn)擊“進(jìn)入實(shí)驗(yàn)”，根據(jù)要求完成實(shí)驗(yàn)并整理實(shí)驗(yàn)報(bào)告書上傳系統(tǒng)，同時(shí)上傳必要的實(shí)驗(yàn)代碼和數(shù)據(jù)集。

授課教師登錄人工智能實(shí)驗(yàn)管理平臺(tái)點(diǎn)擊“實(shí)驗(yàn)評(píng)價(jià)”，根據(jù)學(xué)生提交的實(shí)驗(yàn)報(bào)告、實(shí)驗(yàn)代碼和數(shù)據(jù)集以及自動(dòng)評(píng)測(cè)得分給出最終的分?jǐn)?shù)。教師在批改作業(yè)時(shí)，可根據(jù)學(xué)生提交作業(yè)的完成度，選擇“推送成績(jī)”或“退回重做”。

2.3 人工智能邊緣計(jì)算實(shí)驗(yàn)課程在線測(cè)試

授課教師或管理員登錄人工智能實(shí)驗(yàn)管理平臺(tái)，點(diǎn)擊“創(chuàng)建考試”，根據(jù)頁(yè)面提示補(bǔ)充考試信息，創(chuàng)建考試完成后“發(fā)布”考試。學(xué)生按照考試安排，在學(xué)生端“我的考試”頁(yè)面下查找需要參加的考試，點(diǎn)擊“開始考試”后下載試題所需的代碼和試題報(bào)告，并在完成實(shí)驗(yàn)后上傳實(shí)驗(yàn)報(bào)告、實(shí)驗(yàn)代碼及工程文件。授課教師可在線或下載學(xué)生提交的實(shí)驗(yàn)報(bào)告、實(shí)驗(yàn)代碼及工程文件進(jìn)行檢查，并在平臺(tái)系統(tǒng)上在線推送成績(jī)。

3 人工智能邊緣計(jì)算實(shí)驗(yàn)課程的示范效果與發(fā)展方向

智能與邊緣計(jì)算實(shí)驗(yàn)平臺(tái)實(shí)驗(yàn)室可以實(shí)現(xiàn)分布式線上實(shí)驗(yàn)教學(xué)[9]。利用互聯(lián)網(wǎng)實(shí)現(xiàn)一人一機(jī)一IP，充分利用實(shí)驗(yàn)平臺(tái)的實(shí)踐課程設(shè)計(jì)資源。學(xué)生分布式個(gè)人PC機(jī)可根據(jù)管理員劃分的IP地址及賬號(hào)登錄Web端，學(xué)生通過Web界面訪問后臺(tái)實(shí)驗(yàn)管理系統(tǒng)，所有實(shí)驗(yàn)數(shù)據(jù)、程序等存放在后臺(tái)系統(tǒng)，師生可隨時(shí)查看修改。

人工智能實(shí)驗(yàn)管理平臺(tái)已創(chuàng)建課程可實(shí)現(xiàn)資源共享。平臺(tái)現(xiàn)已開發(fā)包括機(jī)器人路徑規(guī)劃、EM算法實(shí)驗(yàn)、Logistick回歸實(shí)驗(yàn)、支持向量機(jī)實(shí)驗(yàn)以及線性回歸實(shí)驗(yàn)等課程，根據(jù)平臺(tái)管理員提供的登錄權(quán)限，可供本學(xué)院學(xué)生學(xué)習(xí)，也可提供給其他專業(yè)同學(xué)用作專業(yè)拓展或創(chuàng)新資源加以利用。

實(shí)現(xiàn)實(shí)驗(yàn)課程線下線上教學(xué)聯(lián)動(dòng)，共同發(fā)展[10]。人工智能實(shí)驗(yàn)管理平臺(tái)可以有效地支撐專業(yè)實(shí)驗(yàn)教學(xué)資源建設(shè)，學(xué)院力爭(zhēng)線上線下實(shí)踐教學(xué)同質(zhì)同效，針對(duì)線上教學(xué)的特點(diǎn)，及時(shí)開展線上線下師生互動(dòng)，逐步提高實(shí)驗(yàn)課程線上教學(xué)質(zhì)量，并根據(jù)線下實(shí)踐課程開展情況及時(shí)更新線上課程資源，實(shí)現(xiàn)線上線下實(shí)踐教學(xué)突破空間局限，互相促進(jìn)，最終實(shí)現(xiàn)線上實(shí)踐課程全校共享。

開展實(shí)驗(yàn)課程分布式教學(xué)，促進(jìn)虛擬實(shí)驗(yàn)環(huán)境構(gòu)建[11-13]。人工智能學(xué)院開展的實(shí)驗(yàn)課程分布式教學(xué)，是基于人工智能實(shí)驗(yàn)管理平臺(tái)基礎(chǔ)上創(chuàng)建的促進(jìn)線上實(shí)踐教學(xué)的一種教學(xué)手段。該平臺(tái)提供的虛擬實(shí)驗(yàn)環(huán)境，以人工智能實(shí)驗(yàn)平臺(tái)為基礎(chǔ)，幫助學(xué)生將智能與邊緣計(jì)算的學(xué)習(xí)從理論掌握到實(shí)踐驗(yàn)證的過渡，將人工智能與邊緣計(jì)算有機(jī)結(jié)合，培養(yǎng)學(xué)生動(dòng)腦動(dòng)手以及創(chuàng)新能力。

4 結(jié)束語(yǔ)

高等教育面對(duì)新型教學(xué)方式的沖擊和學(xué)生對(duì)高校實(shí)踐課程大環(huán)境的需求，利用虛擬化教學(xué)資源開展實(shí)踐教學(xué)，充分利用智能與邊緣計(jì)算教學(xué)研究與專業(yè)實(shí)驗(yàn)室共建發(fā)展，組織開展線上實(shí)踐教學(xué)活動(dòng)，是高校鍛煉學(xué)生實(shí)踐能力的最有效方式之一。實(shí)驗(yàn)室發(fā)展綜合考慮了人工智能專業(yè)學(xué)以致用、學(xué)以實(shí)用等實(shí)踐教學(xué)目標(biāo)，線上線下相結(jié)合，豐富線上課程資源，同時(shí)在產(chǎn)業(yè)、學(xué)校、科研及實(shí)際項(xiàng)目中相互配合，發(fā)揮優(yōu)勢(shì)，采用分布式實(shí)踐教學(xué)方式，通過線上線下聯(lián)動(dòng)，解決學(xué)生專業(yè)實(shí)踐課程培養(yǎng)受限的問題。