TinyML邊緣計算在高校人工智能專業(yè)實驗教學(xué)中的應(yīng)用研究

摘要：人工智能作為新工科專業(yè)之一，是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，必須與產(chǎn)業(yè)深度融合發(fā)展。TinyML是人工智能領(lǐng)域前景較好的新興技術(shù)，將其融入專業(yè)實踐教學(xué)符合新工科人才培養(yǎng)的要求。本文介紹了TinyML技術(shù)特點，分析其在高校人工智能專業(yè)實踐教學(xué)中的應(yīng)用前景。

關(guān)鍵詞： TinyML邊緣計算；人工智能專業(yè)；實踐教學(xué)

隨著人工智能在技術(shù)與應(yīng)用方面取得了巨大的進(jìn)展，行業(yè)熱門已經(jīng)從大數(shù)據(jù)快速轉(zhuǎn)變到人工智能領(lǐng)域。教育部2019年設(shè)立本科人工智能專業(yè)后，各大高校緊跟時代發(fā)展，紛紛設(shè)立人工智能專業(yè)。截至2022年，我國有400多所本科院校開設(shè)了人工智能專業(yè)。人工智能專業(yè)涉及很多學(xué)科分支，主要包括機器學(xué)習(xí)、數(shù)據(jù)挖掘、計算機視覺、自然語言處理、心理學(xué)、腦科學(xué)、語音識別、數(shù)字信號處理等等。近年來，TinyML（微型機器學(xué)習(xí)）技術(shù)取得廣泛應(yīng)用，使得邊緣計算的業(yè)務(wù)顆粒變得更小，甚至下沉到物聯(lián)網(wǎng)設(shè)備，大大擴展了邊緣計算的應(yīng)用場景和市場縱深。作為一門實踐性很強的學(xué)科，高校人工智能專業(yè)實踐內(nèi)容也要貼近行業(yè)實際，關(guān)注技術(shù)發(fā)展動向，TinyML技術(shù)能將機器學(xué)習(xí)、邊緣計算和物聯(lián)網(wǎng)應(yīng)用有機融合，能極大豐富教學(xué)實踐內(nèi)容。

一、TinyML技術(shù)簡介

TinyML是一個新興領(lǐng)域，是快速增長的機器學(xué)習(xí)技術(shù)和應(yīng)用，未來的萬物互聯(lián)時代，基于超低能耗微控制器的人工智能終端借助各種傳感器，將人工智能覆蓋到世界每一個角落，激發(fā)出超乎想象的TinyML應(yīng)用場景。人工智能行業(yè)是下一個最具商業(yè)前景的發(fā)展方向。

（一）TinyML的概念

TinyML（tiny Machine Learning），是在終端和邊緣側(cè)的微處理器上實現(xiàn)的機器學(xué)習(xí)過程，即微型機器學(xué)習(xí)。TinyML是指超低功耗（毫瓦量級）的邊緣側(cè)機器學(xué)習(xí)應(yīng)用，需要硬件、軟件和算法的整體性協(xié)同實現(xiàn)，涉及軟件、工具、算法、硬件、專用集成電路（ASICs）、半導(dǎo)體制造等。

（二）TinyML的特點

TinyML 算法的工作機制與傳統(tǒng)機器學(xué)習(xí)模型幾乎完全相同，通常在用戶計算機或云中完成模型的訓(xùn)練。訓(xùn)練后處理是 TinyML 真正發(fā)揮作用之處。TinyML 的出現(xiàn)，是為了更好地緩解邊緣 ML 和云端 ML 中，解決了長期困擾人工智能領(lǐng)域的數(shù)據(jù)隱私、網(wǎng)絡(luò)時延以及能耗等問題。TinyML嘗試在物聯(lián)網(wǎng)設(shè)備上，直接處理和分析受限的敏感數(shù)據(jù)，避免敏感數(shù)據(jù)被云計算平臺收集，保護(hù)了個人隱私和數(shù)據(jù)安全。很多應(yīng)用場景都對時間延遲非常敏感，例如自動駕駛就對系統(tǒng)響應(yīng)時間要求極高。TinyML可以將某些機器學(xué)習(xí)任務(wù)下放到終端設(shè)備，來減少終端與云端的數(shù)據(jù)交互，從而降低甚至是完全消除了對外部通信的依賴，從而解決本地終端延遲問題。許多物聯(lián)網(wǎng)終端都是移動便攜設(shè)備，對于功耗的要求很高。通過降低設(shè)備性能，優(yōu)化算法，減少網(wǎng)絡(luò)傳輸?shù)哪芎模琓inyML的基礎(chǔ)運行能耗能降到毫瓦級。

（三）TinyML的關(guān)鍵技術(shù)

隨著物聯(lián)網(wǎng)應(yīng)用的普及，使用微型控制器處理在超低功耗下運行特定機器學(xué)習(xí)項目的需求日益顯現(xiàn)。TinyML主要優(yōu)勢在于超精簡高效的機器學(xué)習(xí)算法帶來的超低硬件資源消耗，其關(guān)鍵技術(shù)在深度學(xué)習(xí)和MCU芯片開發(fā)。深度學(xué)習(xí)的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究，含多個隱藏層的多層感知器就是一種深度學(xué)習(xí)結(jié)構(gòu)。是通過構(gòu)建具有很多隱層的機器學(xué)習(xí)模型，對采集的數(shù)據(jù)進(jìn)行大量的數(shù)據(jù)模型訓(xùn)練，不斷提取出更有價值的目標(biāo)特征，最終提升分類或預(yù)測的準(zhǔn)確性，從而形成機器“推理”能力。研究深度學(xué)習(xí)靈感來自模擬人腦的工作原理，進(jìn)行知識學(xué)習(xí)、數(shù)據(jù)分析和歸一化處理。傳統(tǒng)的機器學(xué)習(xí)模型一般都是部署在算力龐大的數(shù)據(jù)中心，對算法模型規(guī)模不敏感。將人工智能植入到MCU，需要通過基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)對模型進(jìn)行深度壓縮。

實現(xiàn)TinyML的核心器件是MCU，為了降低能耗，MCU犧牲性能，將計算單元做得非常小巧，并且通常集成Wi-Fi和藍(lán)牙等通信模塊。MCU大多數(shù)采用單核或雙核CPU，主頻在50MHZ到200MHZ之間，內(nèi)存不超過512K。低性能特性降低了芯片的設(shè)計和生產(chǎn)難度，提高運行穩(wěn)定性。由于MCU性能遠(yuǎn)不及PC，雖然能滿足當(dāng)前大多數(shù)物聯(lián)網(wǎng)應(yīng)用，但無法應(yīng)對低功耗、高性能的人工智能發(fā)展趨勢?，F(xiàn)有ARM架構(gòu)的MCU芯片無法同時實現(xiàn)低能耗和高性能，需要尋找芯片技術(shù)上的突破。神經(jīng)形態(tài)計算芯片有望解決這一難題，這是模擬大腦生物過程的計算硬件理念，這類芯片通過模擬電路實現(xiàn)人腦神經(jīng)形態(tài)計算，減少了大量模數(shù)轉(zhuǎn)換過程，能提高性能和電源效率。這項新技術(shù)目前已經(jīng)較為成熟，一旦普及將帶來人工智能終端甚至行業(yè)的變革。

二、基于TinyML技術(shù)的邊緣計算應(yīng)用

（一）行業(yè)應(yīng)用

在即將到來的萬物互聯(lián)時代，各行各業(yè)都爭相加入網(wǎng)絡(luò)化、數(shù)字化、智能化的變革之旅。TinyML技術(shù)的普及，極大推進(jìn)了人工智能終端的小型化、低能耗的發(fā)展速度。目前，TinyML技術(shù)在智能家居領(lǐng)域已經(jīng)得到了廣泛應(yīng)用，例如智能空調(diào)、智能門鎖和智能音箱都植入了TinyML控制模塊，極大降低設(shè)備空閑的能耗，并使用智能算法和傳感器技術(shù)，實時監(jiān)控外部觸發(fā)條件，根據(jù)設(shè)定快速喚醒設(shè)備。在工業(yè)制造領(lǐng)域，TinyML也有望大量的節(jié)能和安全管理問題。另外，醫(yī)療監(jiān)測診斷設(shè)備也可以變得更便攜和廉價，各類偏遠(yuǎn)或野外電池供電設(shè)備也能增加有效續(xù)航時間。

（二）應(yīng)用案例

智能手機通過音頻識別喚醒屏幕是TinyML技術(shù)應(yīng)用的經(jīng)典案例，例如蘋果手機的“嘿 Siri”喚醒功能。智能手表中抬手亮屏也是用了TinyML技術(shù)，用人工智能算法對抬手運動識別，與其它大量的手臂運動進(jìn)行區(qū)分。圖像手勢識別應(yīng)用案例也比較多，例如用手勢控制的水龍頭。在疫情管控方面，技術(shù)人員使用了TinyML終端對公共場所進(jìn)行咳嗽檢測。對TinyML應(yīng)用案例多數(shù)來自節(jié)能的需求，特別是非連續(xù)工作設(shè)備空閑狀態(tài)的低能耗工作模式。

三、TinyML技術(shù)與人工智能專業(yè)的關(guān)系

（一）優(yōu)化課程結(jié)構(gòu)

為主動應(yīng)對新一輪科技革命與產(chǎn)業(yè)變革，支撐服務(wù)創(chuàng)新驅(qū)動發(fā)展、“中國制造2025”等一系列國家戰(zhàn)略。人工智能專業(yè)作為新工科專業(yè)之一，要積極引入工程教育的新理念、學(xué)科專業(yè)的新結(jié)構(gòu)。TinyML 是機器學(xué)習(xí)和嵌入式 IoT 設(shè)備的交叉領(lǐng)域，是一門新興的工程學(xué)科，具有革新許多行業(yè)的潛力。在課程設(shè)置上應(yīng)緊跟時代脈搏，關(guān)注行業(yè)技術(shù)應(yīng)用前沿，將發(fā)展前景較好的新技術(shù)融入課程體系中去，輸入新鮮的血液，使專業(yè)建設(shè)始終緊跟行業(yè)發(fā)展。

（二）相關(guān)實驗設(shè)施成本較低

TinyML是基于MCU的技術(shù)，繼承了傳統(tǒng)單片機的所有優(yōu)點，其推廣優(yōu)勢就是理論上的低成本。傳統(tǒng)基于云的機器學(xué)習(xí)，通常需要規(guī)模龐大的高算力性能硬件投入，例如谷歌、亞馬遜、阿里等行業(yè)巨頭都在云計算上投入了驚人的算力資源。而TinyML的邊緣終端通常價格低廉，可以減少教學(xué)成本上的投入。

（三）與現(xiàn)有課程關(guān)系密切

TinyML并不是學(xué)科上的創(chuàng)新，而是應(yīng)用場景和一系列技術(shù)以及工具的創(chuàng)新。它是人工智能的一個分支，是邊緣計算思想極致體現(xiàn)。不管是云ML，邊緣ML，還是TinyML，其基本原理都是一致的，區(qū)別在于執(zhí)行單元的規(guī)模和位置。算力單元從云端下沉到用戶側(cè)最后到邊緣設(shè)備，這些邊緣設(shè)備在內(nèi)存、計算和功能方面都高度受限于設(shè)備自身的資源，進(jìn)而需要研發(fā)更為高效的算法、數(shù)據(jù)結(jié)構(gòu)和計算方法。TinyML是跟嵌入式技術(shù)緊密結(jié)合的，與各行各業(yè)深入融合，衍生出大量終端應(yīng)用場景的解決方案，拓展了人工智能應(yīng)用的范圍。將TinyML引入工人智能專業(yè)實踐，不僅能普及新技術(shù)，豐富項目實踐內(nèi)容，還能提高專業(yè)趣味性。

四、實踐教學(xué)應(yīng)用

（一）課程融合

TinyML并不是基礎(chǔ)理論的創(chuàng)新，更多的學(xué)科交叉的應(yīng)用，因此在理論教學(xué)中更多的是將邊緣計算的理念深化，講解關(guān)鍵技術(shù)。在實踐教學(xué)內(nèi)容應(yīng)該緊跟技術(shù)發(fā)展前沿，力求解決當(dāng)前行業(yè)痛點難點。在不開設(shè)新專業(yè)的情況下，可根據(jù)實際情況將TinyML融入專業(yè)課程中（如表1所示）。

（二）課堂實驗案例設(shè)計

人工智能是實踐性很強的專業(yè)，實驗教學(xué)是重要環(huán)節(jié)之一，基礎(chǔ)案例設(shè)計要注重基本原理和通用技術(shù)應(yīng)用，TinyML實驗過程通常涉及數(shù)據(jù)采集、模型訓(xùn)練、模型轉(zhuǎn)換、模型載入等步驟，每個步驟都需要一定的技術(shù)指導(dǎo)。課堂實驗更注重實驗步驟（如表2所示）指導(dǎo)，教師引導(dǎo)，使學(xué)生初步掌握常見方法和工具。

（三）實踐項目開發(fā)

TinyML優(yōu)勢在低能耗要求的邊緣計算領(lǐng)域，雖然理論上可以將傳統(tǒng)云端的機器學(xué)習(xí)算法模型移植到本地，但需要經(jīng)過修剪、壓縮等復(fù)雜過程才能適配到性能受限的終端。通過開放式項目實踐，鼓勵學(xué)生獨立思考，解決實際問題，更好地理解這一過程和意義。

實踐項目案例通常圍繞經(jīng)典案例或者貼近生活的場景開發(fā)，通常提出項目要求，不限定實現(xiàn)方式?？梢愿鶕?jù)項目類型定制實驗開發(fā)板，也可以用市場上成熟開發(fā)板進(jìn)行案例教學(xué)。常見開發(fā)板基于各類主流MCU設(shè)計，包括STM32系列、ATMega328P系列、ATSAMD51系列、HaaS系列、ESP32系列以及等。目前，TinyML最常用的兩個領(lǐng)域是關(guān)鍵字發(fā)現(xiàn)和視覺喚醒詞，另外安防監(jiān)控也開始大量應(yīng)用。例如基于阿里云HaaS EDU K1開發(fā)板（如圖1所示）進(jìn)行語音喚醒實驗，語音喚醒已經(jīng)廣泛用于手機、智能音響等領(lǐng)域。

本實驗項目主要步驟是語音數(shù)據(jù)采集，數(shù)據(jù)集創(chuàng)建、模型訓(xùn)練、模型部署和結(jié)果驗證。整個過程需要應(yīng)用很多軟硬件工具和技術(shù)，比如KWS Demo、jupyter notbook、TFLite-Micro等軟件工具，以及一些周邊傳感器。開放式的項目實踐需要學(xué)生有一定基礎(chǔ)，能自主搭建開發(fā)環(huán)境，用各自擅長的方法和技能去實現(xiàn)項目要求。

（四）探索教學(xué)新方法

教育部推出的“新工科”計劃強調(diào)了教育新理念、教學(xué)新方法，以應(yīng)對日新月異的技術(shù)發(fā)展。TinyML是一門新興技術(shù)，教學(xué)資源非常有限。因此，積極嘗試并推廣關(guān)聯(lián)學(xué)習(xí)、去中心化學(xué)習(xí)、非正式學(xué)習(xí)、想象學(xué)習(xí)等新型學(xué)習(xí)方法，搭建開放式的人工智能綜合實踐平臺，形成多元化、差異化學(xué)習(xí)個體與群體。鼓勵學(xué)生實時關(guān)注行業(yè)發(fā)展，及時將先進(jìn)的理念和優(yōu)秀的解決方案融入教學(xué)活動，去中心化的非正式學(xué)習(xí)有利于學(xué)生發(fā)揮特長，實現(xiàn)差異化發(fā)展。由于新工科領(lǐng)域往往是國家戰(zhàn)略和社會經(jīng)濟關(guān)注的熱點，人工智能相關(guān)的學(xué)科競賽水平以及行業(yè)認(rèn)證的含金量都逐年提高，為新工科專業(yè)建設(shè)提供了優(yōu)質(zhì)的資源和目標(biāo)導(dǎo)向。通過競賽和行業(yè)認(rèn)證對學(xué)生進(jìn)行差異化、個性化培養(yǎng)，是一項非常有效的措施。競賽往往自帶學(xué)科方向，通過不同學(xué)科競賽，競賽小組間的學(xué)科方向差異，潛移默化中形成學(xué)生的專業(yè)方向，能提早明確職業(yè)生涯規(guī)劃。行業(yè)認(rèn)證代表行業(yè)對該專業(yè)方向人才的技能需求，通過行業(yè)認(rèn)證能評估教學(xué)成效，使學(xué)生更貼近行業(yè)需求和新動向，有針對性地學(xué)習(xí)行業(yè)知識和技能，快速養(yǎng)成職業(yè)化思維。學(xué)科競賽和行業(yè)認(rèn)證都是推動教學(xué)改革，檢驗教學(xué)成果的有效方式，要充分利用，在不斷摸索中調(diào)整和完善教學(xué)理念和方法。

五、結(jié)束語

人工智能專業(yè)起初只是計算機科學(xué)的一個分支，發(fā)展到現(xiàn)在已經(jīng)遠(yuǎn)遠(yuǎn)超出了計算機科學(xué)的范疇，呈現(xiàn)出了多向交叉學(xué)科的特征。人工智能領(lǐng)域知識更新快，新技術(shù)應(yīng)用層出不窮。高校實踐教學(xué)可以不斷獲取更多前沿的理念和案例，但也面臨教學(xué)改革、方向選擇等諸多挑戰(zhàn)。新興專業(yè)建設(shè)需要預(yù)測行業(yè)發(fā)展的熱點，評估新技術(shù)的前景，選擇有代表性的新技術(shù)納入課程體系，應(yīng)用于實踐教學(xué)。

作者單位：張增 杭州電子科技大學(xué)信息工程學(xué)院

參? 考? 文? 獻(xiàn)

[1]張先超，任天時，趙耀，等.移動邊緣計算時延與能耗聯(lián)合優(yōu)化方法[J].電子科技大學(xué)學(xué)報，2022，51（05）：737-742.

[2]劉旭瑤，曾天凱，戴嘉慶，等.基于Tiny ML輕量化邊緣側(cè)處理的智能分類垃圾桶[J].裝備制造技術(shù)，2022（06）：110-113.

[3]C.J.Abate，君謙.什么是tinyML？[J].單片機與嵌入式系統(tǒng)應(yīng)用，2021，21（08）：1-3.

[4]C.J.Abate，禾沐.機器學(xué)習(xí)的未來——Daniel Situnayake訪談[J].單片機與嵌入式系統(tǒng)應(yīng)用，2021，21（06）：1-3，6.

[5]Markus Levy.MCU上的深度學(xué)習(xí)是邊緣計算的未來[J].中國電子商情（基礎(chǔ)電子），2020（08）：42-45.

[6]周鈺致. 邊緣計算環(huán)境中低時延高可信顯示芯片的研究與設(shè)計[D].中國科學(xué)技術(shù)大學(xué)，2020.

[7]饒偉. 基于LORA無線通信技術(shù)和MQTT協(xié)議的電力環(huán)境監(jiān)測系統(tǒng)的研究與設(shè)計[D].深圳大學(xué)，2020.

[8]宋正陽. 校園安全態(tài)勢感知與自動報警系統(tǒng)設(shè)計與實現(xiàn)[D].海南大學(xué)，2020.

基金：杭州電子科技大學(xué)信息工程學(xué)院2022年科研培育基金項目（KYP0222010）。

張增（1986.08-），女，漢族，湖北隨州，碩士研究生，助理實驗師，研究方向：人工智能，實驗室管理。