編者按:“數(shù)據(jù)是燃料、模型是引擎、算力是加速器”,這個(gè)類(lèi)比幾乎已經(jīng)成為AI領(lǐng)域的共識(shí)。但是在各地的人工智能教育經(jīng)驗(yàn)介紹中,涉及算力設(shè)備建設(shè)和管理的寥寥無(wú)幾。為什么青少年AI教育中很少有人提到“算力”?本期對(duì)話邀請(qǐng)了溫州科技高中的特級(jí)教師謝作如、上海師范大學(xué)王龔教授和上海開(kāi)源信息技術(shù)協(xié)會(huì)的章津楠先生,他們將圍繞“算力”這一話題展開(kāi)討論。
謝作如 溫州科技高中AI科創(chuàng)中心負(fù)責(zé)人,浙江省特級(jí)教師,XEdu項(xiàng)目負(fù)責(zé)人。
王 龔 上海師范大學(xué)分析測(cè)試與超算中心主任,教育部教育信息化技術(shù)標(biāo)準(zhǔn)委員會(huì)委員。
章津楠 上海開(kāi)源信息技術(shù)協(xié)會(huì)副理事長(zhǎng),OpenHydra項(xiàng)目發(fā)起人。
我們用于辦公的基本上屬于基礎(chǔ)算力,由中央處理器(CPU)組成。今天討論的算力,顯然指的是智能算力。智能算力主要由圖形處理器(GPU)、專(zhuān)用集成電路等異構(gòu)計(jì)算芯片組成,常用于處理大規(guī)模數(shù)據(jù)和復(fù)雜算法模型,如圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等。
青少年AI教育為什么需要“算力”
謝作如:兩位嘉賓好,很高興就“算力”這一話題展開(kāi)本期的對(duì)話。我是一名中小學(xué)信息技術(shù)教師,這幾年的研究重點(diǎn)就是青少年AI教育。在今年9月5日的2024Inclusion·外灘大會(huì)上,香港科技大學(xué)校董會(huì)主席、美國(guó)國(guó)家工程院外籍院士沈向洋針對(duì)“未來(lái)人工智能、大模型如何才能深入產(chǎn)業(yè)”問(wèn)題,再次強(qiáng)調(diào)了“算力、算法、數(shù)據(jù)”,并表示“講卡傷感情,沒(méi)卡沒(méi)感情”??梢?jiàn),“算力”一詞在AI領(lǐng)域絕對(duì)不能忽視,更無(wú)法回避。但有趣的是,雖然“算力”一詞處處可見(jiàn),實(shí)際上很多人并不理解。那么,AI為什么需要“算力”?二者是什么關(guān)系?能不能先請(qǐng)兩位科普一下?
章津楠:根據(jù)計(jì)算機(jī)處理能力,算力一般可劃分為基礎(chǔ)算力、智能算力和超算算力。我們用于辦公的基本上屬于基礎(chǔ)算力,由中央處理器(CPU)組成。今天討論的算力,顯然指的是智能算力。智能算力主要由圖形處理器(GPU)、專(zhuān)用集成電路等異構(gòu)計(jì)算芯片組成,常用于處理大規(guī)模數(shù)據(jù)和復(fù)雜算法模型,如圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等。現(xiàn)在AI的主流技術(shù)是神經(jīng)網(wǎng)絡(luò),數(shù)據(jù)經(jīng)過(guò)每一個(gè)神經(jīng)元節(jié)點(diǎn)都要進(jìn)行浮點(diǎn)運(yùn)算,對(duì)處理器的要求非常高。
近年來(lái),以O(shè)pen AI為代表的生成式人工智能(GenAI)席卷全球,引發(fā)了各大互聯(lián)網(wǎng)巨頭在“算力”領(lǐng)域的競(jìng)爭(zhēng)。同時(shí),國(guó)內(nèi)“智算中心”的建設(shè)正如火如荼地進(jìn)行,在全球AI競(jìng)爭(zhēng)日益激烈的當(dāng)下,算力已經(jīng)成為AI時(shí)代的“戰(zhàn)略儲(chǔ)備”——宛如當(dāng)年電氣時(shí)代的“石油”。據(jù)權(quán)威報(bào)告統(tǒng)計(jì),基礎(chǔ)算力、智能算力、超算算力分別呈現(xiàn)穩(wěn)定增長(zhǎng)、迅速增長(zhǎng)、持續(xù)增長(zhǎng)的態(tài)勢(shì),2016—2024年的年平均增速分別達(dá)18.99%、78.97%、23.45%,預(yù)計(jì)到2026年,我國(guó)智能算力規(guī)模將達(dá)到561EFlops,我國(guó)所有數(shù)據(jù)中心所需年耗電量至少達(dá)到6000億千瓦時(shí),數(shù)據(jù)中心耗電量占我國(guó)用電量比重預(yù)計(jì)將從2016年的1.86%增長(zhǎng)至2026年的6.06%。未來(lái),算力就是推動(dòng)AI新時(shí)代的能源。
王龔:我補(bǔ)充一點(diǎn)。AI的技術(shù)路線非常多,其中比較知名的技術(shù)方式就是神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是通過(guò)模擬人類(lèi)的神經(jīng)元系統(tǒng)對(duì)輸入的數(shù)據(jù)進(jìn)行學(xué)習(xí),實(shí)現(xiàn)對(duì)數(shù)據(jù)模式的識(shí)別與數(shù)據(jù)結(jié)果的預(yù)測(cè)。在實(shí)際運(yùn)行過(guò)程中,輸入的數(shù)據(jù)量甚至?xí)_(dá)到萬(wàn)億字節(jié)級(jí)別。如此大量的數(shù)據(jù),帶來(lái)的是龐大的運(yùn)算壓力,在AI發(fā)展的初期,一次數(shù)據(jù)學(xué)習(xí)(模型訓(xùn)練)可能需要幾天甚至幾個(gè)月的時(shí)間。今年獲得諾貝爾物理學(xué)獎(jiǎng)的杰弗里·辛頓,在他對(duì)AI的研究過(guò)程中也長(zhǎng)期受到了運(yùn)算壓力的掣肘,直到GPU算力的出現(xiàn)。起初辛頓也不相信GPU能夠賦能AI的發(fā)展,多次拒絕了學(xué)生使用GPU的建議。但在2008年首次使用了GPU后,辛頓改變了他的觀點(diǎn),開(kāi)始主動(dòng)使用GPU進(jìn)行研究,并在2012年引起了AI革命。
謝作如:感謝兩位的科普,的確,沒(méi)有算力的發(fā)展就沒(méi)有AI的發(fā)展。雖然在基礎(chǔ)教育階段,AI教育還不是一門(mén)獨(dú)立的課程,但是一些先行一步的地區(qū)已經(jīng)開(kāi)始做積極的探索,力度較大的地區(qū)如深圳、廣州、武漢、青島、溫州等。2023年7月,深圳市發(fā)布《深圳市推進(jìn)中小學(xué)人工智能教育工作方案》,提出要大力促進(jìn)AI與教育教學(xué)深度融合,著力培育具有AI創(chuàng)新潛質(zhì)的青少年群體。2024年9月,上海市發(fā)布了《上海市推進(jìn)實(shí)施人工智能賦能基礎(chǔ)教育高質(zhì)量發(fā)展的行動(dòng)方案(2024—2026年)》,在四年級(jí)和七年級(jí)開(kāi)設(shè)AI地方課程。我相信接下來(lái)國(guó)內(nèi)各個(gè)省份都會(huì)有所動(dòng)作,紛紛出臺(tái)政策。
但是,我們也要清楚地認(rèn)識(shí)到一點(diǎn),那就是當(dāng)前基礎(chǔ)教育中AI教育似乎并不“關(guān)心”算力。據(jù)不完全調(diào)查,即使在北上廣深之類(lèi)的一線大城市中,學(xué)校中購(gòu)置算力服務(wù)器的也寥寥無(wú)幾,建設(shè)帶GPU的機(jī)房就更少了。王龔教授對(duì)基礎(chǔ)教育非常熟悉,曾有過(guò)上海教委信息化處的工作經(jīng)歷。請(qǐng)您來(lái)分析一下,青少年AI教育不“關(guān)心”算力的背后,可能是哪些原因引起的?
王龔:當(dāng)前青少年AI教育不“關(guān)心”算力的現(xiàn)象背后有著諸多原因,我簡(jiǎn)要總結(jié)為“一個(gè)認(rèn)識(shí)”與“兩個(gè)困難”。
AI領(lǐng)域在這幾年中蓬勃發(fā)展,帶動(dòng)了青少年AI教育從最開(kāi)始注重編程和過(guò)程控制,過(guò)渡到符號(hào)主義,又進(jìn)步到深度學(xué)習(xí),現(xiàn)在逐漸形成以大模型為核心的教育體系,AI教育的發(fā)展相當(dāng)快速。但是,部分教育工作者對(duì)AI教育的認(rèn)識(shí)還停留在原地,如部分教師仍認(rèn)為AI教育就是編程教育或者是機(jī)器人教育。與過(guò)去的AI教育相比,當(dāng)前AI教育更為復(fù)雜,如2022年發(fā)布的《義務(wù)教育信息科技課程標(biāo)準(zhǔn)(2022年版)》就將“算力+數(shù)據(jù)+算法”稱(chēng)為AI的三大技術(shù)基礎(chǔ)。但倘若教師對(duì)AI的認(rèn)識(shí)不足,那自然會(huì)產(chǎn)生對(duì)“算力”不關(guān)心的現(xiàn)象。
從實(shí)際困難來(lái)看,基礎(chǔ)教育人才與經(jīng)費(fèi)的短缺也造成了青少年AI教育主動(dòng)地不“關(guān)心”算力。首先,算力作為新型基礎(chǔ)設(shè)施,需要管理人員具備一定的專(zhuān)業(yè)知識(shí),而基礎(chǔ)教育機(jī)構(gòu)內(nèi)不一定具備相應(yīng)的人才,這對(duì)算力的運(yùn)維產(chǎn)生了阻礙。其次,算力本身的購(gòu)置成本比較高,機(jī)構(gòu)的經(jīng)費(fèi)或難以負(fù)擔(dān)算力的支出,這對(duì)算力的獲取產(chǎn)生了阻礙。目前,很多地方的政府在教育投入項(xiàng)目中并沒(méi)有算力方面的預(yù)算。因此,就算部分基礎(chǔ)教育工作者認(rèn)識(shí)到了算力對(duì)青少年AI教育的重要性,但仍然會(huì)迫于現(xiàn)實(shí)困難主動(dòng)地忽略算力。
謝作如:王教授的分析非常到位。在上一次對(duì)話(本刊2024年第16期《走向國(guó)際共識(shí)的中小學(xué)AI教育》)中,我強(qiáng)調(diào)了AI實(shí)驗(yàn)在AI教育中的重要地位。這里的AI實(shí)驗(yàn)包括模型訓(xùn)練和推理。我一直認(rèn)為AI教育需要解決兩大問(wèn)題,一是“AI如何工作”,二是“智能如何產(chǎn)生”。前者關(guān)注的是模型推理,后者強(qiáng)調(diào)的是模型訓(xùn)練。 但遺憾的是,目前包括高校在內(nèi),很多AI通識(shí)課往往僅滿足于理論的講解,而沒(méi)有實(shí)際操作。很多人甚至以為會(huì)寫(xiě)提示詞和大模型對(duì)話就是AI教育的核心內(nèi)容。如果不去考慮“智能如何產(chǎn)生”,算力自然就不重要了。相對(duì)來(lái)說(shuō),訓(xùn)練模型對(duì)算力的需求比較高。
章津楠先生還有一個(gè)身份——知名的私有云企業(yè)創(chuàng)始人,并且長(zhǎng)期負(fù)責(zé)智算業(yè)務(wù)。有很多高校購(gòu)買(mǎi)過(guò)他們的服務(wù)。我想請(qǐng)章先生介紹一下,在您的客戶中有沒(méi)有來(lái)自基礎(chǔ)教育的,也就是說(shuō)有沒(méi)有為中小學(xué)的客戶做過(guò)算力業(yè)務(wù)?從您了解到的信息判斷,中小學(xué)如果購(gòu)買(mǎi)并維護(hù)一臺(tái)算力服務(wù)器,可能會(huì)遇到哪些困難?
章津楠:坦白而言,現(xiàn)在教育領(lǐng)域的算力主要集中應(yīng)用于頂級(jí)學(xué)府,基礎(chǔ)教育的算力資源相當(dāng)匱乏,幾乎沒(méi)有像樣的GPU資源。幾乎沒(méi)有在中小學(xué)中看到有GPU設(shè)備,就連教育管理部門(mén)也不多見(jiàn)。而且即使有GPU資源,也不是用于AI教育的。
對(duì)于一所高校來(lái)說(shuō),購(gòu)買(mǎi)GPU服務(wù)器僅僅是萬(wàn)里長(zhǎng)征的第一步。從GPU服務(wù)器到實(shí)際應(yīng)用于AI研究,教師和學(xué)校需投入大量精力在AI環(huán)境搭建和準(zhǔn)備上。因?yàn)樯嘀嗌伲鱾€(gè)項(xiàng)目組還需要排隊(duì)搶占資源。這種場(chǎng)景讓人不禁想起當(dāng)年IBM大型機(jī)排隊(duì)使用的日子。從目前我走訪的中小學(xué)來(lái)看,中小學(xué)的AI水平處于“完全無(wú)知”的狀態(tài),無(wú)基礎(chǔ)算力資源,無(wú)教師來(lái)維護(hù),更別提需要在算力的基礎(chǔ)上有一套專(zhuān)業(yè)的工具支撐AI教學(xué)。中小學(xué)即使有經(jīng)費(fèi)購(gòu)買(mǎi)了算力服務(wù)器,根據(jù)目前的師資能力,也無(wú)法有效利用GPU算力來(lái)開(kāi)展對(duì)應(yīng)的AI教學(xué)。建議先開(kāi)展師資培訓(xùn),在讓教師對(duì)算力、算法和模型有一定的了解之后,再開(kāi)啟AI教育的征途。
青少年AI教育如何破解算力難題
謝作如:章先生的確是算力行業(yè)內(nèi)的專(zhuān)家,一下子就切中了要點(diǎn)。我在溫州中學(xué)工作過(guò)很多年,去年才轉(zhuǎn)崗到溫州科技高中。我分別在2021年和2023年,為這兩所學(xué)校購(gòu)買(mǎi)了算力服務(wù)器,用的是NVIDIA tesal T4 顯卡。我購(gòu)買(mǎi)算力服務(wù)器的理由很簡(jiǎn)單,因?yàn)閷W(xué)校開(kāi)展人工智能課程,學(xué)生一旦掌握了深度學(xué)習(xí)模型算力的流程,就會(huì)有一種“沖動(dòng)”,希望通過(guò)收集數(shù)據(jù)集訓(xùn)練各種模型,去解決一些生活中的真實(shí)問(wèn)題。如果沒(méi)有算力服務(wù)器,很多模型訓(xùn)練的工作沒(méi)法正常進(jìn)行。要注意,這不僅僅是訓(xùn)練速度“慢”的問(wèn)題,而是很多模型的訓(xùn)練框架就沒(méi)有考慮非GPU的環(huán)境,如AI翻唱方向的VITS模型,計(jì)算機(jī)視覺(jué)中的分割、超分、關(guān)鍵點(diǎn)等模型。
記得有一次和信息科技課標(biāo)組的一位專(zhuān)家討論“算力”的問(wèn)題,他提出可以用租商業(yè)算力的方式來(lái)解決。的確,為了訓(xùn)練VITS模型,我曾經(jīng)購(gòu)買(mǎi)過(guò)商業(yè)公司的算力,還寫(xiě)了一篇題為《借助商業(yè)服務(wù)破解AI科創(chuàng)活動(dòng)的算力難題》的文章,發(fā)表在《中國(guó)信息技術(shù)教育》雜志上。但即使有過(guò)這樣的經(jīng)歷,我還是堅(jiān)持認(rèn)為中小學(xué)實(shí)施AI教育,需要配備算力服務(wù)器。我想考一下章先生,請(qǐng)您猜測(cè)一下,可能是什么原因?qū)е挛覉?jiān)持這樣的觀點(diǎn)?
章津楠:從這段時(shí)間接觸智算業(yè)務(wù)的情況來(lái)看,首先從預(yù)算的角度來(lái)看,高校、科研院所對(duì)按月付費(fèi)的方式還是有一定自由度的,有條件按照租賃的方式支出對(duì)應(yīng)的科研經(jīng)費(fèi)。而從基礎(chǔ)教育來(lái)看,則沒(méi)有類(lèi)似的經(jīng)費(fèi)來(lái)支撐算力的租賃服務(wù),也就是沒(méi)有專(zhuān)項(xiàng)的經(jīng)費(fèi)。其次,基礎(chǔ)教育的大部分學(xué)習(xí)任務(wù)要在40分鐘的課堂上完成,如果算力在云端,大量的訓(xùn)練數(shù)據(jù)要從本地上傳到服務(wù)器,這對(duì)于基礎(chǔ)教育的課堂來(lái)說(shuō)幾乎是災(zāi)難——一堂課大部分時(shí)間都在解決網(wǎng)絡(luò)的傳輸問(wèn)題。最后,從數(shù)據(jù)安全和可控的角度來(lái)看,算力放置到學(xué)校內(nèi)或者教育網(wǎng)內(nèi)相對(duì)來(lái)說(shuō)內(nèi)容更加可控。
王龔:我補(bǔ)充兩點(diǎn)我的想法。第一,云端算力的使用有賴(lài)于網(wǎng)絡(luò)環(huán)境的支撐,當(dāng)前基礎(chǔ)教育學(xué)校在教育數(shù)字化轉(zhuǎn)型過(guò)程中面臨著“網(wǎng)絡(luò)限制”,也正是因?yàn)榇?,《教育部等六部門(mén)關(guān)于推進(jìn)教育新型基礎(chǔ)設(shè)施建設(shè)構(gòu)建高質(zhì)量教育支撐體系的指導(dǎo)意見(jiàn)》中才將信息網(wǎng)絡(luò)新型基礎(chǔ)設(shè)施作為核心任務(wù)之一,如果區(qū)域的教育部門(mén)在該區(qū)域內(nèi)為基礎(chǔ)教育學(xué)校保障了良好的網(wǎng)絡(luò)環(huán)境,能夠保障師生在40分鐘課堂教學(xué)的過(guò)程中高效便捷地獲取算力支撐,那么云端算力授課倒不失為一個(gè)好選擇。
第二,由運(yùn)營(yíng)商通過(guò)“云、網(wǎng)、邊、端”的模式對(duì)學(xué)校提供算力保障服務(wù)。上海在“十四五”期間構(gòu)建的教育虛擬專(zhuān)網(wǎng)方案就能較好地解決網(wǎng)絡(luò)算力保障問(wèn)題,通過(guò)專(zhuān)網(wǎng)在部分關(guān)鍵節(jié)點(diǎn)部署邊緣計(jì)算的算力服務(wù)器,減少延遲和傳輸壓力。當(dāng)然,我也認(rèn)為,有條件的學(xué)校還是可以購(gòu)買(mǎi)本地的算力服務(wù)器用以支撐校內(nèi)的AI教學(xué)。通過(guò)網(wǎng)絡(luò)與終端的靈活配置,由專(zhuān)業(yè)的人做專(zhuān)業(yè)的事情,實(shí)現(xiàn)更靈活、穩(wěn)定的AI教育支持。
謝作如:章先生的分析和我的真實(shí)想法基本一致。在大班教學(xué)的環(huán)境中,穩(wěn)定的教學(xué)環(huán)境是基本條件,何況購(gòu)買(mǎi)了云端算力還需要搭建環(huán)境。王教授的補(bǔ)充,實(shí)際上已經(jīng)給出了解決“算力”難題的一種方案。我們可以梳理一下,沒(méi)有算力,無(wú)法深入實(shí)施AI教育,除非我們滿足于淺嘗輒止,但為什么在基礎(chǔ)教育中“算力”成為難題?其一,購(gòu)買(mǎi)算力服務(wù)器需要經(jīng)費(fèi),規(guī)模小的學(xué)校承擔(dān)不起這筆費(fèi)用;其二,即使購(gòu)買(mǎi)了算力服務(wù)器,也需要好的管理產(chǎn)品。王教授的方案,實(shí)際上是為規(guī)模較小的學(xué)校提供了算力解決方案。
我是在2019年底開(kāi)始自學(xué)神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的。至今還清晰地記得,第一次對(duì)“算力”產(chǎn)生需求是用循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)訓(xùn)練自動(dòng)作詩(shī)機(jī)的案例。那時(shí)候是2020年初,很感謝浙大的“智海-Mo”平臺(tái)不僅幫我解決環(huán)境搭建的難題,還提供了免費(fèi)的GPU算力,讓我從10小時(shí)訓(xùn)練時(shí)間降低為1小時(shí)。從那之后,我就特別關(guān)心AI教育中如何解決算力的問(wèn)題。
王教授是上海師范大學(xué)的分析測(cè)試與超算中心主任。顧名思義,“超算中心”顯然是管理學(xué)校算力設(shè)備的。王教授您來(lái)介紹一下上海師范大學(xué)的算力建設(shè),如何為不同院系提供算力?提供的是哪些AI環(huán)境(系統(tǒng)軟件)?
王龔:上海師范大學(xué)是上海市重點(diǎn)建設(shè)高校,是一所以文科見(jiàn)長(zhǎng)并具教師教育特色的文、理、工、藝等學(xué)科協(xié)調(diào)發(fā)展的綜合性大學(xué),學(xué)?,F(xiàn)擁有90余所附屬學(xué)校,為上海各類(lèi)各級(jí)教育機(jī)構(gòu)輸送了大量教師與管理者,今年正值學(xué)校70周年校慶。因?yàn)殛P(guān)注到AI對(duì)教育未來(lái)會(huì)產(chǎn)生的深遠(yuǎn)影響,學(xué)校成立了分析測(cè)試與超算中心,我也是剛剛調(diào)任中心不久。前期,受益于中心的算力支持,學(xué)校發(fā)布了全國(guó)第一個(gè)教師教育大模型MetaClass,獲得了社會(huì)的廣泛關(guān)注。超算中心擁有獨(dú)立的機(jī)房,提供的AI環(huán)境很多,除了常見(jiàn)的Pytorch、Tensorflow、Paddle和MXNet等,還有一些科研領(lǐng)域常用的環(huán)境(AI for Science),如AIphafold2。
謝作如:聽(tīng)說(shuō)王教授正在做一個(gè)非常重大的政府項(xiàng)目,這個(gè)項(xiàng)目有助于破解上?;A(chǔ)教育的算力難題,能具體介紹一下嗎?
王龔:目前我所任職的超算中心正在積極聯(lián)絡(luò)和整合社會(huì)資源,構(gòu)建上海教育算力平臺(tái)以應(yīng)對(duì)上?;A(chǔ)教育面臨的“算力從哪里來(lái),算力到哪里去(怎么送到使用者手上去),算力該怎么用”三大難題,也分別對(duì)應(yīng)了硬件設(shè)施、傳輸網(wǎng)絡(luò)、使用平臺(tái)三大部分。
算力是應(yīng)用與學(xué)習(xí)人工智能的必要基礎(chǔ)設(shè)施,基礎(chǔ)教育的首要難題是如何獲取可靠穩(wěn)定的算力支撐。 中心一方面積極聯(lián)絡(luò)算力廠商打造教育領(lǐng)域的專(zhuān)用算力基礎(chǔ)設(shè)施,另一方面積極對(duì)接算力云企業(yè)以算力共享的方式將現(xiàn)有的算力設(shè)施直接引入教育領(lǐng)域,雙管齊下穩(wěn)步打造教育領(lǐng)域算力基礎(chǔ)設(shè)施,從而規(guī)避高昂的投資成本、過(guò)長(zhǎng)的建設(shè)周期等現(xiàn)實(shí)問(wèn)題對(duì)當(dāng)前人工智能教育實(shí)施造成的影響??梢灶A(yù)見(jiàn)的是,在教育領(lǐng)域?qū)S盟懔σ?guī)模達(dá)到一定標(biāo)準(zhǔn)前,采購(gòu)云端算力、算力共享等方案仍然是當(dāng)下最主要的解決方案。
在打造教育領(lǐng)域算力基礎(chǔ)設(shè)施的過(guò)程中,中心同步對(duì)接了基礎(chǔ)電信運(yùn)營(yíng)商,籌備建設(shè)算力使用者以及實(shí)際算力之間的數(shù)據(jù)傳輸網(wǎng)絡(luò),推進(jìn)前面提到的教育虛擬專(zhuān)網(wǎng)方案落地。除去部分有條件建設(shè)本地算力的教育機(jī)構(gòu),所有采用算力共享、購(gòu)買(mǎi)云端算力方案的機(jī)構(gòu)都需要評(píng)估自身網(wǎng)絡(luò)環(huán)境是否能夠支撐中小學(xué)課堂教學(xué)的需求,如在實(shí)際課堂教學(xué)過(guò)程中師生能否穩(wěn)定地獲取算力完成任務(wù)。教育網(wǎng)絡(luò)環(huán)境的建設(shè)需要大量的投資,短時(shí)間內(nèi)恐怕難以滿足所有學(xué)校的算力訪問(wèn)需求。借助5G等新技術(shù)的使用,中心聯(lián)合基礎(chǔ)電信運(yùn)營(yíng)商,嘗試組建教育領(lǐng)域的5G移動(dòng)專(zhuān)網(wǎng),快速部署滿足支持算力使用的靈活網(wǎng)絡(luò)環(huán)境。
最后,當(dāng)算力送到了師生手中時(shí),師生應(yīng)該如何使用算力?教師在教學(xué)過(guò)程中又如何對(duì)學(xué)生的算力使用進(jìn)行管理?目前,中心接洽了OpenHydra項(xiàng)目組,引入了開(kāi)源AI教學(xué)平臺(tái)OpenHydra,幫助師生在課堂中使用算力。
章津楠:我很高興地聽(tīng)到OpenHydra將成為上海師大算力設(shè)施中核心環(huán)境的好消息。我和謝老師都是OpenHydra項(xiàng)目的發(fā)起人之一,見(jiàn)證了其發(fā)布和迭代的所有過(guò)程。OpenHydra是一個(gè)開(kāi)源項(xiàng)目,旨在為AI教育提供一個(gè)開(kāi)箱即用的學(xué)習(xí)與實(shí)踐平臺(tái)。OpenHydra的使命是“用開(kāi)源的方式助力AI教育”,愿景是“讓每個(gè)孩子學(xué)習(xí)真正的AI,讓教師家長(zhǎng)了解真正的AI,讓每個(gè)學(xué)校都能開(kāi)出AI課程”。
謝作如:章先生的介紹讓我回憶起當(dāng)時(shí)討論OpenHydra項(xiàng)目的一些細(xì)節(jié)。我一開(kāi)始僅僅希望中小學(xué)有一個(gè)能切分算力的工具,能把一張卡分給多個(gè)學(xué)生同時(shí)使用。后來(lái)終于意識(shí)到自己的想法過(guò)于簡(jiǎn)單,對(duì)中小學(xué)教師來(lái)說(shuō)需要的是一個(gè)完整的解決方案,而不是一個(gè)小程序,畢竟他們不是專(zhuān)業(yè)的服務(wù)器維護(hù)人員或者開(kāi)發(fā)工程師,最好能做到一鍵啟動(dòng),開(kāi)箱即用。因此,將OpenHydra定位成一個(gè)AI教學(xué)環(huán)境是準(zhǔn)確的。實(shí)際上OpenHydra不僅僅是為中小學(xué)的AI教育設(shè)計(jì),同時(shí)也適合中高職甚至大學(xué)。據(jù)我了解,在國(guó)內(nèi)大學(xué)中也就浙江大學(xué)有“智海平臺(tái)”、華東師大有“水杉在線”,很多高校的算力服務(wù)器并不考慮AI通識(shí)課的教學(xué)。
作為國(guó)內(nèi)的開(kāi)源文化愛(ài)好者和踐行者,我主編了浙江教育出版社出版的高中信息技術(shù)國(guó)家課程教材《開(kāi)源硬件項(xiàng)目設(shè)計(jì)》,和幾位教育創(chuàng)客共同發(fā)起了開(kāi)源硬件“掌控板”項(xiàng)目,但我還是很好奇,您為什么會(huì)想到將這個(gè)項(xiàng)目開(kāi)源?對(duì)于大部分IT企業(yè)來(lái)說(shuō),OpenHydra這個(gè)項(xiàng)目幾乎是填補(bǔ)空白的一個(gè)軟件,怎么舍得開(kāi)源?
章津楠:首先我跟謝老師一樣,是一個(gè)開(kāi)源文化愛(ài)好者,也是受益者。開(kāi)源本身也是自己長(zhǎng)期投入的一個(gè)方向和愛(ài)好。其次,開(kāi)源本身是一種很好的分發(fā)和推廣的方式,通過(guò)開(kāi)源的方式可以快速推廣和普及。在不同領(lǐng)域都有知名的開(kāi)源項(xiàng)目,如操作系統(tǒng)領(lǐng)域的Linux,手機(jī)操作系統(tǒng)領(lǐng)域的Android,云計(jì)算領(lǐng)域的OpenStack、K8S,大模型領(lǐng)域的LLaMa等,都是借助開(kāi)源的方式,快速形成以此開(kāi)源軟件為生態(tài)圈的周邊軟硬件發(fā)展,從而進(jìn)一步降低了使用門(mén)檻和可獲得性。最后,AI的快速發(fā)展也是依賴(lài)于開(kāi)源,如開(kāi)源的算法、開(kāi)放的模型。算力相關(guān)軟件也需要保持更加開(kāi)源、開(kāi)放的方式,從而讓更多的人以更低成本、更好地接觸AI、了解AI、創(chuàng)造AI。
青少年AI教育需要國(guó)產(chǎn)算力設(shè)備的支持
謝作如:對(duì)于大部分人來(lái)說(shuō),算力是一個(gè)全新的名詞。以我為例,居然是在2021年才知道“GPU”指的是英偉達(dá)的顯卡。也就是說(shuō),并非所有的顯卡都能叫做“GPU”。因此,我在談起“算力”問(wèn)題的時(shí)候,常常要回答是不是只能買(mǎi)英偉達(dá)顯卡設(shè)備的問(wèn)題。
我在上海人工智能實(shí)驗(yàn)室主持開(kāi)發(fā)XEdu項(xiàng)目的時(shí)候,就一直在思考XEdu如何與國(guó)產(chǎn)算力設(shè)備結(jié)合的問(wèn)題。兩位都是算力設(shè)備方面的專(zhuān)家,能不能分析一下國(guó)產(chǎn)算力如何應(yīng)用于中小學(xué)的AI教育?
章津楠:國(guó)產(chǎn)算力目前還處于初級(jí)階段,目前更需要市場(chǎng)去應(yīng)用和實(shí)踐,從而打磨好軟硬件的生態(tài)。目前OpenHydra和XEdu已經(jīng)著手在適配沐曦、曙光DCU、華為昇騰等廠商。雖然在適配過(guò)程中也有不少問(wèn)題,但可以明顯感受到國(guó)產(chǎn)算力企業(yè)在積極配合,他們也在努力構(gòu)建自己的開(kāi)源生態(tài)。在當(dāng)下,通過(guò)AI教育來(lái)促進(jìn)國(guó)產(chǎn)算力企業(yè)的生態(tài)建設(shè),應(yīng)該是一個(gè)很好的契機(jī)。中小學(xué)(包括中高職在內(nèi)的初學(xué)者)的AI教育對(duì)算力要求沒(méi)那么高,一般會(huì)選擇成熟的模型或者開(kāi)發(fā)框架,因此在投入不大的情況下,也能快速打磨和適配整個(gè)國(guó)產(chǎn)化軟硬件開(kāi)源生態(tài)圈。在此,我也呼吁國(guó)產(chǎn)算力的企業(yè)能更加關(guān)心AI通識(shí)教育的算力切分、AI教學(xué)場(chǎng)景的開(kāi)源生態(tài)建設(shè),提高AI基礎(chǔ)教育中問(wèn)題的優(yōu)先級(jí),為中國(guó)的AI人才培養(yǎng)提供更好的算力支持土壤。
王龔:沐曦、曙光DCU、華為昇騰等國(guó)產(chǎn)算力企業(yè)經(jīng)過(guò)這幾年的努力發(fā)展,產(chǎn)品逐步成熟穩(wěn)定。不論從產(chǎn)品供給、技術(shù)支撐或是成本考量的角度來(lái)看,采用國(guó)產(chǎn)算力構(gòu)建我國(guó)教育領(lǐng)域?qū)S盟懔A(chǔ)設(shè)施是非??扇〉姆较?。當(dāng)前,上海師范大學(xué)的超算中心也與國(guó)產(chǎn)算力企業(yè)開(kāi)展了密切的合作,企業(yè)愿意在建設(shè)初期先行進(jìn)行算力投入,加快教育專(zhuān)用算力基礎(chǔ)設(shè)施的建設(shè)。我們團(tuán)隊(duì)也在與國(guó)家(上海)互聯(lián)網(wǎng)交換中心共同推進(jìn)《教育行業(yè)跨主體、多元異構(gòu)算力交互技術(shù)要求》,并在申報(bào)國(guó)家標(biāo)準(zhǔn),以期實(shí)現(xiàn)異構(gòu)算力的無(wú)縫調(diào)用。
謝作如:俗話說(shuō),隔行如隔山。一開(kāi)始我并不了解國(guó)產(chǎn)算力設(shè)備的使用還存在軟件生態(tài)的問(wèn)題。在設(shè)計(jì)XEdu的時(shí)候,我們并沒(méi)有想到環(huán)境搭建是如此復(fù)雜。但“無(wú)心插柳柳成蔭”,居然為國(guó)產(chǎn)算力企業(yè)的普及應(yīng)用提供了新的解決方案,這一點(diǎn)很振奮人心。從AI通識(shí)教育入手,國(guó)產(chǎn)算力企業(yè)也許可以走出一條不一樣的路來(lái)。
感謝王龔教授,也感謝章津楠先生。我們今天的對(duì)話焦點(diǎn)雖然圍繞著中小學(xué),實(shí)際上具有普適價(jià)值。從基礎(chǔ)教育到職業(yè)教育,乃至普通高等教育,相信本期的對(duì)話對(duì)AI通識(shí)教育的實(shí)施都會(huì)有一定的參考價(jià)值。
章津楠是我的學(xué)弟,是一家私有云企業(yè)的聯(lián)合創(chuàng)始人。去年九月份,經(jīng)溫州大學(xué)的一位老師引薦,我們?cè)谛靺R西岸見(jiàn)面。那天恰好有一位做機(jī)器人教育的朋友來(lái)找我,我們?nèi)嗽趯?shí)驗(yàn)室的五樓聊AI教育。我介紹了自己對(duì)中小學(xué)AI教育的理解,介紹了開(kāi)箱即用的AI開(kāi)發(fā)工具XEdu,同時(shí)也介紹了浦育平臺(tái)的缺陷——無(wú)法支持商業(yè)算力,注定難以支撐日益增長(zhǎng)的AI教育需求。
那段時(shí)間,我一直在尋找一款簡(jiǎn)單易用的算力切分工具,即能夠把一塊GPU“分割”為多塊。因?yàn)橹行W(xué)不可能為每一個(gè)學(xué)生都分配一張GPU,也不可能讓學(xué)生排隊(duì)使用。那天,做機(jī)器人教育的朋友不認(rèn)同我的觀點(diǎn),說(shuō)中小學(xué)教師不可能教學(xué)生訓(xùn)練模型,水平遠(yuǎn)遠(yuǎn)達(dá)不到,而且也沒(méi)有必要學(xué)這些。章津楠當(dāng)時(shí)沒(méi)有表態(tài),這讓我很沮喪。想不到兩個(gè)月后的第二次見(jiàn)面,他就給我?guī)?lái)了好消息:我想要的工具他能做,已經(jīng)有了雛形,而且準(zhǔn)備開(kāi)源。于是,就有了OpenHydra項(xiàng)目的故事。
認(rèn)識(shí)王龔教授則是因?yàn)镈FRobot朋友的介紹。王教授和我有很多共同的喜好。例如,我們都欣賞DFRobot的產(chǎn)品,又很嫌棄他們慢條斯理的工作風(fēng)格;我們都喜歡行空板,但又嫌棄行空板“柔弱”的算力。我認(rèn)識(shí)很多高校教育領(lǐng)域的教授,但對(duì)算力有深入研究的很少,于是與王教授相見(jiàn)如故。無(wú)論是開(kāi)發(fā)XEdu還是OpenHydra,他都能給我們很多建議,對(duì)接各種資源。第一屆中小學(xué)人工智能與創(chuàng)客教育大會(huì)也因?yàn)樗闹С侄靡猿晒εe辦。
回顧自己這幾年推廣AI教育的經(jīng)歷,遇到很多挫折也結(jié)識(shí)了好多朋友。一個(gè)人的力量是有限的,但會(huì)因?yàn)椴煌说募尤攵玫椒糯?。?chuàng)客教育如此,人工智能教育也是如此。感謝每一位為AI教育付出努力的朋友!