XEduLLM：讓大模型進入中小學(xué)信息科技課

摘要：生成式人工智能的迅速崛起備受教育的關(guān)注，信息科技教師希望在課堂中應(yīng)用大模型，讓學(xué)生熟悉提示詞，但受限于條件而難以實現(xiàn)。本文分析了在課堂上使用大模型的不同解決方案，并重點介紹使用開源Python庫XEduLLM，讓教師搭建一個大模型服務(wù)，這樣不僅能夠讓學(xué)生在課堂上研究大模型的提示詞，還能夠讓學(xué)生隨時隨地借助大模型自主學(xué)習(xí)。

關(guān)鍵詞：大模型；GenAI；XEdu

中圖分類號：G434 文獻標識碼：A 論文編號：1674-2117（2024）15-0089-03

自O(shè)penAI推出ChatGPT以來，生成式人工智能迅速崛起，展現(xiàn)出令人矚目的巨大潛力。很多教師都很想為學(xué)生上一節(jié)關(guān)于大語言模型和提示詞（Prompt）的課程，讓他們真實了解當前人工智能的發(fā)展現(xiàn)狀，并借助大模型自主學(xué)習(xí)?？上б蚓W(wǎng)絡(luò)監(jiān)管的要求，任何大模型的使用都需要實名認證，而大部分中小學(xué)不允許學(xué)生帶手機，很難做到在課堂上正常登錄國內(nèi)各種大模型服務(wù)，因而無法通過不同提示詞研究大模型。

在課堂上使用大模型的不同解決方案

2023年，筆者曾為學(xué)生上過一節(jié)與ChatGPT相關(guān)的課，其過程是將自己和ChatGPT的對話過程全部導(dǎo)出?，F(xiàn)在，國內(nèi)各大AI企業(yè)相繼發(fā)布了大模型，其功能都可圈可點，已經(jīng)具備了國產(chǎn)大模型走進中小學(xué)課堂的基本條件。為了能開展大模型的教學(xué)，教師們可謂使出渾身解數(shù)，筆者將他們的操作簡要概括為三種方式。

方式1：批量注冊大模型的測試賬號

為上課的學(xué)生每人提供一個測試賬號，這看起來有點笨，其實是一種可行的方法。一般來說，一個班級數(shù)十人，幾位教師找一個支持郵箱注冊的網(wǎng)絡(luò)服務(wù)同時申請，也能很快完成。之前執(zhí)教電子郵件之類的內(nèi)容，有些教師就用這樣的方式解決實名認證的問題。

方式2：在局域網(wǎng)搭建本地大模型服務(wù)

有些經(jīng)費充足的學(xué)校會直接購買一臺AI一體機（指非集群工作的單臺服務(wù)器），內(nèi)置了大模型的相關(guān)服務(wù)。有一定技術(shù)能力且擁有高性能工作站的教師，往往也會采用自主搭建大模型服務(wù)的方式。因為隨著技術(shù)的快速迭代，已經(jīng)出現(xiàn)了多種在本地搭建大模型服務(wù)的工具，技術(shù)難度并不高。例如，Ollama是一個開源的大型語言模型服務(wù)工具，通過簡單的安裝指令，它可以讓用戶執(zhí)行一條命令就在本地運行開源大型語言模型。但是這種方式還需要教師自主開發(fā)一個Web服務(wù)。

方式3：利用API開發(fā)網(wǎng)絡(luò)中轉(zhuǎn)服務(wù)

在ChatGPT剛剛出來的時候，有很多企業(yè)開發(fā)了提供中轉(zhuǎn)服務(wù)的App或者網(wǎng)絡(luò)應(yīng)用，可是使用這些App依然需要實名認證，同樣無法解決課堂教學(xué)的問題。有能力的教師會借助AI企業(yè)提供的API服務(wù)，自主開發(fā)一個網(wǎng)絡(luò)中轉(zhuǎn)服務(wù)。這里的“網(wǎng)絡(luò)中轉(zhuǎn)服務(wù)”指教師自己開發(fā)一個網(wǎng)頁，利用Flask、FastAPI，結(jié)合Requests庫，做一個類似網(wǎng)關(guān)的服務(wù)。

這三種方式的比較分析如右表所示。相對來說，利用大模型企業(yè)提供的API服務(wù)，用網(wǎng)絡(luò)中轉(zhuǎn)方式讓多人共享是一種值得推薦的方案。

XEduLLM的功能簡介和基礎(chǔ)應(yīng)用

XEduLLM是XEdu系列工具之一，為開發(fā)者提供了簡便統(tǒng)一的方式來與大語言模型進行交互和微調(diào)，旨在幫助信息科技教師開展以大模型為內(nèi)容的教學(xué)。XEduLLM的出現(xiàn)讓開發(fā)者可以便捷地在自己的應(yīng)用程序中加入大模型對話的功能，特別是在教學(xué)場景中教師可以利用XEduLLM提供一個API網(wǎng)絡(luò)中轉(zhuǎn)服務(wù)。

1.啟動大模型網(wǎng)絡(luò)中轉(zhuǎn)服務(wù)的基本步驟

（1）獲取API密鑰

國內(nèi)外知名的大語言模型基本上都提供了API服務(wù)，這里以“智譜清言GLM”為例，訪問其官網(wǎng)（open.bigmodel.cn）進行注冊登錄，隨后點擊右上角的“API密鑰”，再點擊“添加新的API key”，獲取到的就是每個人獨一無二的API密鑰，將在應(yīng)用調(diào)用API服務(wù)時進行身份鑒別和計費。

（2）安裝XEduLLM

作為一個開源Python庫，XEduLLM可以使用Python包管理的方式進行安裝，命令為“pip install xedu-python”，安裝成功后會出現(xiàn)“Successfully installed xedu-python”的字樣。

（3）啟動大模型網(wǎng)絡(luò)中轉(zhuǎn)服務(wù)

下面提供了一段服務(wù)模板代碼，只需要將其中的api_key的值替換為剛才獲取到的API密鑰，即可啟動服務(wù)并使用。各家平臺的模型效果和費率稍有不同，教師可以根據(jù)需要嘗試并選擇。

上頁圖1中的代碼在運行后，輸出了三個網(wǎng)址，在本機上打開任一網(wǎng)址都能夠體驗到通過大模型網(wǎng)絡(luò)中轉(zhuǎn)服務(wù)搭建的網(wǎng)頁對話功能，效果如上頁圖2所示。

2.XEduLLM在課堂教學(xué)中的使用

（1）體驗大模型對話

在課堂教學(xué)中，學(xué)生可以通過局域網(wǎng)訪問的方式來進行體驗。假設(shè)前面的程序運行在教師機上，并且學(xué)生機與教師機在同一個局域網(wǎng)內(nèi)，學(xué)生就可以通過前面輸出的三個網(wǎng)址中的第一個網(wǎng)址訪問該服務(wù)，進行在線體驗。整個過程學(xué)生無需注冊登錄，不同網(wǎng)頁之間的聊天記錄相互獨立，互不干擾。

（2）體驗大模型開發(fā)

如果學(xué)生想要基于大模型開發(fā)相應(yīng)的AI應(yīng)用，也無需注冊登錄，可以直接使用Python代碼將對話內(nèi)容發(fā)送給該網(wǎng)址，即可獲得對話結(jié)果，教師也不需要擔(dān)心自己的密鑰泄露造成財產(chǎn)損失。代碼示例如圖3所示。

當然，上述功能的實現(xiàn)都要求在學(xué)生體驗的過程中，教師機始終保持網(wǎng)絡(luò)中轉(zhuǎn)服務(wù)開啟，且賬號內(nèi)費用足夠。如果學(xué)生想要回家繼續(xù)體驗，則可以參照前面的方法自行注冊并獲取API密鑰進行體驗。

XEduLLM在教學(xué)中的應(yīng)用展望

1.為學(xué)生配置借助XEduLLM開發(fā)的智能體

信息科技教師可能不滿足于基礎(chǔ)的大模型對話能力，希望能夠讓大模型成為課堂的得力助手。例如，在上“算法”有關(guān)的課程時，可以為學(xué)生提供一個專門回答算法編程問題的智能體，參考代碼如圖4所示。

2.學(xué)生自主開發(fā)基于XEduLLM的智能體

學(xué)生可以借助教師提供的網(wǎng)址進行智能體的開發(fā)，使用“set_system（prompt）”來設(shè)置屬于自己的提示詞，并且開啟個人網(wǎng)頁進行調(diào)試，通過不斷完善提示詞的方式，讓智能體逐漸符合自己的需求。調(diào)試完成后也可以通過分享網(wǎng)址的形式，讓大家一起測試。

結(jié)語

盡管各平臺的模型仍在不斷改進和上新，但借助XEduLLM能夠讓這些模型盡早進入信息科技的課堂，讓學(xué)生體驗到最新的大語言模型的魅力，甚至是讓學(xué)生能夠在大模型基礎(chǔ)上加以開發(fā)和應(yīng)用，這將更好地幫助他們順應(yīng)時代的潮流，引領(lǐng)未來。