ChatGPT教育應(yīng)用的優(yōu)化路徑

摘" "要：研究ChatGPT教育應(yīng)用對(duì)通用人工智能時(shí)代下的教育數(shù)字化轉(zhuǎn)型具有重要意義。通過(guò)系統(tǒng)測(cè)試和文獻(xiàn)研究等方法，首先厘清ChatGPT的技術(shù)路線、應(yīng)用場(chǎng)景和發(fā)展歷程；然后從重塑教育的底層邏輯、催生學(xué)校結(jié)構(gòu)變革和重構(gòu)教育生態(tài)三個(gè)層面，論述ChatGPT給教育帶來(lái)的機(jī)遇，并從技術(shù)局限性、倫理道德、知識(shí)產(chǎn)權(quán)、數(shù)據(jù)安全、知識(shí)異化等角度來(lái)論述其教育應(yīng)用面臨的挑戰(zhàn)；最后提出ChatGPT教育應(yīng)用的優(yōu)化路徑。一是加強(qiáng)自主研發(fā)，完善頂層設(shè)計(jì)。加強(qiáng)人工智能技術(shù)研發(fā)是掌握數(shù)字主權(quán)的必然要求，也是解決數(shù)據(jù)安全問(wèn)題的關(guān)鍵。二是開(kāi)發(fā)應(yīng)用指南，引導(dǎo)應(yīng)用方式。加快提升教育中各類(lèi)主體的人工智能能力素養(yǎng)和倫理素養(yǎng)，遵循“倫理先行”意識(shí)，強(qiáng)化自律自治，共同打造良性發(fā)展的人工智能教育應(yīng)用生態(tài)。三是認(rèn)清技術(shù)本質(zhì)，回歸育人本位。只有辨明技術(shù)本質(zhì)，回歸到育人的本質(zhì)，才能在技術(shù)與人的雙向耦合中，培育出新的自由全面發(fā)展的個(gè)體。四是明確各方責(zé)任，加強(qiáng)情感互動(dòng)。在開(kāi)發(fā)者、教師、學(xué)校、學(xué)生等組成的教育生態(tài)系統(tǒng)中，要明確各主體的角色、責(zé)任與義務(wù)，重視對(duì)學(xué)生情感、態(tài)度、價(jià)值觀的塑造，構(gòu)建積極、健康且充滿(mǎn)活力的教學(xué)環(huán)境。

關(guān)鍵詞：生成式人工智能；ChatGPT；大型語(yǔ)言模型；教育數(shù)字化轉(zhuǎn)型；通用人工智能；數(shù)據(jù)安全

中圖分類(lèi)號(hào)：G434" " " " "文獻(xiàn)標(biāo)志碼：A" " " " "文章編號(hào)：1673-8454（2023）06-0017-09

一、引言

自2022年11月發(fā)布以來(lái)，ChatGPT的用戶(hù)呈爆炸式增長(zhǎng)，在全球范圍內(nèi)引起巨大的反響，特別是在教育行業(yè)引起了廣泛關(guān)注和討論。以ChatGPT為代表的新一代人工智能技術(shù)，或許意味著一次較深層次的信息革命，將對(duì)人類(lèi)經(jīng)濟(jì)社會(huì)生活帶來(lái)巨大影響。ChatGPT是“生成式人工智能暴發(fā)”的一部分，可能會(huì)改變?nèi)藗儗?duì)工作方式、思維方式以及人類(lèi)創(chuàng)造力的真正含義的看法[1]。新技術(shù)具有兩重性，既帶來(lái)機(jī)遇，也伴隨風(fēng)險(xiǎn)。尤其在發(fā)展初期，技術(shù)的不完善、被濫用或操縱、監(jiān)管體系不健全等，均會(huì)加劇技術(shù)及其應(yīng)用的風(fēng)險(xiǎn)。ChatGPT似乎讓人們看到了教育數(shù)字化轉(zhuǎn)型的技術(shù)奇點(diǎn)。數(shù)字技術(shù)對(duì)教育的影響存在多重邏輯，機(jī)遇與挑戰(zhàn)并存[2]。對(duì)教育來(lái)說(shuō)，ChatGPT是“阿拉丁神燈”還是“潘多拉魔盒”[3]？它給教育帶來(lái)哪些機(jī)遇和挑戰(zhàn)？如何優(yōu)化ChatGPT教育應(yīng)用的路徑？為回答這些問(wèn)題，本文首先厘清ChatGPT的技術(shù)路線、應(yīng)用場(chǎng)景和發(fā)展歷程，然后討論其給教育帶來(lái)的機(jī)遇和挑戰(zhàn)，最后給出ChatGPT教育應(yīng)用的優(yōu)化路徑。

二、ChatGPT的臺(tái)前幕后和前世今生

（一）臺(tái)前幕后： 應(yīng)用場(chǎng)景與技術(shù)路線

ChatGPT臺(tái)前是一個(gè)人工智能聊天機(jī)器人，幕后倚靠一個(gè)大型語(yǔ)言模型，兼具“人化”和“非人化”的特質(zhì)。ChatGPT的實(shí)質(zhì)是人工智能生成內(nèi)容的突破性落地，是生成式人工智能的典型應(yīng)用，開(kāi)啟了通用人工智能時(shí)代。有研究者將其視為人工智能的第二次復(fù)興，也有人將它視為第四次工業(yè)革命的開(kāi)端[4]。

ChatGPT屬于一種深度合成技術(shù)，是算法、算力和數(shù)據(jù)共同進(jìn)步的結(jié)果，具有數(shù)字孿生、數(shù)字編輯和數(shù)字創(chuàng)作能力?；谶@些能力，可以實(shí)現(xiàn)智能增強(qiáng)、智能轉(zhuǎn)譯、語(yǔ)義理解、屬性控制、基于模仿的創(chuàng)作、基于概念的創(chuàng)作等功能。這些功能以文字、圖形、音頻、視頻、虛擬場(chǎng)景及其復(fù)合形式表現(xiàn)。它在教育、科研、醫(yī)療保健、工業(yè)、電商、傳媒、服務(wù)、金融、社會(huì)治理、藝術(shù)創(chuàng)作、智能辦公、應(yīng)急管理、智慧養(yǎng)老等多個(gè)領(lǐng)域能夠發(fā)揮重要作用[5]，如圖1所示。

（二）前世今生：發(fā)展歷程

ChatGPT是人工智能技術(shù)數(shù)十年發(fā)展的成果，早期的相關(guān)研究可以追溯到專(zhuān)家系統(tǒng)。近年來(lái)，自然語(yǔ)言處理（Natural Language Processing， NLP）技術(shù)的突飛猛進(jìn)推動(dòng)了它的落地。從應(yīng)用范圍來(lái)講，自然語(yǔ)言處理分為自然語(yǔ)言理解和自然語(yǔ)言生成。機(jī)器翻譯、人機(jī)對(duì)話系統(tǒng)、文本摘要等應(yīng)用也需要自然語(yǔ)言生成技術(shù)的支持[6]?，F(xiàn)有主流自然語(yǔ)言生成模型有Transformer、GPT-1/2/3、XLM、BERT、Codex、BART等。GPT是使用Transformer結(jié)構(gòu)的生成型預(yù)訓(xùn)練轉(zhuǎn)換器模型，其邏輯推理、解答問(wèn)題、語(yǔ)義理解等方面的能力得到提升。

GPT早期版本都未能引起人們廣泛的關(guān)注，直到基于GPT-3.5模型的ChatGPT問(wèn)世才引起轟動(dòng)。ChatGPT主要以文字的方式來(lái)處理信息，是單模態(tài)的。傳統(tǒng)的商業(yè)聊天機(jī)器人“有能無(wú)智”，而ChatGPT“有能有智”。例如，ChatGPT從對(duì)話中理解上下文的能力得到提升，能夠比大多數(shù)現(xiàn)有解決方案更準(zhǔn)確地做出響應(yīng)，這有助于減少錯(cuò)誤并改善人機(jī)交互時(shí)的用戶(hù)體驗(yàn)。ChatGPT的硬件設(shè)施和算力變化符合摩爾定律，更新迭代較快。新發(fā)布的GPT-4模型把信息的處理方式拓展到了圖像、音樂(lè)、視頻，可以根據(jù)用戶(hù)提示來(lái)生產(chǎn)視頻，甚至用戶(hù)可以選擇視頻的風(fēng)格，是多模態(tài)的。微軟的Bing Chat已經(jīng)使用了最新的GPT-4模型。根據(jù)OpenAI 公司發(fā)布的最新消息，GPT-5也即將上市。

三、ChatGPT教育應(yīng)用的機(jī)遇

（一）ChatGPT重塑教育的底層邏輯

ChatGPT給教育帶來(lái)了危機(jī)感：知識(shí)不再有用、教育工具失效、能力模型迷茫、教育信仰危機(jī)[7]。從腦科學(xué)的角度講，大腦有一種效能模式，會(huì)自動(dòng)判斷知識(shí)的重要性，對(duì)于重要的知識(shí)會(huì)作出反應(yīng)，不重要的則無(wú)反應(yīng)。大腦的這種特征在心理學(xué)上也得到證實(shí)。ChatGPT使知識(shí)變得唾手可得，迎合了大腦走捷徑的喜好。教育的本質(zhì)是使人發(fā)展，人工智能時(shí)代發(fā)展的關(guān)鍵就是要在新的環(huán)境建構(gòu)新智商。若教育可以提高人類(lèi)的智商，而人機(jī)協(xié)同可以創(chuàng)造出更高的智商和效率，那么我們會(huì)選擇人機(jī)協(xié)同，這是重塑教育的底層邏輯。

知識(shí)的記錄是將人類(lèi)思想變成凝固的符號(hào)，知識(shí)的傳播是教育的發(fā)端，知識(shí)的表達(dá)是通過(guò)文字、圖片、視頻等多種方式對(duì)知識(shí)的呈現(xiàn)。ChatGPT不但可以記錄知識(shí)、傳播知識(shí)、表達(dá)知識(shí)，還可以生成知識(shí)。當(dāng)知識(shí)唾手可得時(shí)，還需要花費(fèi)大量時(shí)間去記憶嗎？大腦獲取、記憶和生成知識(shí)的過(guò)程，是神經(jīng)元突觸建立連接的過(guò)程，是催生智慧的過(guò)程。如果這一過(guò)程被類(lèi)ChatGPT的人工智能替代，極有可能產(chǎn)生“機(jī)進(jìn)人退”的不利局面。一定的基礎(chǔ)知識(shí)和技能是獲得更高層次知識(shí)所必需的，但其獲取方式有待重新認(rèn)知。包含邏輯、推理和想象的思維方式更值得我們?nèi)シ此?。人工智能能夠完成一定程度的邏輯和推理，想象就顯得彌足珍貴。這種轉(zhuǎn)變重塑了教育的底層邏輯，將推動(dòng)教育哲學(xué)的轉(zhuǎn)變。

（二）ChatGPT催生學(xué)校結(jié)構(gòu)性變革

當(dāng)前大多數(shù)學(xué)校教育實(shí)踐的結(jié)構(gòu)模式可以概括為年齡進(jìn)階、分科課程、班級(jí)授課和教師主導(dǎo)[8]。學(xué)校教育的變革可發(fā)生在系統(tǒng)目標(biāo)、系統(tǒng)要素、要素間關(guān)系等不同層次上。若要素間相互作用的方式發(fā)生大范圍且持久的制度性變化，則系統(tǒng)會(huì)發(fā)生結(jié)構(gòu)性變化。這種結(jié)構(gòu)性變化本質(zhì)上是年齡進(jìn)階、分科課程、班級(jí)授課、教師主導(dǎo)等環(huán)節(jié)的交互模式發(fā)生變化。例如，不再以年齡進(jìn)階，而是以知識(shí)和能力進(jìn)階；不再以分科課程和班級(jí)授課為教學(xué)的組織方式，而是以項(xiàng)目方式進(jìn)行，等等。盡管ChatGPT不是專(zhuān)為教育開(kāi)發(fā)，卻極具教學(xué)應(yīng)用價(jià)值。已有研究表明，在傳統(tǒng)教師主導(dǎo)的班級(jí)授課中，ChatGPT能夠輔助“教師的教”和“學(xué)生的學(xué)”?？梢詴诚氲氖?，如果由ChatGPT代替教師，由算法控制學(xué)習(xí)內(nèi)容與進(jìn)度，將會(huì)實(shí)現(xiàn)教學(xué)自動(dòng)化。當(dāng)這種教學(xué)模式實(shí)現(xiàn)規(guī)模化、常態(tài)化應(yīng)用，即可催生學(xué)校的結(jié)構(gòu)性變革。

（三）ChatGPT重構(gòu)教育生態(tài)

ChatGPT在個(gè)性化教育中大有作為，對(duì)教師教學(xué)、課程設(shè)置、人才培養(yǎng)標(biāo)準(zhǔn)帶來(lái)了挑戰(zhàn)，正沖擊現(xiàn)有的教育生態(tài)系統(tǒng)。

1.助力個(gè)性化教育

ChatGPT具有對(duì)話情境理解、啟發(fā)性?xún)?nèi)容生成、序列任務(wù)執(zhí)行、程序語(yǔ)言解析等功能，能夠?yàn)閷W(xué)習(xí)者提供更加有效的個(gè)性化指導(dǎo)和交互式體驗(yàn)。一是可以根據(jù)學(xué)習(xí)者的知識(shí)水平提供個(gè)性化的學(xué)習(xí)方案和學(xué)習(xí)材料。二是可以使學(xué)習(xí)者更容易和高效地獲取教育資源。三是可以讓學(xué)習(xí)者快速獲取問(wèn)題的答案，以及撰寫(xiě)論文、報(bào)告的參考資料等。四是可以提高自適應(yīng)學(xué)習(xí)系統(tǒng)的易用性和準(zhǔn)確度。學(xué)生只需通過(guò)“聊天”的方式即可獲取問(wèn)題答案，且隨著數(shù)據(jù)量的增加和算力的提升，ChatGPT能夠可以快速地自我學(xué)習(xí)和改進(jìn)，這意味著答案的準(zhǔn)確性也將得到提升。五是可以為學(xué)生提供某種價(jià)值情緒。例如，當(dāng)學(xué)生傾訴考試不及格時(shí)，ChatGPT會(huì)首先表示歉意，然后給出應(yīng)對(duì)建議，最后給出心理安慰，這種情感慰藉和心理輔導(dǎo)在教育中是難能可貴的。

2.重構(gòu)課程體系

課程是人才培養(yǎng)質(zhì)量的關(guān)鍵。課程設(shè)置要既能傳承知識(shí)和經(jīng)驗(yàn)，又能匯聚時(shí)代賦予的新技能和新知識(shí)。課程設(shè)置應(yīng)與時(shí)俱進(jìn)、不斷發(fā)展。一方面，ChatGPT能夠通過(guò)圖靈測(cè)試和明尼蘇達(dá)大學(xué)的法律考試，還可以在高考測(cè)試中取得不錯(cuò)的成績(jī)；另一方面，ChatGPT可以使師生更容易和高效地獲取教育資源、問(wèn)題的答案、撰寫(xiě)論文和報(bào)告的參考資料。面對(duì)這些改變，現(xiàn)有課程體系是否能滿(mǎn)足教育數(shù)字化轉(zhuǎn)型的需求？類(lèi)ChatGPT的人工智能工具是否要納入課程體系？學(xué)生學(xué)什么才能有效應(yīng)對(duì)人工智能的挑戰(zhàn)？人工智能工具的使用是教師數(shù)字素養(yǎng)的重要組成部分，對(duì)信息時(shí)代的教育至關(guān)重要。技術(shù)變革要求教育者重視培養(yǎng)學(xué)生的核心技能。因此，在課程目標(biāo)、課程內(nèi)容、課程實(shí)施、課程評(píng)價(jià)上都應(yīng)考慮ChatGPT的潛在價(jià)值。

3.重構(gòu)學(xué)習(xí)評(píng)價(jià)體系

在通用人工智能時(shí)代，傳統(tǒng)的人才評(píng)價(jià)方式受到?jīng)_擊，傳統(tǒng)的人才觀也發(fā)生改變。人才培養(yǎng)目標(biāo)正加速由傳統(tǒng)的“知識(shí)型人才”，轉(zhuǎn)向“復(fù)合型人才”和“應(yīng)用創(chuàng)新型人才”。人才觀的變化會(huì)引發(fā)評(píng)價(jià)方式的變化。生成式人工智能讓學(xué)習(xí)者有了“復(fù)合腦”，包括個(gè)體自身的內(nèi)腦和與內(nèi)腦相聯(lián)系的外腦（人工腦）。內(nèi)腦依賴(lài)生理特征，決定了學(xué)習(xí)者能達(dá)到的最高能力水平。外腦的價(jià)值依附于內(nèi)腦，形式上可以獨(dú)立于個(gè)體，決定了個(gè)體對(duì)于真實(shí)環(huán)境的感知能力與程度。復(fù)合腦的存在有助于對(duì)學(xué)習(xí)的科學(xué)評(píng)價(jià)。一種新的學(xué)習(xí)評(píng)價(jià)思維是，合理分配人腦與“人工腦”的功能與責(zé)任，鼓勵(lì)學(xué)習(xí)者多參與高階思維活動(dòng)，減少低階思維活動(dòng)。

四、ChatGPT教育應(yīng)用的挑戰(zhàn)

（一）技術(shù)局限性

ChatGPT在推理、邏輯、數(shù)學(xué)和計(jì)算、價(jià)值傾向等方面的表現(xiàn)并不理想[9]。

首先，ChatGPT的推理能力并不可靠。通過(guò)對(duì)ChatGPT在推理、幻想和交互性方面的多任務(wù)、多語(yǔ)言、多模式評(píng)估，發(fā)現(xiàn)它在零樣本學(xué)習(xí)上優(yōu)于傳統(tǒng)大型語(yǔ)言模型。有實(shí)驗(yàn)表明，ChatGPT在邏輯推理、非文本推理、常識(shí)推理等10個(gè)不同推理類(lèi)別中，平均準(zhǔn)確率為63.41%，因此它不是一個(gè)可靠的推理器，更擅長(zhǎng)演繹推理而不是歸納推理。ChatGPT也存在幻覺(jué)問(wèn)題。由于無(wú)法訪問(wèn)外部知識(shí)庫(kù)，它會(huì)從參數(shù)記憶中產(chǎn)生更多的外部幻覺(jué)。但是ChatGPT的交互特性可以提高性能。另外，由于數(shù)據(jù)訪問(wèn)限制，ChatGPT的推理結(jié)果說(shuō)服力不強(qiáng)。例如，由于ChatGPT訪問(wèn)PubMed、Cochrane等醫(yī)學(xué)數(shù)據(jù)庫(kù)受限，它對(duì)文獻(xiàn)的處理大都在“摘要”層面，其研究深度和可信度備受質(zhì)疑。

其次，ChatGPT在處理釋義和相似任務(wù)時(shí)表現(xiàn)不佳[10]。該系統(tǒng)有時(shí)不能正確理解信息及其內(nèi)在的邏輯關(guān)系，從而生成錯(cuò)誤的回答。有時(shí)甚至“滿(mǎn)口胡言亂語(yǔ)”[11]。ChatGPT不具備足夠的虛假信息甄別能力，用戶(hù)也無(wú)法判斷它生成的內(nèi)容是否正確。ChatGPT在撰寫(xiě)學(xué)術(shù)論文時(shí)，概述性觀點(diǎn)較多，研究問(wèn)題的深度不足，論證觀點(diǎn)普通，論證語(yǔ)言單薄，回答“未曾見(jiàn)過(guò)的問(wèn)題”能力較弱。

再次，ChatGPT在進(jìn)行數(shù)理運(yùn)算時(shí)，依靠語(yǔ)料庫(kù)進(jìn)行概率匹配，對(duì)存在因果關(guān)系的數(shù)理計(jì)算能力較弱。筆者以概率論題目測(cè)試ChatGPT的分析和計(jì)算能力，它連續(xù)幾次都未能給出正確答案。ChatGPT對(duì)題目的分析正確，卻在關(guān)鍵計(jì)算步驟總是重復(fù)出錯(cuò)，但通過(guò)提示后ChatGPT能夠回答正確。

又次，ChatGPT設(shè)計(jì)中性化[12]，但有時(shí)候又表現(xiàn)出一定的傾向性。例如，羅伯特（Robert）等使用ChatGPT創(chuàng)作愛(ài)爾蘭打油詩(shī)，它對(duì)自由派政治家的描述是正面的，而對(duì)保守派政治家的描述是負(fù)面的[13]。

最后，ChatGPT生成內(nèi)容是對(duì)歷史數(shù)據(jù)的提取，無(wú)法對(duì)未發(fā)生的事情進(jìn)行有效預(yù)測(cè)。另外，它在習(xí)語(yǔ)使用、情感共鳴、研究視角等方面也存在不足，還存在對(duì)話容量限制、答案多而不精、語(yǔ)言僵硬等現(xiàn)象，在釋義和處理相似任務(wù)時(shí)表現(xiàn)欠佳[10]。

（二）倫理道德

生成式人工智能模糊了信息真實(shí)與虛假的邊界，模糊了網(wǎng)絡(luò)虛擬空間與物理現(xiàn)實(shí)世界的邊界[14]。若使用不當(dāng)，ChatGPT會(huì)加劇學(xué)術(shù)不端和教育不公平。隨著ChatGPT的不斷進(jìn)化，它完成作業(yè)、撰寫(xiě)論文、通過(guò)考試的能力也越來(lái)越強(qiáng)，容易誘發(fā)考試作弊與學(xué)術(shù)不端，沖擊現(xiàn)有的教育體系，挑戰(zhàn)學(xué)術(shù)倫理道德規(guī)范。ChatGPT對(duì)法律法規(guī)和倫理道德方面問(wèn)題的回答具有嚴(yán)格的約束條件，用戶(hù)很難誘導(dǎo)它作出不正確的回答。但當(dāng)“居心叵測(cè)”的用戶(hù)不斷通過(guò)質(zhì)疑、恐嚇、規(guī)訓(xùn)等語(yǔ)言威脅后，ChatGPT對(duì)倫理道德的判讀有時(shí)候顯得進(jìn)退兩難、模棱兩可。

（三）知識(shí)產(chǎn)權(quán)歸屬

人工智能生成的文章是否符合《中華人民共和國(guó)著作權(quán)法》中“作品”的標(biāo)準(zhǔn)，其性質(zhì)和知識(shí)產(chǎn)權(quán)歸屬問(wèn)題有待解決。由OpenAI公司的使用協(xié)議第3（a）條可知，用戶(hù)向模型的輸入內(nèi)容和模型的輸出內(nèi)容都?xì)w用戶(hù)所有，用戶(hù)對(duì)內(nèi)容的合法性負(fù)責(zé)。不同用戶(hù)輸入相同內(nèi)容得到相同輸出的產(chǎn)權(quán)歸屬問(wèn)題、不同用戶(hù)輸入相異內(nèi)容得到相同內(nèi)容的產(chǎn)權(quán)歸屬問(wèn)題仍待解決。有研究認(rèn)為，ChatGPT的創(chuàng)作產(chǎn)物屬于“作品”[15]，也有研究持相反態(tài)度。若屬于“作品”，其著作權(quán)歸屬問(wèn)題有待確認(rèn)。人工智能系統(tǒng)主要包括三個(gè)利益相關(guān)者主體，即系統(tǒng)開(kāi)發(fā)者、運(yùn)營(yíng)者和使用者。使用協(xié)議約定，ChatGPT系統(tǒng)使用者為系統(tǒng)生成內(nèi)容的所有者，這也表明系統(tǒng)的“作品”著作權(quán)應(yīng)歸使用者。但是，不同用戶(hù)生成的相同“作品”的著作權(quán)歸屬，應(yīng)遵循“申請(qǐng)?jiān)谙仍瓌t”。由知識(shí)產(chǎn)權(quán)的歸屬問(wèn)題引發(fā)署名權(quán)之爭(zhēng)。隨著時(shí)間的推移，研究和爭(zhēng)論的結(jié)果更傾向于“ChatGPT不具有作者署名權(quán)”。

（四）數(shù)據(jù)安全和隱私

數(shù)據(jù)安全和隱私問(wèn)題包括數(shù)據(jù)來(lái)源合法性、生成虛假或違法信息、數(shù)據(jù)泄露等。數(shù)據(jù)來(lái)源風(fēng)險(xiǎn)主要指ChatGPT在自主學(xué)習(xí)過(guò)程中，存在數(shù)據(jù)獲取侵權(quán)、數(shù)據(jù)內(nèi)容不合法和采納虛假信息三種風(fēng)險(xiǎn)。生成虛假或違法內(nèi)容會(huì)擾亂社會(huì)秩序，為居心叵測(cè)的人提供思路方法。數(shù)據(jù)泄露風(fēng)險(xiǎn)主要是指用戶(hù)的信息如果保護(hù)不當(dāng)，可能被ChatGPT泄露的風(fēng)險(xiǎn)。用戶(hù)需要權(quán)衡信息保護(hù)、信息利用和信息開(kāi)發(fā)的關(guān)系。用戶(hù)與ChatGPT的交互如果是跨境完成的，還存在數(shù)據(jù)跨境安全問(wèn)題和跨國(guó)治理屏障。研發(fā)者在信息安全產(chǎn)生爭(zhēng)議時(shí)，應(yīng)能證明其程序設(shè)計(jì)無(wú)危害信息安全的故意，否則應(yīng)承擔(dān)“算法黑箱”的法律后果。類(lèi)ChatGPT系統(tǒng)開(kāi)發(fā)者應(yīng)公布其數(shù)據(jù)獲取的途徑和來(lái)源。

（五）知識(shí)異化風(fēng)險(xiǎn)

“技術(shù)黑箱”產(chǎn)生的知識(shí)真實(shí)性難分辨、權(quán)威性難保證，知識(shí)碎片化加劇，引發(fā)機(jī)進(jìn)人退[16]。ChatGPT在眾多領(lǐng)域呈現(xiàn)“超越”態(tài)勢(shì)，學(xué)生在接收到教師和機(jī)器人對(duì)問(wèn)題的回答時(shí)會(huì)產(chǎn)生疑惑，對(duì)學(xué)生的身心健康，思想的自主性、獨(dú)立性、創(chuàng)造性都有潛在的威脅。ChatGPT能否參與對(duì)學(xué)生情感和價(jià)值觀的塑造？ChatGPT對(duì)于同一個(gè)問(wèn)題的回答可能不同，這造成了知識(shí)的標(biāo)準(zhǔn)不統(tǒng)一。要警惕人工智能通過(guò)迎合用戶(hù)喜好來(lái)構(gòu)建思維的“舒適圈”[17]，以防止“機(jī)進(jìn)人退”。

五、ChatGPT教育應(yīng)用的優(yōu)化路徑

對(duì)ChatGPT的評(píng)價(jià)要理性，附帶倫理價(jià)值探析。一方面，以ChatGPT 為代表的生成式人工智能技術(shù)可能會(huì)引發(fā)一場(chǎng)技術(shù)變革，重塑數(shù)字時(shí)代內(nèi)容的生產(chǎn)和消費(fèi)方式，極大地豐富人們的數(shù)字生活；另一方面，ChatGPT也會(huì)帶來(lái)全新的挑戰(zhàn)，其開(kāi)發(fā)方和使用方都采取積極的策略，才能做到人工智能與教育博弈的納什均衡[18][19]?；谇拔恼撌?，本文嘗試構(gòu)建ChatGPT教育應(yīng)用的優(yōu)化路徑。

（一）加強(qiáng)自主研發(fā)，完善頂層設(shè)計(jì)

加強(qiáng)人工智能技術(shù)研發(fā)是掌握數(shù)字主權(quán)的必然要求，也是解決數(shù)據(jù)安全問(wèn)題的關(guān)鍵。大型語(yǔ)言模型是通往通用人工智能的核心需求，它要求規(guī)模巨大、自主學(xué)習(xí)能力強(qiáng)大，可以基礎(chǔ)設(shè)施即服務(wù)的模式運(yùn)行。掌握數(shù)字化基礎(chǔ)設(shè)施才能從根本上掌握數(shù)據(jù)安全。通過(guò)對(duì)百度的類(lèi)ChatGPT模型“文心一言”進(jìn)行對(duì)比測(cè)試，發(fā)現(xiàn)其性能還有待提升。國(guó)內(nèi)信息技術(shù)頭部企業(yè)應(yīng)進(jìn)一步布局國(guó)際領(lǐng)先的算力基地建設(shè)，加快人工智能教育應(yīng)用的落地步伐。

在制度設(shè)計(jì)上，我國(guó)在2022年3月開(kāi)始實(shí)施《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，包含生成合成算法的監(jiān)管規(guī)定；又于2023年1月開(kāi)始實(shí)施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，在算法治理中為深度合成率先立法。此外，《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《中華人民共和國(guó)民法典》都對(duì)算法服務(wù)的信息安全監(jiān)管作出相關(guān)規(guī)定。我國(guó)將生成式人工智能服務(wù)提供者作為治理的樞紐，應(yīng)當(dāng)在數(shù)字產(chǎn)業(yè)化和產(chǎn)業(yè)數(shù)字化進(jìn)程中深入內(nèi)容生成的治理[15]。一方面，ChatGPT設(shè)計(jì)者和監(jiān)管者應(yīng)開(kāi)發(fā)出相應(yīng)的檢測(cè)工具。例如，美國(guó)斯坦福大學(xué)開(kāi)發(fā)了一款DetectGPT軟件，可以檢測(cè)論文是否由ChatGPT撰寫(xiě)。目前，ChatGPT并不提供信息的來(lái)源，這是學(xué)術(shù)寫(xiě)作的一個(gè)缺點(diǎn)。但是OpenAI公司提供了輔助查詢(xún)工具Elicit （https：//elicit.org/）。它能針對(duì)研究的問(wèn)題，建議引用的參考文獻(xiàn)，并從包含1.75億篇學(xué)術(shù)論文的知識(shí)庫(kù)中提取論文摘要[20]。另一方面，需引導(dǎo)使用者澄清ChatGPT在作品中的貢獻(xiàn)。例如，《自然》（Nature）等期刊要求使用了人工智能工具撰寫(xiě)的論文，需在“作者信息”“方法”“致謝”部分注明。

（二）開(kāi)發(fā)應(yīng)用指南，引導(dǎo)應(yīng)用方式

在合理使用方面，應(yīng)加快提升教育中各類(lèi)主體的人工智能能力素養(yǎng)和倫理素養(yǎng)，遵循“倫理先行”意識(shí)，強(qiáng)化自律自治，共同打造良性發(fā)展的ChatGPT教育應(yīng)用生態(tài)。下面是針對(duì)教師、學(xué)校管理者和學(xué)生的一些具體指南。

1.教師應(yīng)用指南

①對(duì)于學(xué)生利用ChatGPT進(jìn)行考試作弊的問(wèn)題，采用線下考試即可破解。對(duì)于線上考試，可以使用監(jiān)考或監(jiān)視軟件。然而，過(guò)度依賴(lài)考試（終結(jié)性評(píng)價(jià)）的做法已經(jīng)被眾多教育機(jī)構(gòu)所拋棄。②制定ChatGPT等人工智能工具不擅長(zhǎng)的作業(yè)和任務(wù)。例如，分析圖像和視頻、分析課堂小組討論、分析長(zhǎng)文本、分析最近發(fā)生的問(wèn)題（還未進(jìn)入文本生成器的訓(xùn)練數(shù)據(jù)中）[20]。考慮到人工智能算法強(qiáng)大的學(xué)習(xí)能力，這種方法可能是一種短期的解決方案。例如，新發(fā)布GPT-4模型已經(jīng)支持對(duì)圖像和視頻進(jìn)行處理。③在學(xué)習(xí)評(píng)價(jià)方面，避免使用簡(jiǎn)單且公式化的題目，應(yīng)注重考查學(xué)生的創(chuàng)造性和批判性思維能力[21]。例如，在試題形式上，應(yīng)注意設(shè)計(jì)主觀題和客觀題的比例，并在課堂上進(jìn)行一定的評(píng)價(jià)，豐富評(píng)價(jià)形式，允許學(xué)生表達(dá)自己的觀點(diǎn)。由于ChatGPT生成的內(nèi)容是公式化的，導(dǎo)致相似輸入對(duì)應(yīng)的輸出可能是一樣或極為類(lèi)似的。同班級(jí)學(xué)生使用ChatGPT生成的作業(yè)內(nèi)容也極有可能高度相似。教師可以根據(jù)內(nèi)容相似程度和相似答案數(shù)量，來(lái)判定學(xué)生是否使用ChatGPT來(lái)完成作業(yè)。圖尼?。═urnitin）已經(jīng)開(kāi)發(fā)了檢測(cè)人工智能作品的工具。人工智能工具和作弊檢測(cè)工具將上演“道高一尺魔高一丈”的競(jìng)賽游戲。④學(xué)生參與同行評(píng)價(jià)和“回教”[21]?；亟淌且环N在醫(yī)療保健領(lǐng)域特別流行的溝通確認(rèn)方法（患者/學(xué)生需要用言語(yǔ)證明他們已經(jīng)理解）。⑤培養(yǎng)學(xué)生的自主學(xué)習(xí)能力，讓學(xué)生明白人工智能只能是一種輔助工具，而非培養(yǎng)思維能力的捷徑。⑥禁止學(xué)生隨意上傳實(shí)驗(yàn)和調(diào)研數(shù)據(jù)等，防止泄密，保護(hù)隱私。

2.學(xué)校管理者應(yīng)用指南

①就ChatGPT等人工智能工具的應(yīng)用，對(duì)教師和學(xué)生進(jìn)行技能培訓(xùn)。②為教師和學(xué)生提供學(xué)術(shù)誠(chéng)信培訓(xùn)。③在法律框架內(nèi)更新學(xué)生守則和學(xué)術(shù)誠(chéng)信政策，明確使用人工智能工具的指導(dǎo)意見(jiàn)和相應(yīng)后果，禁止在設(shè)計(jì)、測(cè)評(píng)、考試等過(guò)程中使用ChatGPT作弊或抄襲。④謹(jǐn)慎開(kāi)設(shè)學(xué)生可以很容易通過(guò)ChatGPT完成考核任務(wù)的課程。⑤鼓勵(lì)、支持和分享人工智能工具對(duì)學(xué)習(xí)和教學(xué)影響的研究。⑥開(kāi)設(shè)特許教學(xué)學(xué)院，將信息技術(shù)深度嵌入教學(xué)系統(tǒng)，探索ChatGPT的教育應(yīng)用。⑦開(kāi)發(fā)或引入人工智能內(nèi)容檢測(cè)工具。

3.學(xué)生應(yīng)用指南

①應(yīng)積極了解學(xué)術(shù)誠(chéng)信政策，以及學(xué)術(shù)不端行為的后果。②將掌握人工智能工具內(nèi)化為數(shù)字素養(yǎng)，提高就業(yè)能力。③將人工智能工具作為“學(xué)伴”，而不是簡(jiǎn)單的采用人工智能生成的內(nèi)容。④提高辨識(shí)人工智能工具產(chǎn)生內(nèi)容正確性的能力，培養(yǎng)批判性和創(chuàng)造性思維。⑤嘗試使用人工智能工具解決現(xiàn)實(shí)問(wèn)題。當(dāng)代大學(xué)生大多是“數(shù)字原住民”，更容易接受新事物和新技術(shù)，應(yīng)充分發(fā)揮這種優(yōu)勢(shì)。⑥注意保護(hù)個(gè)人信息和公共信息安全。

（三）認(rèn)清技術(shù)本質(zhì)，回歸育人本位

技術(shù)是把“雙刃劍”，本身不存在好壞，而人類(lèi)賦予其價(jià)值的好壞。在任何情形下，都不能忘記數(shù)字技術(shù)的工具屬性。如果本末倒置，任其瘋狂的無(wú)序發(fā)展，技術(shù)可能會(huì)反噬人類(lèi)。因此，必須保證人類(lèi)對(duì)ChatGPT的掌控。教育經(jīng)歷了知識(shí)的記錄、知識(shí)的傳播、知識(shí)的表達(dá)和知識(shí)的生產(chǎn)階段。未來(lái)，只注重知識(shí)傳授的教育方法已經(jīng)難以為繼。ChatGPT不但可以記錄知識(shí)、傳播知識(shí)、表達(dá)知識(shí)，還可以生成知識(shí)。當(dāng)知識(shí)唾手可得時(shí)，知識(shí)的傳播將顯得不那么重要。教育的本質(zhì)是使人發(fā)展，通用人工智能時(shí)代發(fā)展教育的關(guān)鍵就是要在新的環(huán)境建構(gòu)新智商。

黨的二十大將教育、科技、人才“三位一體”進(jìn)行統(tǒng)籌安排和一體部署，說(shuō)明了科技與教育之間相互促進(jìn)的關(guān)系。教育應(yīng)更加主動(dòng)、更加緊密地?fù)肀Э萍?。未?lái)，教師的工作重心將偏重“育人”。只有辨明技術(shù)本質(zhì)，回歸到育人的本質(zhì)，才能在技術(shù)與人的雙向耦合中，培育出新的自由全面發(fā)展的個(gè)體。回歸育人本位，要注重學(xué)生高階能力的培養(yǎng)。一種新的學(xué)習(xí)評(píng)價(jià)思維是，合理分配人腦與“人工腦”的功能與責(zé)任，鼓勵(lì)學(xué)習(xí)者多參與高階思維活動(dòng)，減少低階思維活動(dòng)。

（四）明確各方責(zé)任，加強(qiáng)情感互動(dòng)

教育的第一要義是學(xué)生的發(fā)展。在ChatGPT出現(xiàn)以前，人們一直嘗試在各種教育情境中測(cè)試人工智能技術(shù)在教育中的應(yīng)用，包括面向教師、學(xué)生和系統(tǒng)的人工智能教育應(yīng)用。在開(kāi)發(fā)者、系統(tǒng)、教師、學(xué)校、學(xué)生等組成的教育生態(tài)系統(tǒng)中，要明確各主體的角色、責(zé)任與義務(wù)。ChatGPT可以作為一個(gè)很好的教學(xué)輔助工具，充當(dāng)助教的角色。學(xué)生可以合理使用ChatGPT，但要防止產(chǎn)生依賴(lài)性和“機(jī)進(jìn)人退”。學(xué)校管理者應(yīng)及時(shí)制定應(yīng)用指南、政策和規(guī)范，協(xié)調(diào)ChatGPT教育應(yīng)用中各主體間的關(guān)系，構(gòu)建積極、健康且充滿(mǎn)活力的教學(xué)環(huán)境。

重視教師、ChatGPT對(duì)學(xué)生情感、態(tài)度、價(jià)值觀的塑造。在通用人工智能時(shí)代，學(xué)生對(duì)技術(shù)的使用具有不確定性，受益和受害可能只在一念之間。ChatGPT在葆有倫理道德因素的基礎(chǔ)上，可以為學(xué)生提供某種價(jià)值情緒。這種能力可在教師無(wú)法提供足夠人文關(guān)懷時(shí)，為學(xué)生提供更多的情感交流。教育領(lǐng)域?qū)hatGPT應(yīng)用的最大擔(dān)憂(yōu)是考核作弊和學(xué)術(shù)不端，而一味地禁止可能適得其反，正向引導(dǎo)更有利于個(gè)體的發(fā)展，疏勝于堵。

參考文獻(xiàn)：

[1]THOMPSON D. Breakthroughs of the year[J/OL]. The Atlantic， 2022.https：//www.theatlantic.com/newsletters/archive/2022/12/technology-medicine-law-ai-10-breakthroughs-2022/672390/.

[2]聯(lián)合國(guó)教科文組織.一起重新構(gòu)想我們的未來(lái)：為教育打造新的社會(huì)契約[M].北京： 教育科學(xué)出版社，2022.

[3]王佑鎂，王旦，梁煒怡，等. “阿拉丁神燈”還是“潘多拉魔盒”：ChatGPT教育應(yīng)用的潛能與風(fēng)險(xiǎn)[J].現(xiàn)代遠(yuǎn)程教育研究，2023，35（2）：11-17.

[4]令小雄，王鼎民，袁健.ChatGPT爆火后關(guān)于科技倫理及學(xué)術(shù)倫理的冷思考[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（4）：123-136.

[5]張夏恒.ChatGPT的邏輯解構(gòu)、影響研判及政策建議[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（5）：113-123.

[6]DONG C， LI Y， GONG H， et al. A survey of natural language generation[J]. ACM Computing Surveys， 2022，55（8）：1-38.

[7]張治.ChatGPT重塑教育的底層邏輯[EB/OL].（2023-03-09）[2023-03-23]. https：//it.ynnu.edu.cn/info/1054/2763.htm.

[8]張志禎，張玲玲，米天伊，等.大型語(yǔ)言模型會(huì)催生學(xué)校結(jié)構(gòu)性變革嗎——基于ChatGPT的前瞻性分析[J].中國(guó)遠(yuǎn)程教育，2023，43（4）：32-41.

[9]BORJI A. A categorical archive of ChatGPT failures[EB/OL].（2023-04-05）[2023-04-10]. https：//arxiv.org/pdf/2302.03494.pdf.

[10]ZHONG Q， DING L， LIU J， et al. Can ChatGPT understand too？ a comparative study on ChatGPT and Fine-tuned BERT[EB/OL]. （2023-03-19）[2023-04-10]. https：//arxiv.org/pdf/2302.10198.pdf.

[11]MARCUS G， DAVIS E. GPT-3， lloviator： OpenAI’s language generator has no idea what it’s talking about[EB/OL].（2020-08-22） [2023-03-12]. https：//www.technologyreview.com/2020/08/22/1007539/gpt3-openai-language-generator-artificial-intelligence-ai-opinion/？utm_medium=tr_socialamp; utm_campaign=site_visitor.unpaid.engagementamp;utm_source=Twitter#Echobox=1598658773.

[12]SALLAM M， SALIM N A， et al. ChatGPT output regarding compulsory vaccination and COVID-19 vaccine conspiracy： a descriptive study at the outset of a paradigm shift in online search for Information[J]. Cureus， 2023，15（2）：2-12.

[13]MCGEE R W. Is ChatGPT biased against conservatives？ an empirical study[J]. An Empirical Study （February 15， 2023）， 2023.

[14]張凌寒.深度合成治理的邏輯更新與體系迭代——ChatGPT等生成型人工智能治理的中國(guó)路徑[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2023，41（3）：38-51.

[15]鄧建鵬，朱懌成.ChatGPT模型的法律風(fēng)險(xiǎn)及應(yīng)對(duì)之策[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（5）：91-101.

[16]周洪宇，李宇陽(yáng).ChatGPT對(duì)教育生態(tài)的沖擊及應(yīng)對(duì)策略[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（4）：102-112.

[17]張愛(ài)軍，賈璐.算法“舒適圈”及其破繭——兼論ChatGPT的算法內(nèi)容[J].黨政研究，2023，180（3）：22-33，124.

[18]盧宇，余京蕾，陳鵬鶴等.生成式人工智能的教育應(yīng)用與展望——以ChatGPT系統(tǒng)為例[J].中國(guó)遠(yuǎn)程教育，2023， 43（4）：24-31，51.

[19]王佑鎂，王旦，梁煒怡，等.ChatGPT教育應(yīng)用的倫理風(fēng)險(xiǎn)與規(guī)避進(jìn)路[J].開(kāi)放教育研究，2023，29（2）：26-35.

[20]MILLS A. How do we prevent learning loss due to AI text generators？[N/OL]. Blog post， 2023. https：//docs.google.com/document/d/1m4e2VAlWBzXoteYSGvCO1eTf6GQlOsrjltoJvod0h6g/edit#heading=h.sc09s7ot25zw.

[21]KEFALAKI M， DIAMANTIDAKI F， RUDOLPH J. Editorial 5（SI1）： Technology and education： Innovation or hindrance？[J]. Journal of Applied Learning amp; Teaching， 2022，5（1）：6-11.

Optimization Paths of ChatGPT’s Application in Education

Dashuang CHONG1， Feng YANG2， Ting SONG1， Yun MA1， Man CHEN3

（1.School of Information Technology， Henan University of Chinese Medicine， Zhengzhou 450046， Henan;

2.College of Management， Henan University of Chinese Medicine， Zhengzhou 450046， Henan;

3.Continuing Education and Digital Application Research Center， Henan Open University， Zhengzhou 450046， Henan）

Abstract： Studying the application of ChatGPT in education is of great significance for the digital transformation of education in the era of general artificial intelligence. Through systematic testing and literature research， the technical route， application scenarios， and development history of ChatGPT are first clarified. Then， its opportunities for education are discussed from three levels： reshaping the underlying logic of education， promoting structural changes in schools， and reconstructing the educational ecosystem. Its limitations in education are also discussed from the perspectives of technology， ethics and morality， intellectual property rights， data security and privacy， and knowledge alienation. Finally， an optimization paths for the educational application of ChatGPT are proposed. One is to strengthen independent research and development， and improve top-level design. Strengthening the research and development of artificial intelligence technology is an inevitable requirement for mastering digital sovereignty and a key to solving data security issues. The second is to develop application guides and guide application methods. That is to say， to accelerate the improvement of artificial intelligence capabilities and ethical literacy of various subjects in education， follow the “ethics first” awareness， strengthen self-discipline and autonomy， and jointly create a benign development of artificial intelligence education application ecology. The third is to recognize the essence of technology and return to the education standard. Only by distinguishing the essence of technology and returning to the essence of educating people can we cultivate new individuals with free and comprehensive development in the two-way coupling between technology and people. The fourth is to clarify the responsibilities of all parties and strengthen the emotional interaction. In the education ecosystem composed of developers， teachers， schools， students and etc.， it is necessary to clarify the roles， responsibilities， and obligations of each subject， attach importance to shaping students’ emotions， attitudes， and values， and build a positive， healthy， and dynamic teaching environment.

Keywords： Artificial intelligence generative content; ChatGPT; Large language models; Digital transformation of education; Universal artificial intelligence; Data security

編輯：王曉明" "校對(duì)：李曉萍

DOI： 10.3969/j.issn.1673-8454.2023.06.003

作者簡(jiǎn)介：種大雙，河南中醫(yī)藥大學(xué)信息技術(shù)學(xué)院講師，博士（河南鄭州 450046）；楊楓，通訊作者，河南中醫(yī)藥大學(xué)管理學(xué)院副教授，博士（河南鄭州 450046）；宋婷，河南中醫(yī)藥大學(xué)信息技術(shù)學(xué)院講師，博士（河南鄭州 450046）；馬赟，河南中醫(yī)藥大學(xué)信息技術(shù)學(xué)院講師，碩士（河南鄭州 450046）；陳曼，河南開(kāi)放大學(xué)繼續(xù)教育與數(shù)字化應(yīng)用研究中心講師，碩士（河南鄭州 450046）

基金項(xiàng)目：2022年國(guó)家自然科學(xué)基金項(xiàng)目“面向新型走班制教育時(shí)間表問(wèn)題的模型構(gòu)建與算法研究”（編號(hào)： 62207010）；2023年河南省科技發(fā)展計(jì)劃項(xiàng)目“‘5G+智慧教育’賦能河南省城鄉(xiāng)教師融合發(fā)展的內(nèi)生機(jī)制與實(shí)踐路徑研究”（編號(hào)：232102320152）；2020年河南中醫(yī)藥大學(xué)研究項(xiàng)目“推進(jìn)治理體系和治理能力現(xiàn)代化 促進(jìn)學(xué)校高質(zhì)量發(fā)展”（編號(hào)：2020-ZLYB-013）