ChatGPT在課程“教”與“學(xué)”中的應(yīng)用場(chǎng)景、潛在風(fēng)險(xiǎn)及防范策略

摘? ? 要：生成式人工智能是一種強(qiáng)大的自然語(yǔ)言處理技術(shù)，ChatGPT（Chat Generative Pre-trained Transformer，聊天生成型預(yù)訓(xùn)練變換模型）是其中的代表之一。近年來(lái)，隨著生成式人工智能技術(shù)的快速發(fā)展，ChatGPT在教育領(lǐng)域的應(yīng)用日益受到關(guān)注。ChatGPT帶來(lái)了輔助學(xué)習(xí)、個(gè)性化學(xué)習(xí)、互動(dòng)體驗(yàn)和課程創(chuàng)新等方面的變革，展現(xiàn)了其在教育領(lǐng)域中的潛在價(jià)值。同時(shí)，ChatGPT是一把“雙刃劍”，其在內(nèi)容質(zhì)量控制、倫理道德等方面存在潛在風(fēng)險(xiǎn)。因此，多元防范主體必須協(xié)同發(fā)揮作用，通過(guò)不斷加強(qiáng)技術(shù)升級(jí)與審查、開(kāi)展理性引導(dǎo)與文化教育等手段，有效防范和化解ChatGPT在“教”與“學(xué)”雙邊活動(dòng)中存在的潛在風(fēng)險(xiǎn)，確保其在教育領(lǐng)域中的安全和可持續(xù)發(fā)展。

關(guān)鍵詞：ChatGPT；人工智能；應(yīng)用場(chǎng)景；風(fēng)險(xiǎn)；防范策略

中圖分類號(hào)：G641.3? ? ? 文獻(xiàn)標(biāo)識(shí)碼：Ａ? ? ? 文章編號(hào)：1002-4107（2024）05-0036-04

一、引言

ChatGPT是由美國(guó)人工智能公司OpenAI開(kāi)發(fā)的一個(gè)基于GPT-3.5架構(gòu)的大型語(yǔ)言模型，自2022年11月推出以來(lái)，便引發(fā)了全球范圍的熱議與討論。ChatGPT體現(xiàn)出的用戶交互功能，為人類解決自然語(yǔ)言處理問(wèn)題提供了可行性路徑，因此，ChatGPT受到全球各國(guó)政府、學(xué)術(shù)界乃至普通用戶的青睞，被廣泛用于文字撰寫(xiě)、在線客服、編程輔助、內(nèi)容創(chuàng)作等場(chǎng)景，其給教育界帶來(lái)的影響亦不容小覷。ChatGPT作為一種新興的革新性力量介入課程“教”與“學(xué)”的雙邊活動(dòng)，勢(shì)必會(huì)給課程建設(shè)理念與實(shí)踐帶來(lái)重大變革。文章旨在探討ChatGPT在課程“教”與“學(xué)”中的應(yīng)用，揭示其在教育領(lǐng)域中的潛在價(jià)值；同時(shí)，系統(tǒng)探討ChatGPT可能帶來(lái)的潛在風(fēng)險(xiǎn)，并提出相應(yīng)的風(fēng)險(xiǎn)防范策略，以確保ChatGPT生成式人工智能技術(shù)在課程建設(shè)領(lǐng)域的安全和可持續(xù)發(fā)展。

二、ChatGPT在課程“教”與“學(xué)”雙邊活動(dòng)中的應(yīng)用

教育領(lǐng)域從不缺乏科學(xué)技術(shù)的創(chuàng)新應(yīng)用。ChatGPT生成式人工智能基于其對(duì)用戶意圖的準(zhǔn)確理解和定位，能夠初步“學(xué)習(xí)”人類經(jīng)驗(yàn)[1]，實(shí)現(xiàn)人機(jī)的雙向溝通，并對(duì)問(wèn)題的回答顯示出極強(qiáng)的邏輯性和專業(yè)性，受到全球范圍內(nèi)廣大用戶的青睞。ChatGPT在教育領(lǐng)域中的應(yīng)用價(jià)值也在不斷提升，不僅給學(xué)生帶來(lái)了新的學(xué)習(xí)和課程體驗(yàn)，也為教育領(lǐng)域提供了未來(lái)發(fā)展方向。ChatGPT在課程教學(xué)活動(dòng)中的應(yīng)用主要表現(xiàn)為其帶來(lái)了輔助學(xué)習(xí)、個(gè)性化學(xué)習(xí)、互動(dòng)體驗(yàn)和課程創(chuàng)新等方面的變革。

（一）ChatGPT在學(xué)生輔助學(xué)習(xí)場(chǎng)景中的應(yīng)用

ChatGPT在學(xué)生輔助學(xué)習(xí)場(chǎng)景中的應(yīng)用主要是通過(guò)其生成式文本生成能力和自然語(yǔ)言處理技術(shù)給學(xué)生提供幫助和支持。第一，ChatGPT可以作為一個(gè)虛擬助手，回答學(xué)生在課程學(xué)習(xí)過(guò)程中遇到的問(wèn)題。在學(xué)生向ChatGPT進(jìn)行發(fā)問(wèn)后，ChatGPT會(huì)對(duì)輸入的問(wèn)題進(jìn)行處理，并將答案直接展示給學(xué)生，使學(xué)生快速獲取信息。同時(shí)，ChatGPT可以根據(jù)學(xué)生的學(xué)習(xí)進(jìn)度和表現(xiàn)，提供個(gè)性化的輔導(dǎo)和反饋。ChatGPT可以分析學(xué)生的答案或?qū)W習(xí)情況，識(shí)別錯(cuò)誤和薄弱點(diǎn)，并給出相應(yīng)的指導(dǎo)和建議，幫助學(xué)生改進(jìn)學(xué)習(xí)。第二，ChatGPT可以為學(xué)生提供豐富的學(xué)習(xí)資源，包括課程資料、輔導(dǎo)材料、模擬題等。學(xué)生可以通過(guò)與ChatGPT的對(duì)話，獲取適合自己學(xué)習(xí)階段和需求的課程資源，促使自己更加沉浸地學(xué)習(xí)，深入探索知識(shí)。第三，ChatGPT可以扮演一個(gè)與學(xué)生進(jìn)行互動(dòng)的虛擬角色，通過(guò)“接受輸

入—語(yǔ)境理解—意圖處理—生成并輸出回復(fù)—反饋”的循環(huán)流程，模擬真實(shí)對(duì)話場(chǎng)景，鼓勵(lì)學(xué)生主動(dòng)提問(wèn)和思考，與學(xué)生進(jìn)行情感上的交流，激發(fā)學(xué)生的學(xué)習(xí)熱情，提高學(xué)習(xí)興趣和參與度。

（二）ChatGPT在學(xué)生個(gè)性化學(xué)習(xí)場(chǎng)景中的應(yīng)用

ChatGPT在學(xué)生個(gè)性化學(xué)習(xí)場(chǎng)景中的應(yīng)用主要是根據(jù)學(xué)生的個(gè)體差異和不同的學(xué)習(xí)需求，為每個(gè)學(xué)生制定學(xué)習(xí)內(nèi)容和學(xué)習(xí)體驗(yàn)。第一，通過(guò)與學(xué)生進(jìn)行交互，ChatGPT可以了解學(xué)生的學(xué)習(xí)需求，根據(jù)學(xué)生的學(xué)習(xí)風(fēng)格、興趣愛(ài)好和知識(shí)水平等，為學(xué)生制定課程內(nèi)容體系，并生成適合學(xué)生個(gè)性化特點(diǎn)的學(xué)習(xí)材料。第二，ChatGPT可以根據(jù)學(xué)生的學(xué)習(xí)效果和學(xué)習(xí)進(jìn)度，智能地安排學(xué)習(xí)計(jì)劃和時(shí)間表，給出相應(yīng)的學(xué)習(xí)改進(jìn)建議和調(diào)整方案，并提供指導(dǎo)和反饋，為學(xué)生迅速調(diào)整改進(jìn)課程學(xué)習(xí)的方式方法，促使學(xué)生更加高效地學(xué)習(xí)。第三，ChatGPT可以根據(jù)學(xué)生的學(xué)科偏好、學(xué)習(xí)目標(biāo)和學(xué)習(xí)歷史，智能地推薦適合學(xué)生個(gè)性化需求的學(xué)習(xí)資源。學(xué)生可以更加自主地選擇學(xué)習(xí)內(nèi)容和學(xué)習(xí)方向，進(jìn)行自主學(xué)習(xí)和自主探索。第四，ChatGPT可以在教育心理輔導(dǎo)方面發(fā)揮作用，其通過(guò)與學(xué)生的交流對(duì)話，為學(xué)生提供心理支持，便于學(xué)生更好地進(jìn)行情緒管理，應(yīng)對(duì)學(xué)習(xí)壓力。

（三）ChatGPT在學(xué)生互動(dòng)體驗(yàn)場(chǎng)景中的應(yīng)用

ChatGPT在學(xué)生互動(dòng)體驗(yàn)場(chǎng)景中的應(yīng)用是通過(guò)與學(xué)生進(jìn)行自然語(yǔ)言交互，創(chuàng)造一種沉浸式的、有趣的互動(dòng)體驗(yàn)。第一，ChatGPT可以成為單純有趣的聊天伙伴。ChatGPT可以被設(shè)計(jì)成一個(gè)具有個(gè)性化特點(diǎn)的虛擬角色，賦予特定的個(gè)性、口吻和語(yǔ)氣，使其更像一個(gè)真實(shí)的人物，與學(xué)生進(jìn)行情感上的交流和互動(dòng)，分享有趣的故事和笑話。第二，通過(guò)與ChatGPT的對(duì)話，學(xué)生可以參與到沉浸式的故事或場(chǎng)景中，進(jìn)行角色扮演。ChatGPT可以根據(jù)學(xué)生的問(wèn)題輸入，生成連貫的故事情節(jié)和場(chǎng)景描述，讓學(xué)生身臨其境地體驗(yàn)其中的情節(jié)和事件。第三，ChatGPT可以被應(yīng)用于智能游戲和解謎類應(yīng)用中。ChatGPT可以根據(jù)學(xué)生的需求，提供相應(yīng)的游戲情節(jié)和謎題；學(xué)生通過(guò)與ChatGPT的對(duì)話解決謎題，增加游戲探索性，獲得挑戰(zhàn)樂(lè)趣，獲取藝術(shù)靈感和指導(dǎo)。ChatGPT還可以與學(xué)生一起進(jìn)行藝術(shù)創(chuàng)作，如共同創(chuàng)作詩(shī)歌、繪畫(huà)等，為學(xué)生提供與AI（Artificia Intelligence，人工智能）合作的獨(dú)特體驗(yàn)。第四，ChatGPT可以成為學(xué)生的語(yǔ)言學(xué)習(xí)伙伴。學(xué)生可以與ChatGPT進(jìn)行語(yǔ)言對(duì)話，練習(xí)口語(yǔ)表達(dá)和發(fā)音；可以通過(guò)向ChatGPT詢問(wèn)語(yǔ)法和語(yǔ)言使用規(guī)則，理解語(yǔ)言結(jié)構(gòu)；可以通過(guò)ChatGPT修正自己的語(yǔ)言文字作品，從而改進(jìn)寫(xiě)作技巧。

（四）ChatGPT在教師課程創(chuàng)新場(chǎng)景中的應(yīng)用

ChatGPT依靠其可提供的多樣化、交互性強(qiáng)的功能特性，給課程改革創(chuàng)新帶來(lái)契機(jī)。第一，ChatGPT可以作為教師的智能助手，幫助教師優(yōu)化課程設(shè)計(jì)，提供備課支持。教師可以與ChatGPT進(jìn)行交互，指定教學(xué)目標(biāo)、教學(xué)重難點(diǎn)，ChatGPT則根據(jù)教師的輸入生成相應(yīng)的教學(xué)材料和練習(xí)題，幫助教師獲取課程相關(guān)資料、教學(xué)案例和教學(xué)活動(dòng)的創(chuàng)意，更高效地進(jìn)行課程設(shè)計(jì)。第二，ChatGPT可以應(yīng)用于開(kāi)放教育資源（Open Educational Resources， OER）的創(chuàng)作中，為教育社區(qū)提供豐富的免費(fèi)學(xué)習(xí)資料。ChatGPT可以根據(jù)不同學(xué)科領(lǐng)域的需求，生成開(kāi)放式教育資源，包括課程講義、教學(xué)音視頻、練習(xí)題等，促進(jìn)教育資源的共享和傳播。第三，ChatGPT可以整合不同學(xué)科領(lǐng)域的知識(shí)，應(yīng)用于“線上＋線下”混合式學(xué)習(xí)模式中。學(xué)生可以在課堂上通過(guò)與ChatGPT互動(dòng)，獲取跨學(xué)科的課程資料和知識(shí)要點(diǎn)，并進(jìn)行答疑互動(dòng)，將線下課堂學(xué)習(xí)與線上互動(dòng)交流相結(jié)合。線下學(xué)習(xí)的穩(wěn)定性和在線學(xué)習(xí)的靈活性，可共同為學(xué)生學(xué)習(xí)提供更多的時(shí)間和空間。

三、ChatGPT在課程“教”與“學(xué)”雙邊活動(dòng)中存在的潛在風(fēng)險(xiǎn)

生成式人工智能技術(shù)的迅速發(fā)展為課程教學(xué)帶來(lái)了新的機(jī)遇，然而，隨著其逐漸被廣泛應(yīng)用，也將帶來(lái)一系列潛在的風(fēng)險(xiǎn)和挑戰(zhàn)。ChatGPT是一個(gè)生成式的人工智能模型，其生成的內(nèi)容是基于在大規(guī)模數(shù)據(jù)集上學(xué)到的語(yǔ)言模式和知識(shí)，這種生成式的特性給學(xué)生的學(xué)習(xí)內(nèi)容、學(xué)習(xí)心理等方面帶來(lái)了挑戰(zhàn)，具體表現(xiàn)為，ChatGPT可能在內(nèi)容質(zhì)量控制、倫理道德等方面存在潛在風(fēng)險(xiǎn)。

（一）ChatGPT可能帶來(lái)內(nèi)容質(zhì)量控制的風(fēng)險(xiǎn)

ChatGPT是根據(jù)預(yù)訓(xùn)練數(shù)據(jù)集中學(xué)到的語(yǔ)言模式和知識(shí)生成的一種生成式模型。這種生成式模型的特性使其在內(nèi)容質(zhì)量控制方面可能存在一些風(fēng)險(xiǎn)。第一，生成式內(nèi)容的可信度和準(zhǔn)確性方面。ChatGPT生成的內(nèi)容可能受到預(yù)訓(xùn)練數(shù)據(jù)集中信息的影響，導(dǎo)致輸出內(nèi)容存在不準(zhǔn)確或不可信的情況，尤其在面對(duì)復(fù)雜或?qū)I(yè)性較強(qiáng)的問(wèn)題時(shí)，ChatGPT可能無(wú)法提供高質(zhì)量的答案，甚至給出錯(cuò)誤的信息。第二，生成式內(nèi)容的模糊性和錯(cuò)誤性方面。

ChatGPT的生成式特性決定了其回答是基于概率分布，因此，在某些情況下，其可能給出多種可能的回答，輸出含糊或模棱兩可的學(xué)習(xí)內(nèi)容，這樣的輸出可能會(huì)給學(xué)生帶來(lái)困惑。第三，基于少樣本學(xué)習(xí)的內(nèi)容生成不足方面。盡管ChatGPT在大規(guī)模數(shù)據(jù)集上進(jìn)行了預(yù)訓(xùn)練，但在面對(duì)某些特定學(xué)科領(lǐng)域或復(fù)雜問(wèn)題時(shí)，由于數(shù)據(jù)量不足，其可能無(wú)法生成高質(zhì)量的內(nèi)容。例如，在醫(yī)學(xué)診斷、法律咨詢、量子計(jì)算、高能物理、繪畫(huà)等領(lǐng)域，ChatGPT的應(yīng)用效果非常有限，必須尋求相關(guān)領(lǐng)域的專業(yè)人士解決該類復(fù)雜問(wèn)題。第四，生成式內(nèi)容的主觀性和偏見(jiàn)方面。ChatGPT在互動(dòng)中可能輸出一些不適當(dāng)或有害的內(nèi)容，尤其是當(dāng)學(xué)生輸入不當(dāng)?shù)膯?wèn)題或信息時(shí)，其輸出內(nèi)容可能導(dǎo)致學(xué)生受到偏頗觀點(diǎn)的影響，從而影響學(xué)習(xí)體驗(yàn)和學(xué)習(xí)結(jié)果。

（二）ChatGPT可能帶來(lái)倫理道德問(wèn)題的困境

ChatGPT通過(guò)大規(guī)模預(yù)訓(xùn)練模型，并基于龐大的文本數(shù)據(jù)集，學(xué)習(xí)語(yǔ)言模式和知識(shí)。這些數(shù)據(jù)集可能包含了現(xiàn)實(shí)世界中存在的偏見(jiàn)，而這些偏見(jiàn)會(huì)在ChatGPT的生成內(nèi)容中體現(xiàn)出來(lái)。第一，可能帶來(lái)性別和種族偏見(jiàn)。

ChatGPT可能在生成內(nèi)容時(shí)出現(xiàn)性別或種族上的傾向性。例如，在描述某些職業(yè)或特定人群時(shí)，可能會(huì)出現(xiàn)性別刻板印象或種族歧視，可能更傾向于使用與某些性別或種族相關(guān)的詞語(yǔ)，或者在描述特定事件或情況時(shí)表現(xiàn)出偏見(jiàn)。第二，可能帶來(lái)文化和社會(huì)偏見(jiàn)。ChatGPT學(xué)習(xí)到的數(shù)據(jù)可能反映特定文化或社會(huì)觀點(diǎn)，導(dǎo)致輸出內(nèi)容在跨文化和跨社會(huì)背景下產(chǎn)生不適應(yīng)或誤導(dǎo)性。第三，可能帶來(lái)知識(shí)偏見(jiàn)。ChatGPT學(xué)習(xí)的數(shù)據(jù)集可能來(lái)源于特定領(lǐng)域或網(wǎng)站，因此，可能因缺乏某些領(lǐng)域的全面知識(shí)，導(dǎo)致在一些學(xué)科領(lǐng)域中出現(xiàn)生成內(nèi)容的不足或錯(cuò)誤。第四，可能帶來(lái)算法偏向。ChatGPT的生成內(nèi)容可能受到預(yù)訓(xùn)練算法的影響，導(dǎo)致特定類型的問(wèn)題或主題受到更多關(guān)注，而忽略其他方面的信息。ChatGPT數(shù)據(jù)本身反映了社會(huì)和文化的多樣性，偏見(jiàn)的根源可能是深層次的社會(huì)問(wèn)題，完全消除所有偏見(jiàn)必將是一個(gè)復(fù)雜的挑戰(zhàn)。

ChatGPT是一個(gè)基于大規(guī)模數(shù)據(jù)集預(yù)訓(xùn)練的生成式模型，本身并不具備倫理判斷能力和良心意識(shí)，可能無(wú)法提供針對(duì)倫理問(wèn)題的恰當(dāng)回應(yīng)和指導(dǎo)，因此，可能引發(fā)倫理風(fēng)險(xiǎn)。一方面，可能帶來(lái)倫理準(zhǔn)則與生成內(nèi)容相沖突的情況。由于大規(guī)模數(shù)據(jù)集內(nèi)容的不確定性，ChatGPT可能輸出暴力、歧視、冒犯或敏感等不正確的觀點(diǎn)或有害的內(nèi)容，對(duì)學(xué)生產(chǎn)生負(fù)面影響。同時(shí)，預(yù)訓(xùn)練數(shù)據(jù)集中可能包含了現(xiàn)實(shí)世界中存在的偏見(jiàn)和歧視性觀點(diǎn)，導(dǎo)致ChatGPT在生成內(nèi)容時(shí)可能表現(xiàn)出性別、種族、地域或其他方面的偏見(jiàn)，與現(xiàn)實(shí)社會(huì)的倫理準(zhǔn)則相沖突。另一方面，ChatGPT作為一種高度智能的聊天機(jī)器人，其在提供個(gè)性化學(xué)習(xí)支持和作業(yè)輔導(dǎo)等時(shí)，需要獲取大量包括學(xué)生基本信息、學(xué)習(xí)情況、行為和互動(dòng)記錄等在內(nèi)的詳細(xì)數(shù)據(jù)，這些隱私數(shù)據(jù)可能會(huì)被 ChatGPT 模型抓取，在其生成教學(xué)資源輸出時(shí)，會(huì)對(duì)學(xué)生的個(gè)人信息和隱私數(shù)據(jù)進(jìn)行深度處理，可能向其他用戶或組織泄露，進(jìn)而產(chǎn)生嚴(yán)重的隱私安全隱患。

ChatGPT的科技屬性天然影響著意識(shí)形態(tài)?！凹夹g(shù)利維坦”、智能算法“把關(guān)人”、資本技術(shù)操控的共同作用，極易誘發(fā)多重意識(shí)形態(tài)風(fēng)險(xiǎn)[2]。作為一個(gè)生成式的人工智能模型，ChatGPT可能會(huì)改變?nèi)藗兊纳罘绞胶蛢r(jià)值觀念，也可能威脅主流意識(shí)形態(tài)的話語(yǔ)權(quán)威。例如，以西方國(guó)家為代表的開(kāi)發(fā)者極易利用ChatGPT的輸出內(nèi)容和個(gè)性特征，以宣傳和操縱為目的，通過(guò)生成內(nèi)容來(lái)傳播特定的意識(shí)形態(tài)或觀點(diǎn)，輸出一些帶有西方意識(shí)形態(tài)色彩和價(jià)值觀的錯(cuò)誤內(nèi)容，并且通過(guò)反復(fù)、連續(xù)輸出不斷強(qiáng)化錯(cuò)誤內(nèi)容，對(duì)其他國(guó)家用戶進(jìn)行隱性的意識(shí)形態(tài)攻擊和滲透，而這極易導(dǎo)致學(xué)生用戶陷入西方錯(cuò)誤思想傳播的思維陷阱，失去政治判斷能力，引發(fā)學(xué)生對(duì)社會(huì)主義核心價(jià)值觀的理論和情感認(rèn)同危機(jī)，進(jìn)而削弱馬克思主義主流意識(shí)形態(tài)認(rèn)同，壓縮主流意識(shí)形態(tài)生存空間，影響社會(huì)和諧安定。

四、ChatGPT誘發(fā)課程“教”與“學(xué)”風(fēng)險(xiǎn)的防范策略

ChatGPT生成式人工智能技術(shù)給自主學(xué)習(xí)帶來(lái)了新的風(fēng)險(xiǎn)與挑戰(zhàn)，其中，內(nèi)容質(zhì)量控制、倫理道德等問(wèn)題是需要重視的關(guān)鍵領(lǐng)域。對(duì)此，多元防范主體必須協(xié)同發(fā)揮作用，通過(guò)不斷加強(qiáng)技術(shù)升級(jí)與審查、開(kāi)展理性引導(dǎo)與文化教育等手段，有效防范和化解ChatGPT在“教”與“學(xué)”雙邊活動(dòng)中存在的潛在風(fēng)險(xiǎn)，確保其在教育領(lǐng)域中的安全和可持續(xù)發(fā)展。

（一）加強(qiáng)技術(shù)升級(jí)與審查以防范內(nèi)容質(zhì)量控制風(fēng)險(xiǎn)

加強(qiáng)ChatGPT技術(shù)的升級(jí)與審查是防范內(nèi)容質(zhì)量控制風(fēng)險(xiǎn)的關(guān)鍵步驟，可從以下2方面進(jìn)行。一方面，優(yōu)化ChatGPT的模型和算法，提高其在內(nèi)容質(zhì)量控制方面的性能及穩(wěn)定性。深入分析ChatGPT與學(xué)生學(xué)習(xí)目的、課程目標(biāo)之間的關(guān)系，并基于該關(guān)系對(duì)ChatGPT進(jìn)行技術(shù)升級(jí)。通過(guò)優(yōu)化Transformer模型的結(jié)構(gòu)，如增加層數(shù)、調(diào)整注意力機(jī)制等，提高ChatGPT課程生成內(nèi)容的連貫性和準(zhǔn)確性，減少不準(zhǔn)確內(nèi)容輸出的風(fēng)險(xiǎn)。另一方面，引入審查和監(jiān)督機(jī)制，確保ChatGPT生成內(nèi)容的準(zhǔn)確性和可靠性。審查和監(jiān)督是傳統(tǒng)教育領(lǐng)域中常用的教學(xué)管理手段，已在日常的教學(xué)管理、教材審查、作業(yè)批改等方面取得了確實(shí)成效，將其引入ChatGPT內(nèi)容質(zhì)量控制是一種創(chuàng)新嘗試。一是建立對(duì)ChatGPT生成內(nèi)容的審查機(jī)制。研發(fā)人員和開(kāi)發(fā)者、專業(yè)教育者或管理員通過(guò)對(duì)內(nèi)容進(jìn)行審核，判定內(nèi)容的準(zhǔn)確性和合適性。同時(shí)，讓有經(jīng)驗(yàn)的教師或教育專家參與課程學(xué)習(xí)過(guò)程，監(jiān)督并修正ChatGPT生成內(nèi)容的質(zhì)量和準(zhǔn)確性。二是構(gòu)建內(nèi)容質(zhì)量控制監(jiān)督系統(tǒng)。對(duì)ChatGPT輸出內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測(cè)，定期檢查生成的內(nèi)容。當(dāng)檢測(cè)到不當(dāng)或有害內(nèi)容時(shí)，及時(shí)進(jìn)行干預(yù)和調(diào)整。對(duì)于某些敏感或?qū)I(yè)性較強(qiáng)的話題，可以限制ChatGPT的使用場(chǎng)景，避免輸出不適宜的內(nèi)容。

（二）開(kāi)展理性引導(dǎo)與文化教育以解決倫理道德危機(jī)

解決ChatGPT數(shù)據(jù)偏見(jiàn)問(wèn)題對(duì)于維護(hù)人工智能技術(shù)的道德和社會(huì)責(zé)任至關(guān)重要，有助于確保技術(shù)的公正、可靠和可持續(xù)發(fā)展。首先，引導(dǎo)學(xué)生樹(shù)立批判性思維，在使用ChatGPT生成的內(nèi)容時(shí)保持冷靜謹(jǐn)慎。教師應(yīng)向?qū)W生解釋ChatGPT是一個(gè)生成式模型，強(qiáng)調(diào)數(shù)據(jù)偏見(jiàn)是由數(shù)據(jù)集中存在的社會(huì)、文化或個(gè)人等偏見(jiàn)導(dǎo)致的，其輸出內(nèi)容是基于大規(guī)模數(shù)據(jù)生成而來(lái)的，并不等同于真實(shí)世界的知識(shí)。同時(shí)，鼓勵(lì)學(xué)生不要過(guò)度依賴ChatGPT，可參考其他可靠的信息來(lái)源，如教科書(shū)、學(xué)術(shù)論文和權(quán)威網(wǎng)站等。其次，合理規(guī)劃課堂活動(dòng)。教師應(yīng)主動(dòng)引入課堂互動(dòng)活動(dòng)，通過(guò)實(shí)際案例演示，讓學(xué)生親身體驗(yàn)ChatGPT的使用，使學(xué)生認(rèn)識(shí)到數(shù)據(jù)偏見(jiàn)可能對(duì)知識(shí)和決策產(chǎn)生負(fù)面影響。同時(shí)，與學(xué)生一起討論ChatGPT使用中可能出現(xiàn)的問(wèn)題，引導(dǎo)學(xué)生思考并提出解決方案。最后，對(duì)學(xué)生提供及時(shí)反饋和指導(dǎo)。在學(xué)生使用ChatGPT進(jìn)行寫(xiě)作和研究時(shí)，教師應(yīng)鼓勵(lì)學(xué)生收集、分析和驗(yàn)證數(shù)據(jù)，并向?qū)W生指出其中可能存在的問(wèn)題和改進(jìn)之處，引導(dǎo)學(xué)生在使用數(shù)據(jù)時(shí)要注意數(shù)據(jù)的來(lái)源和質(zhì)量。同時(shí)，鼓勵(lì)學(xué)生選擇多樣化、全面性的數(shù)據(jù)集，避免過(guò)度依賴和使用單一來(lái)源數(shù)據(jù)。

減輕ChatGPT倫理風(fēng)險(xiǎn)是保障人工智能技術(shù)安全、可靠和社會(huì)受益的重要一環(huán)，需要技術(shù)開(kāi)發(fā)者、研究者、決策者和社會(huì)各界的合作與共同努力。首先，制定相應(yīng)的倫理準(zhǔn)則，建立倫理審查機(jī)制。基于國(guó)際公認(rèn)的倫理標(biāo)準(zhǔn)和法律法規(guī)，制定明確的倫理準(zhǔn)則和指導(dǎo)方針，包括內(nèi)容質(zhì)量控制、數(shù)據(jù)隱私、偏見(jiàn)規(guī)避等。同時(shí)，建立倫理審查機(jī)制，對(duì)ChatGPT的應(yīng)用場(chǎng)景和目的進(jìn)行評(píng)估，在模型輸出內(nèi)容時(shí)，可以引入倫理“過(guò)濾器”，檢測(cè)和阻止有害內(nèi)容，確保其符合倫理準(zhǔn)則和社會(huì)價(jià)值。其次，實(shí)施隱私保護(hù)措施，確保用戶信息安全。對(duì)于用戶提供的個(gè)人數(shù)據(jù)，應(yīng)采取隱私保護(hù)措施，避免泄露危害個(gè)人安全的信息。在使用用戶數(shù)據(jù)進(jìn)行訓(xùn)練時(shí)，可以進(jìn)行數(shù)據(jù)脫敏處理，或在用戶數(shù)據(jù)與模型的鏈接中使用匿名ID代替真實(shí)用戶ID。另外，對(duì)ChatGPT系統(tǒng)的訪問(wèn)進(jìn)行嚴(yán)格控制，只允許授權(quán)人員訪問(wèn)和操作模型，限制非授權(quán)人員的訪問(wèn)。最后，加強(qiáng)多方合作與監(jiān)管。建立一個(gè)由多方參與的審查委員會(huì)或?qū)＜覉F(tuán)隊(duì)，包括人工智能研究者、教育專家、倫理學(xué)專家、法律專家等，確保審查機(jī)制的全面性和多角度的評(píng)估，以加強(qiáng)各行業(yè)各領(lǐng)域之間的合作與監(jiān)管，共同應(yīng)對(duì)可能的倫理風(fēng)險(xiǎn)。

通過(guò)建立文化指導(dǎo)準(zhǔn)則，將人工智能的發(fā)展和應(yīng)用納入社會(huì)和文化的框架中，確保模型的開(kāi)發(fā)和應(yīng)用符合不同文化背景，可以更好地化解ChatGPT帶來(lái)的各種風(fēng)險(xiǎn)。第一，建立跨文化審查機(jī)制，確保模型的輸出內(nèi)容符合各種文化背景的政治道德標(biāo)準(zhǔn)。針對(duì)輸出內(nèi)容中涉及的敏感領(lǐng)域，如宗教、政治等，設(shè)置審查機(jī)制，避免輸出涉及文化潛在沖突的內(nèi)容。第二，增加模型的透明度和解釋性，讓學(xué)生了解模型的生成規(guī)則和運(yùn)行邏輯。教師應(yīng)講解ChatGPT是如何做出決策、生成內(nèi)容的，解釋模型可能受到文化因素的影響，使學(xué)生能夠理解模型的運(yùn)行。第三，融合紅色文化與人工智能領(lǐng)域研究的關(guān)涉點(diǎn)，提升紅色文化育人資源的供給能力[3]，打造紅色資源數(shù)據(jù)庫(kù)、3D影像技術(shù)、VR網(wǎng)絡(luò)虛擬現(xiàn)實(shí)技術(shù)等，開(kāi)展以“人”“物”“事”“魂”等為主線的紅色文化深度體驗(yàn)，通過(guò)紅色文化傳播，強(qiáng)化主流意識(shí)形態(tài)話語(yǔ)認(rèn)同。第四，鼓勵(lì)國(guó)內(nèi)自主研發(fā)具有本國(guó)文化特色的生成式人工智能模型，以化解意識(shí)形態(tài)風(fēng)險(xiǎn)。通過(guò)自主研發(fā)，積極推動(dòng)人工智能技術(shù)文化產(chǎn)品的數(shù)字化、網(wǎng)絡(luò)化，加強(qiáng)正能量、高質(zhì)量AI技術(shù)資源的傳播。2023年，國(guó)內(nèi)企業(yè)相繼推出了諸如HuggingGPT等本土化的人工智能產(chǎn)品。HuggingGPT是一個(gè)基于PyTorch框架的自然語(yǔ)言處理協(xié)作系統(tǒng)，專注于文本生成、對(duì)話系統(tǒng)等，其在整個(gè)科技圈爆火，說(shuō)明了我國(guó)具備了自主研發(fā)類似的自然語(yǔ)言處理技術(shù)的可行性。

五、結(jié)束語(yǔ)

ChatGPT（或類似的自然語(yǔ)言處理技術(shù)）在教育領(lǐng)域中具有廣闊的應(yīng)用前景。ChatGPT作為一個(gè)強(qiáng)大的語(yǔ)言模型，可以廣泛用于與學(xué)生、教師和其他教育參與者的交互，提供個(gè)性化的學(xué)習(xí)體驗(yàn)和教育支持。然而，在使用

ChatGPT時(shí)，也要注意一些潛在的挑戰(zhàn)和問(wèn)題，如模型的誤導(dǎo)性回答、對(duì)隱私的關(guān)注等。因此，將ChatGPT應(yīng)用于自主學(xué)習(xí)中需要采取謹(jǐn)慎的態(tài)度和負(fù)責(zé)任的方法，辯證審視其可能誘發(fā)的風(fēng)險(xiǎn)，確保其真正成為學(xué)習(xí)和教學(xué)的有益工具，推進(jìn)ChatGPT等人工智能技術(shù)在教育教學(xué)領(lǐng)域的良性發(fā)展。

參考文獻(xiàn)：

[1]? 黃欣榮，劉亮.ChatGPT賦能思想政治教育：技術(shù)路徑與可能問(wèn)題[J].江西財(cái)經(jīng)大學(xué)學(xué)報(bào)，2023（6）：105.

[2]? 王延川，趙靖.生成式人工智能誘發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的邏輯機(jī)理及其應(yīng)對(duì)策略[J].河南師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，50（4）：1.

[3]? 文娛.“大思政課”視域下高校紅色文化育人模式研究[J].黑龍江教育（理論與實(shí)踐），2023，77（10）：85.

編輯∕王力

收稿日期：2023-09-19? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 修回日期：2023-10-12

作者簡(jiǎn)介：田淑慧，女，講師，研究方向?yàn)樗枷胝谓逃?/p>

基金項(xiàng)目：國(guó)家社會(huì)科學(xué)基金項(xiàng)目“新時(shí)代網(wǎng)絡(luò)公共話語(yǔ)空間的意識(shí)形態(tài)治理研究”（19BKS094）；黑龍江省教育科學(xué)規(guī)劃重點(diǎn)課題“網(wǎng)絡(luò)意識(shí)形態(tài)安全教育融入高校思想政治理論課研究”（GJB1423344）；黑龍江省高等教育教學(xué)改革項(xiàng)目思政課研究專項(xiàng)“思政課教學(xué)中網(wǎng)絡(luò)社會(huì)思潮辨析引導(dǎo)研究”（SJGSX2022006）