生成式人工智能嵌入思想政治教育的倫理風(fēng)險(xiǎn)及其治理路徑

周剛

近年來，以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為核心的數(shù)字技術(shù)迅速發(fā)展，特別是2022年以來，以ChatGPT為代表的生成式人工智能技術(shù)取得重大突破。生成式人工智能是指基于機(jī)器深度學(xué)習(xí)自主生成具有一定邏輯性的文本、圖像、視頻等內(nèi)容的模型及其相關(guān)智能技術(shù)。生成式人工智能一經(jīng)推出，就對(duì)包括教育在內(nèi)的眾多行業(yè)產(chǎn)生重塑性影響。思想政治教育是高等教育的重要組成部分，伴隨著高等教育數(shù)字化轉(zhuǎn)型的不斷深入，人工智能技術(shù)與思想政治教育融合日益緊密，其潛在的倫理風(fēng)險(xiǎn)如倫理準(zhǔn)則失衡、道德標(biāo)準(zhǔn)失守等隨之逐漸凸顯，并可能削弱思想政治教育實(shí)效。因此，具有前瞻性地審視生成式人工智能嵌入思想政治教育的倫理風(fēng)險(xiǎn)表現(xiàn)樣態(tài)，探究倫理風(fēng)險(xiǎn)生成邏輯及其治理路徑，對(duì)于推動(dòng)思想政治教育數(shù)字化轉(zhuǎn)型具有重要意義。

一、生成式人工智能嵌入思想政治教育

倫理風(fēng)險(xiǎn)的多重樣態(tài)

生成式人工智能技術(shù)在通過優(yōu)化育人過程、挖掘育人要素、拓寬育人空間深度嵌入思想政治教育的同時(shí)，其潛在倫理風(fēng)險(xiǎn)日益凸顯。這種倫理風(fēng)險(xiǎn)既源于人工智能的一般性倫理風(fēng)險(xiǎn)，也具有思想政治教育的顯著意識(shí)形態(tài)屬性，主要呈現(xiàn)出倫理關(guān)系失衡、倫理行為失當(dāng)、倫理規(guī)范失控等風(fēng)險(xiǎn)樣態(tài)。

倫理關(guān)系失衡，師生主體地位消解及自我認(rèn)知失調(diào)。生成式人工智能在融入思想政治教育的過程中，打破了原有學(xué)校教育中師生之間的強(qiáng)相關(guān)結(jié)構(gòu)，有可能降低教師在課堂上的主導(dǎo)地位，影響師生之間的互動(dòng)程度，削弱師生的主體地位，并可能導(dǎo)致學(xué)生自我認(rèn)知的失衡。

其一，生成式人工智能的融入淡化了師生之間的聯(lián)系，消解著教師的主體地位。一方面，以ChatGPT為代表的生成式人工智能能夠理解和生成人類語言，利用其內(nèi)置算法和模型，基于問題生成相應(yīng)的答案，形成“人—機(jī)器—人”的虛擬交互關(guān)系。受教育者可以通過ChatGPT直接獲取題目答案，批改課程作業(yè)，教師的信息主導(dǎo)優(yōu)勢(shì)和地位被不斷消解。另一方面，隨著生成式人工智能技術(shù)的發(fā)展，受教育者越來越依賴數(shù)字交往平臺(tái)，師生之間交往進(jìn)一步弱化，阻礙了師生之間的情感交流，教師主體地位被進(jìn)一步弱化。加之部分教育者數(shù)字化素養(yǎng)偏弱，在教學(xué)過程中運(yùn)用生成式人工智能技術(shù)難度較大，有可能加劇教育領(lǐng)域的“數(shù)字鴻溝”。

其二，生成式人工智能的潛在“畫像”功能，導(dǎo)致受教育者自我認(rèn)知失衡。大數(shù)據(jù)驅(qū)動(dòng)的生成式人工智能契合了思想政治教育的多樣化特征，能夠根據(jù)學(xué)生需求提供個(gè)性化、定制化學(xué)習(xí)內(nèi)容，不斷提升思想政治教育的精準(zhǔn)性。生成式人工智能在提供信息方面的確帶來了便利，但長(zhǎng)期的“信息投喂”也可能導(dǎo)致受教育者陷入“信息繭房”困境。人工智能算法往往會(huì)根據(jù)用戶喜好和瀏覽習(xí)慣，推送相似或重復(fù)信息，使得用戶接觸到的信息范圍變得狹窄，難以獲得更為豐富和全面的內(nèi)容。對(duì)于受教育者而言，長(zhǎng)期接觸這類偏窄的信息，可能會(huì)導(dǎo)致其思維固化，難以形成全面、客觀的自我認(rèn)知。

倫理行為失當(dāng)，造成數(shù)字技術(shù)過度依賴與算法偏見加劇。大數(shù)據(jù)和算法推薦是生成式人工智能的核心技術(shù)，但其在豐富思想政治教育形式、創(chuàng)新思政教學(xué)方法的同時(shí)，也存在過度依賴數(shù)字技術(shù)、算法權(quán)力異化等倫理風(fēng)險(xiǎn)。虛擬智能教育空間更多以數(shù)字技術(shù)作為主要支撐，其倫理判斷以量化形式表征，難以模擬并理解師生關(guān)系和道德觀念，學(xué)生難以從冰冷的數(shù)據(jù)中感受到人文關(guān)懷。

其一，過度依賴生成式人工智能技術(shù)，會(huì)弱化受教育者的批判思維和創(chuàng)新能力。一方面，隨著生成式人工智能技術(shù)的快速發(fā)展，其對(duì)信息數(shù)據(jù)進(jìn)行加工、篩選和復(fù)合能力顯著增強(qiáng)，極大地方便了人們的學(xué)習(xí)和生活，同時(shí)也容易使受教育者陷入算法的“舒適圈”，進(jìn)而產(chǎn)生對(duì)技術(shù)的盲目崇拜，過分依賴機(jī)器生成的信息弱化了人們對(duì)信息的篩選和加工能力。另一方面，當(dāng)個(gè)體與ChatGPT等生成式人工智能進(jìn)行交流時(shí)，其對(duì)話內(nèi)容和形式與“人類交互”高度相似，致使個(gè)體產(chǎn)生認(rèn)知的舒適性，缺乏對(duì)真實(shí)世界的直接接觸和感悟，容易引發(fā)對(duì)現(xiàn)實(shí)情況的誤判。以撰寫文獻(xiàn)綜述為例，使用ChatGPT可以較快獲得相關(guān)文獻(xiàn)并生成文獻(xiàn)綜述，但并不能替代研究者的學(xué)術(shù)素養(yǎng)訓(xùn)練，過度依賴這種工具將導(dǎo)致研究者喪失學(xué)術(shù)研究應(yīng)有的深入思考能力。

其二，算法偏見可能沖擊自由、公平等價(jià)值觀念，撕裂網(wǎng)絡(luò)主流意識(shí)形態(tài)價(jià)值認(rèn)同，進(jìn)而影響社會(huì)公平。一方面，以ChatGPT為代表的生成式人工智能在預(yù)訓(xùn)練過程中需要龐大的數(shù)據(jù)支撐，這些數(shù)據(jù)本身就可能帶有對(duì)特定群體的社會(huì)偏見，進(jìn)而加深刻板印象，從而加劇社會(huì)不平等。聯(lián)合國教科文組織發(fā)布的相關(guān)研究成果顯示，開源大語言模型傾向于將工程師、教師、醫(yī)生等更多元、地位更高的工作分配給男性，而經(jīng)常將女性與傳統(tǒng)意義上被低估或被“污名化”的角色掛鉤，從而引發(fā)性別歧視。［1］隨著生成式人工智能應(yīng)用越來越普遍，其生成內(nèi)容中極小的性別偏見，也可能顯著加劇現(xiàn)實(shí)世界中的不平等。另一方面，生成式人工智能在人機(jī)交換過程中不斷獲取用戶信息，并通過自我學(xué)習(xí)提高技術(shù)的準(zhǔn)確度。一旦使用者提問本身帶有惡意或者偏見，經(jīng)過長(zhǎng)期訓(xùn)練便可能造成錯(cuò)誤輸出。另外，技術(shù)研發(fā)人員的個(gè)人偏好和主觀情緒，也可能造成算法偏見并引起倫理問題。

倫理規(guī)范失控，可能導(dǎo)致隱私數(shù)據(jù)泄露與倫理責(zé)任主體缺失。生成式人工智能技術(shù)的快速發(fā)展，加之其在思想政治教育應(yīng)用過程中的相關(guān)法律道德規(guī)范不健全或執(zhí)行不力，可能引發(fā)倫理規(guī)范失控風(fēng)險(xiǎn)，主要包括隱私數(shù)據(jù)泄露和倫理責(zé)任主體缺失。

其一，教育信息采集和使用不當(dāng)，可能造成隱私數(shù)據(jù)泄露。生成式人工智能在應(yīng)用于思想政治教育實(shí)踐的過程中，需要通過電腦、監(jiān)控系統(tǒng)、可穿戴設(shè)備等智能設(shè)備采集大量教育者和受教育者的數(shù)據(jù)信息，全方面、全過程地了解師生的上課動(dòng)態(tài)和行程軌跡，從而輔助教師調(diào)整教學(xué)方式，進(jìn)行有效的智能測(cè)評(píng)和學(xué)情分析，為學(xué)生提供定制化教育資源和個(gè)性化教育形式。大數(shù)據(jù)的采集使師生信息數(shù)據(jù)高度透明化，其中不可避免地包含師生的生物外貌特征、心理缺陷、婚戀交友等隱私信息。如果師生數(shù)據(jù)保護(hù)意識(shí)不強(qiáng)，相關(guān)數(shù)據(jù)一旦被不法分子使用，將會(huì)造成不可估量的倫理風(fēng)險(xiǎn)。

其二，生成式人工智能的自我決策和自我學(xué)習(xí)功能，可能對(duì)傳統(tǒng)倫理責(zé)任主體造成沖擊。傳統(tǒng)的責(zé)任倫理判斷依賴決策行為與行動(dòng)結(jié)果之間的因果邏輯關(guān)系，可以明確追溯到主體責(zé)任。而以ChatGPT為代表的生成式人工智能，依據(jù)數(shù)據(jù)和算法驅(qū)動(dòng)的自主決策，其決策模型屬于“算法黑箱”而缺乏透明度，難以對(duì)具體決策進(jìn)行審查、干預(yù)和判斷。如果人工智能技術(shù)在嵌入思想政治教育過程中出現(xiàn)決策失誤，很難追究具體決策問題的技術(shù)主體責(zé)任到底來自技術(shù)研發(fā)者、數(shù)據(jù)提供者還是機(jī)器操作者。同時(shí)，思想政治教育承載著明確的政治立場(chǎng)和意識(shí)形態(tài)屬性，它要求教育者具備深刻的判斷力和敏銳的鑒別力，以引導(dǎo)學(xué)生形成正確的價(jià)值觀和政治觀念。然而，生成式人工智能設(shè)備盡管在某些領(lǐng)域展現(xiàn)出強(qiáng)大的能力，但不具備理解人類復(fù)雜思想的能力，在思想政治方面的判斷力、鑒別力等方面存在先天缺陷，容易造成誤判等風(fēng)險(xiǎn)。

二、生成式人工智能嵌入思想政治教育

倫理風(fēng)險(xiǎn)的生成機(jī)理

生成式人工智能嵌入思想政治教育，具體表現(xiàn)為以大數(shù)據(jù)為基礎(chǔ)、智能算法為核心的全面嵌入思想政治教育實(shí)踐各要素、全場(chǎng)域的過程。然而，這一進(jìn)程不可避免地伴隨著一系列倫理風(fēng)險(xiǎn)，其風(fēng)險(xiǎn)涉及范圍廣泛，從研發(fā)、設(shè)計(jì)到具體應(yīng)用，都可能對(duì)人與人、人與社會(huì)的和諧共生帶來潛在風(fēng)險(xiǎn)。這些倫理風(fēng)險(xiǎn)繼承了生成式人工智能領(lǐng)域普遍存在的倫理問題，彰顯了思想政治教育的獨(dú)特性，是內(nèi)生性機(jī)理、功能性機(jī)理和實(shí)踐性機(jī)理共同作用的結(jié)果。

內(nèi)生性機(jī)理：算法技術(shù)的局限性與思想政治教育的實(shí)效性相矛盾?？茖W(xué)技術(shù)像一把“雙刃劍”，既能夠推動(dòng)思想政治教育快速發(fā)展，有時(shí)也會(huì)“表現(xiàn)為異己的、敵對(duì)的和統(tǒng)治的權(quán)力”［2］，并制約思想政治教育的實(shí)際效用。隨著生成式人工智能的快速發(fā)展，大數(shù)據(jù)的算法優(yōu)勢(shì)逐漸彰顯，在彌補(bǔ)人類思維不足的同時(shí)，其自身也存在一定局限性?！八惴ê谙洹?、機(jī)器自主學(xué)習(xí)等技術(shù)性根源容易導(dǎo)致“算法歧視”，不可避免地帶來一系列倫理風(fēng)險(xiǎn)。

一方面，算法數(shù)據(jù)的依賴性與思想政治教育的時(shí)效性相違背。在生成式人工智能融入思想政治教育的實(shí)踐活動(dòng)中，算法技術(shù)扮演著核心角色，其高度依賴數(shù)據(jù)樣本卻帶來了不少倫理風(fēng)險(xiǎn)。首先，生成式人工智能算法模型更多依賴以往數(shù)據(jù)建立，而數(shù)據(jù)本身往往帶有偏見且容易過時(shí)?；谶@些數(shù)據(jù)來分析現(xiàn)實(shí)問題，與思想政治教育“因時(shí)而新”的需求相悖［3］。此外，一旦數(shù)據(jù)缺損或算法代碼出錯(cuò)，不僅無法保證算法模型的穩(wěn)定性，還可能導(dǎo)致誤判，進(jìn)而嚴(yán)重影響用戶“畫像”、信息推送等功能，引發(fā)倫理風(fēng)險(xiǎn)問題。此外，在借助生成式人工智能賦能思想政治教育時(shí)，教育對(duì)象思維的轉(zhuǎn)化、頓悟等心理轉(zhuǎn)變無法通過數(shù)據(jù)進(jìn)行預(yù)測(cè)分析，即生成式人工智能只能通過算法分析思想政治教育量的變化而無法達(dá)到質(zhì)變。

另一方面，算法模型的固定性與思想政治教育的針對(duì)性相沖突。思想政治教育的目標(biāo)是促進(jìn)個(gè)體自由而全面的發(fā)展，由于每個(gè)教育對(duì)象的個(gè)性特征和成長(zhǎng)環(huán)境不盡相同，需要根據(jù)個(gè)體實(shí)際情況進(jìn)行因材施教。生成式人工智能在融入思想政治教育后，將教育對(duì)象、教育過程等不同環(huán)節(jié)進(jìn)行精細(xì)化處理，轉(zhuǎn)化為一個(gè)個(gè)冰冷的數(shù)據(jù)符號(hào)，依托固定的算法模型為教育對(duì)象提供個(gè)性化學(xué)習(xí)資源，引導(dǎo)受教育者按照預(yù)設(shè)的模式進(jìn)行學(xué)習(xí)。這種統(tǒng)一固定的算法推薦模式，可能固化學(xué)生的創(chuàng)新思維，導(dǎo)致學(xué)生失去獨(dú)立思考的能力，本質(zhì)上不利于學(xué)生個(gè)性化發(fā)展，影響思想政治教育的針對(duì)性。

功能性機(jī)理：技術(shù)應(yīng)用的工具性與思想政治教育的價(jià)值性相沖突。功能性風(fēng)險(xiǎn)是由于生成式人工智能的技術(shù)理性擴(kuò)展而引發(fā)的倫理風(fēng)險(xiǎn)，它涉及智能技術(shù)在思想政治教育過程中可能帶來的各種道德困境和倫理挑戰(zhàn)。德國社會(huì)學(xué)家馬克斯·韋伯將技術(shù)理性劃分為工具理性和價(jià)值理性兩方面。工具理性追求的是目標(biāo)的達(dá)成和效率的最大化，它在賦能思想政治教育過程中，關(guān)注的是如何更有效地利用數(shù)字工具和手段來達(dá)到預(yù)期效果。價(jià)值理性強(qiáng)調(diào)的是行為的動(dòng)機(jī)和意義，而非僅僅是行為的結(jié)果或?qū)嵱眯?。?］在實(shí)際應(yīng)用中，價(jià)值理性要求我們?cè)谧非蠹夹g(shù)發(fā)展的同時(shí)，也要關(guān)注倫理道德和行為準(zhǔn)則。

一方面，生成式人工智能快速發(fā)展引起工具理性過度膨脹。生成式人工智能為思想政治教育注入了新的活力，能夠精準(zhǔn)地捕捉教育對(duì)象的學(xué)習(xí)狀態(tài)，準(zhǔn)確評(píng)估其學(xué)業(yè)水平，并模擬真實(shí)的教育場(chǎng)景為思想政治教育提供無限的創(chuàng)新空間，推動(dòng)教育的數(shù)字化和現(xiàn)代化進(jìn)程。然而，生成式人工智能技術(shù)的日益完善雖然極大地豐富了教育功能，但也導(dǎo)致教育對(duì)象過度沉浸于數(shù)字技術(shù)營(yíng)造的智能教育空間，并對(duì)數(shù)字技術(shù)產(chǎn)生過度依賴，進(jìn)而削弱了教育對(duì)象的學(xué)習(xí)能力和判斷能力。同時(shí)，這種過度依賴使得教育對(duì)象難以洞察思想政治教育背后所蘊(yùn)含的深刻價(jià)值和意義。因此，隨著生成式人工智能的“技術(shù)霸權(quán)”逐漸顯現(xiàn)，其工具理性不斷侵蝕價(jià)值理性，使得思想政治話語權(quán)被數(shù)字所支配。

另一方面，思想政治教育的價(jià)值理性的統(tǒng)攝作用得不到充分發(fā)揮。思想政治教育具備強(qiáng)烈的意識(shí)形態(tài)屬性，它致力于引導(dǎo)人們堅(jiān)定“聽黨話、跟黨走”的信念，肩負(fù)著培養(yǎng)合格的社會(huì)主義建設(shè)者和接班人的崇高使命。然而，與生成式人工智能的工具理性相比，兩者之間存在一定的張力，使得思想政治教育價(jià)值理性的發(fā)揮受到一定限制。教育對(duì)象在數(shù)字技術(shù)的誘惑下，過度依賴數(shù)字技術(shù)工具理性，導(dǎo)致人與人之間的情感交流逐漸淡化，高階思維判斷能力的發(fā)展受到嚴(yán)重阻礙。這種現(xiàn)狀不僅與思想政治教育“以人為本”的初衷背道而馳，更可能引發(fā)一系列倫理風(fēng)險(xiǎn)，對(duì)社會(huì)發(fā)展造成不良影響。因此，需要重新審視人工智能技術(shù)的工具理性與思想政治教育的價(jià)值理性之間的關(guān)系，確保兩者在思想政治教育過程中得到充分體現(xiàn)和最大限度的平衡。

實(shí)踐性機(jī)理邏輯：技術(shù)發(fā)展的不確定性與風(fēng)險(xiǎn)認(rèn)知的有限性相制約。生成式人工智能在融入思想政治教育實(shí)踐的過程中，倫理風(fēng)險(xiǎn)的產(chǎn)生既源自客觀條件，也受到主觀因素影響。在客觀層面，數(shù)字技術(shù)的“算法黑箱”，為倫理風(fēng)險(xiǎn)的滋生提供了土壤。而在主觀層面，由于教育主體、教育對(duì)象、研發(fā)人員等對(duì)潛在倫理風(fēng)險(xiǎn)的認(rèn)知不足，以及相關(guān)配套機(jī)制的欠缺，使得上述主體對(duì)倫理風(fēng)險(xiǎn)的判斷能力受到限制。由于思想認(rèn)識(shí)的局限和技術(shù)發(fā)展的不確定性，相關(guān)主體對(duì)倫理風(fēng)險(xiǎn)的識(shí)別能力和應(yīng)對(duì)能力仍顯薄弱，無疑成為倫理風(fēng)險(xiǎn)生成的主觀因素。

一方面，生成式人工智能技術(shù)發(fā)展的不確定性，給倫理風(fēng)險(xiǎn)預(yù)測(cè)帶來極大的挑戰(zhàn)。生成式人工智能的三大核心要素——大數(shù)據(jù)、算法和算力，共同構(gòu)成了復(fù)雜而精妙的運(yùn)作體系。其中，算法模型作為關(guān)鍵的一環(huán)，具備一定的自主性，能夠自主決策和自主學(xué)習(xí)。只要基礎(chǔ)數(shù)據(jù)足夠豐富，算法模型便能不斷地修改和創(chuàng)建，實(shí)現(xiàn)持續(xù)的自我優(yōu)化。然而，在深度學(xué)習(xí)的過程中，新數(shù)據(jù)的不斷產(chǎn)生和反饋使得算法模型持續(xù)優(yōu)化，這種自我迭代的能力使得生成式人工智能技術(shù)的輸出結(jié)果變得難以準(zhǔn)確預(yù)測(cè)。更為復(fù)雜的是，算法模型通常以代碼的形式呈現(xiàn)，這使得人們的情感因素和意圖難以被算法所捕捉和表達(dá)。因此，難以判斷生成式人工智能技術(shù)背后的邏輯意圖和責(zé)任主體，從而形成了所謂的“算法黑箱”。這種“黑箱”性質(zhì)不僅增加了技術(shù)應(yīng)用的復(fù)雜性和不確定性，而且加大了倫理風(fēng)險(xiǎn)的發(fā)生概率。［5］因此，在推進(jìn)生成式人工智能技術(shù)的發(fā)展過程中，需要充分考慮到其不確定性所帶來的倫理風(fēng)險(xiǎn)，并采取相應(yīng)措施進(jìn)行防范和應(yīng)對(duì)。

另一方面，當(dāng)前應(yīng)用主體對(duì)生成式人工智能融入思想政治教育的風(fēng)險(xiǎn)認(rèn)知尚顯不足。隨著生成式人工智能技術(shù)的優(yōu)勢(shì)逐漸顯現(xiàn)，越來越多的思想政治教育工作者積極投身于教育數(shù)字化浪潮，極大地推動(dòng)了思想政治教育現(xiàn)代化進(jìn)程。然而，由于生成式人工智能涉及大數(shù)據(jù)、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等多學(xué)科交叉知識(shí)，其深度和廣度往往超出了傳統(tǒng)思想政治教育工作者的認(rèn)知范疇。當(dāng)前，生成式人工智能融入思想政治教育的實(shí)踐尚處于探索初期，面臨著技術(shù)開發(fā)、數(shù)據(jù)共享等方面的法律法規(guī)尚不完善、倫理規(guī)范和指引相對(duì)匱乏的挑戰(zhàn)。［6］由于缺乏相應(yīng)的倫理風(fēng)險(xiǎn)防范機(jī)制與配套措施，有效預(yù)防倫理風(fēng)險(xiǎn)的發(fā)生變得尤為困難。同時(shí)，技術(shù)開發(fā)人員往往追求數(shù)字技術(shù)功能實(shí)現(xiàn)和效果優(yōu)化，在設(shè)計(jì)算法模型時(shí)容易忽視對(duì)道德規(guī)范、技術(shù)倫理的整體考量，進(jìn)而導(dǎo)致對(duì)生成式人工智能融入思想政治教育過程中可能產(chǎn)生的倫理風(fēng)險(xiǎn)認(rèn)知不足。

三、生成式人工智能嵌入思想政治教育

倫理風(fēng)險(xiǎn)的治理路徑

生成式人工智能技術(shù)有效提升了思想政治教育實(shí)效性，但隨著技術(shù)的不斷演進(jìn)，其潛在的倫理風(fēng)險(xiǎn)也逐漸凸顯。針對(duì)潛在的倫理問題，需要以科學(xué)的態(tài)度和人文關(guān)懷，共同探索出一條符合倫理原則和教育使命的治理路徑，確保生成式人工智能真正促進(jìn)思想政治教育實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型和高質(zhì)量發(fā)展。

建立價(jià)值引領(lǐng)機(jī)制，突出以人為本價(jià)值導(dǎo)向。技術(shù)價(jià)值應(yīng)與人的全面發(fā)展價(jià)值相一致，在規(guī)避技術(shù)倫理風(fēng)險(xiǎn)時(shí)，需要優(yōu)先考慮價(jià)值取向，遵循思想政治教育規(guī)律，順應(yīng)學(xué)生認(rèn)知規(guī)律，引領(lǐng)教育對(duì)象跳脫出“算法偏見”“信息繭房”“技術(shù)黑箱”等困境，擺脫技術(shù)依賴，重新構(gòu)建多樣化的主體世界。首先，突出以人為本的價(jià)值導(dǎo)向。在思想政治教育領(lǐng)域，培養(yǎng)德才兼?zhèn)涞娜瞬攀呛诵?，?shù)字技術(shù)只是一種服務(wù)工具。在路徑上，要始終堅(jiān)持以人的全面發(fā)展為中心。教育者不僅要利用生成式人工智能提高教育效率，更應(yīng)該關(guān)注教育對(duì)象的情感需求，主動(dòng)與教育對(duì)象溝通，堅(jiān)守師生角色倫理，恪守規(guī)范，學(xué)以致用。推動(dòng)技術(shù)本位向以人為本轉(zhuǎn)變，引領(lǐng)生成式人工智能技術(shù)持續(xù)向好發(fā)展。另外，要辯證看待數(shù)字技術(shù)工具理性與價(jià)值理性之間的關(guān)系。思想政治教育是有溫度的教育，應(yīng)做到以理服人、以情動(dòng)人。研發(fā)主體應(yīng)將馬克思主義道德倫理觀念融合到算法設(shè)計(jì)、研發(fā)和應(yīng)用全過程，讓“算法推薦池”引領(lǐng)道德倫理充盈于人工智能平臺(tái)。教育者應(yīng)用馬克思主義世界觀和方法論來評(píng)判生成式人工智能嵌入思想政治教育的利與弊，從而不斷優(yōu)化算法嵌入思想政治教育的倫理取向。

強(qiáng)化素養(yǎng)培育機(jī)制，提升倫理風(fēng)險(xiǎn)應(yīng)對(duì)能力。在思想政治教育領(lǐng)域，生成式人工智能產(chǎn)生倫理風(fēng)險(xiǎn)的有效防范，與技術(shù)主體（如算法設(shè)計(jì)人員）、應(yīng)用主體（如教師和學(xué)生）的數(shù)字素養(yǎng)密切相關(guān)。如果技術(shù)主體缺乏對(duì)風(fēng)險(xiǎn)的認(rèn)識(shí)和責(zé)任感，在算法設(shè)計(jì)和研發(fā)階段就無法有效評(píng)估倫理風(fēng)險(xiǎn)，從而可能埋下潛在的風(fēng)險(xiǎn)隱患。應(yīng)用主體數(shù)字素養(yǎng)不足，缺乏獨(dú)立思考能力，容易被未經(jīng)干預(yù)的算法侵?jǐn)_，從而導(dǎo)致信息封閉、信息傳播偏好、價(jià)值失衡等問題。首先，強(qiáng)化研發(fā)主體數(shù)字意識(shí)。廣泛開展人工智能基礎(chǔ)知識(shí)、數(shù)據(jù)素養(yǎng)和算法素養(yǎng)培訓(xùn)，將技術(shù)應(yīng)用與人文、倫理、社會(huì)等領(lǐng)域相融合，以提升技術(shù)主體、應(yīng)用主體的人工智能適應(yīng)能力、勝任力和創(chuàng)造力為關(guān)鍵。其次，加強(qiáng)對(duì)智能思政技術(shù)主體的教育引導(dǎo)。推動(dòng)應(yīng)用主體與技術(shù)主體就人工智能倫理展開討論交流，強(qiáng)調(diào)對(duì)技術(shù)主體的價(jià)值理性引導(dǎo)和責(zé)任意識(shí)培養(yǎng)，促使其自覺接受思想政治教育和相關(guān)學(xué)科知識(shí)培訓(xùn)，提升專業(yè)素養(yǎng)，加強(qiáng)算法研發(fā)和設(shè)計(jì)的道德自律性。其次，提升應(yīng)用主體數(shù)字能力。技術(shù)倫理風(fēng)險(xiǎn)不僅在技術(shù)研發(fā)設(shè)計(jì)環(huán)節(jié)產(chǎn)生，也存在于應(yīng)用過程。對(duì)于教師而言，應(yīng)實(shí)施教師智能技術(shù)應(yīng)用能力提升計(jì)劃，加強(qiáng)教育培訓(xùn)，引導(dǎo)教師遵守人工智能倫理原則和規(guī)范，確保教學(xué)安排和決策符合教育效益、倫理規(guī)范和技術(shù)效能。對(duì)學(xué)生而言，則需要加強(qiáng)人工智能倫理知識(shí)普及教育，通過融入課程教學(xué)和組織專題講座等方式，提高學(xué)生的人工智能基本原理理解能力，培養(yǎng)其信息辨別能力，引導(dǎo)其抵制有害行為，樹立正確的科技觀、倫理觀和網(wǎng)絡(luò)行為習(xí)慣。

完善倫理約束機(jī)制，提高倫理風(fēng)險(xiǎn)防控水平。健全倫理約束機(jī)制是規(guī)避技術(shù)異化的有效手段，是促進(jìn)生成式人工智能技術(shù)賦能思想政治教育的前提。首先，做好頂層設(shè)計(jì)，健全法律法規(guī)。通過法律法規(guī)化解技術(shù)倫理風(fēng)險(xiǎn)，將倫理風(fēng)險(xiǎn)防控納入法治體系。加強(qiáng)對(duì)算法的審查和監(jiān)督，對(duì)生成式人工智能企業(yè)和算法設(shè)計(jì)人員進(jìn)行資格審查和風(fēng)險(xiǎn)評(píng)估，建立相應(yīng)的約束機(jī)制，防止爆發(fā)潛在的倫理風(fēng)險(xiǎn)。同時(shí)，對(duì)隱私數(shù)據(jù)泄露、虛假信息傳播等建立保障機(jī)制，提高教育對(duì)象的網(wǎng)絡(luò)素養(yǎng)，排除倫理風(fēng)險(xiǎn)漏洞。其次，強(qiáng)化全程監(jiān)管，完善預(yù)警系統(tǒng)。技術(shù)研發(fā)主體和應(yīng)用主體都應(yīng)充分發(fā)揮生成式人工智能技術(shù)在倫理建設(shè)方面的優(yōu)勢(shì)，通過建立倫理風(fēng)險(xiǎn)監(jiān)測(cè)、監(jiān)督和審查機(jī)制，提升技術(shù)的安全透明度。針對(duì)不同風(fēng)險(xiǎn)類型建立倫理風(fēng)險(xiǎn)預(yù)警機(jī)制，一旦發(fā)現(xiàn)潛在倫理風(fēng)險(xiǎn)，立即向執(zhí)法部門和師生發(fā)送預(yù)警信息，實(shí)現(xiàn)預(yù)警精準(zhǔn)化。最后，壓實(shí)主體責(zé)任，建立問責(zé)機(jī)制。完善算法問責(zé)機(jī)制，明確責(zé)任主體，理清技術(shù)研發(fā)者、制造者和應(yīng)用者的責(zé)任，保障生成式人工智能技術(shù)的合理合法使用。同時(shí)，圍繞倫理風(fēng)險(xiǎn)防控目標(biāo)和內(nèi)容，搭建目標(biāo)清晰、結(jié)構(gòu)合理的評(píng)價(jià)體系，對(duì)生成式人工智能嵌入思想政治教育的倫理風(fēng)險(xiǎn)進(jìn)行客觀、公正的評(píng)價(jià)，確保倫理風(fēng)險(xiǎn)防控取得實(shí)際效果，不斷提升思想政治教育實(shí)效。

參考文獻(xiàn)：

［1］徐永春.聯(lián)合國報(bào)告：生成式人工智能加劇性別偏見［N］.新華每日電訊，2024-03-09.

［2］馬克思恩格斯文集：第8卷［M］.北京：人民出版社，2009：358.

［3］任鳳琴，董子涵.風(fēng)險(xiǎn)與超越：生成式人工智能賦能思想政治教育的倫理分析［J］.重慶郵電大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2023（6）：80-89.

［4］米華全.智能思政倫理風(fēng)險(xiǎn)的生成邏輯、表現(xiàn)形式及防控機(jī)制［J］.中國電化教育，2023（2）：111-117.

［5］王婧怡.數(shù)字時(shí)代算法技術(shù)異化的倫理困境與治理路徑［J］.自然辯證法研究，2023（10）：128-131.

［6］馮子軒.生成式人工智能應(yīng)用的倫理立場(chǎng)與治理之道：以ChatGPT為例［J］.華東政法大學(xué)學(xué)報(bào)，2024（1）：61-71.

（作者系常州大學(xué)黨委常委、副校長(zhǎng)）

責(zé)任編輯：劉志剛