人工智能算法的倫理危機與教師行動

馮敏慧

(商丘學院 人文學院, 河南 商丘 476000)

當前,人工智能算法的發(fā)展速度極其迅猛,成為社會廣泛關(guān)注的重要議題。人工智能算法在學界被普遍認為是一套有規(guī)律的技術(shù)性指令或程序,其在帶領(lǐng)人們實現(xiàn)美好生活上擁有巨大潛力,但這一潛力的發(fā)揮必須以規(guī)避惡果而導向美善為倫理前提和保障條件[1]。國家一直強調(diào)在大力發(fā)展人工智能的同時,必須高度重視其可能帶來的安全風險挑戰(zhàn),加強前瞻預測與約束引導,最大限度降低風險,確保人工智能安全、可靠、可控發(fā)展[2]。教育是一項培養(yǎng)人的事業(yè),正確處理人與人工智能算法在教育行動之中的關(guān)系具有重要意義。教師是建構(gòu)教育過程中人與算法關(guān)系的主要行動者,探索教師在新情境、新發(fā)展態(tài)勢下的行動方向,有利于規(guī)范人工智能算法在教育中的具體使用,提升教師對教育教學實踐的主動掌控力,更好地在智能教育環(huán)境沖擊下把握教育本質(zhì)、守護教育本真。

一、人工智能算法的教育倫理危機表現(xiàn)

人工智能算法是一種程序性技術(shù),它象征著一套解決問題的固定行為規(guī)則,通過具有操作性的符號表征影響著教育過程中教育者和學習者的行動方向和方式,進而影響事物本身存在的整體狀況。人工智能算法誕生與發(fā)展過程中出現(xiàn)的層出不窮的“新”、構(gòu)造本質(zhì)中的“簡”、效果實現(xiàn)中的“塑”等各種操作傾向在其使用的過程中都潛藏著倫理風險,對教育本質(zhì)、教育過程和教育目的容易產(chǎn)生技術(shù)性的不良沖擊,削減人通過技術(shù)實現(xiàn)全面發(fā)展的自主性。

(一)新與舊的對抗:人的角色地位面臨沖擊

技術(shù)是一種工具,但如果只將其視作一種工具,則容易忽略它背后可能產(chǎn)生的價值沖擊。歷史上各種工具的出現(xiàn),只要在人的社會關(guān)系中存在與被使用,便產(chǎn)生了它的社會性,我們真正感到害怕的不是沒有生命意義的人工智能算法這種技術(shù)性程序,而是擔心它的運行對人所生存和生活的社會環(huán)境所產(chǎn)生的生命沖擊。人工智能算法的運行能夠超越個體的勞動能力,以類人的思維方式和行為模式在短時間內(nèi)完成高效的數(shù)據(jù)整合、匹配和提取,減弱人類勞動的繁重性和復雜性。伴隨著算法的不斷升級,人工智能機器能夠基于算法和數(shù)據(jù)挖掘的知識發(fā)現(xiàn)新模式,實現(xiàn)認識主體、認識客體、認識工具等認識活動要素內(nèi)涵和范圍的不斷擴張[3]。人工智能算法力量的強大讓人驚嘆,按照目前算法的發(fā)展邏輯,算法憑借其對規(guī)則程序的遵從和對大量數(shù)據(jù)的自動整理、分析、提煉表現(xiàn)出對人類勞動未來取代性的強烈信號。人的勞動開始出現(xiàn)異化,人的勞動產(chǎn)品逐漸成為與人自身相對立并反過來支配人的力量[4]。保障以人為中心的教育未來美好生活實現(xiàn),人工智能的出現(xiàn)對人類智能提出了更高的要求和挑戰(zhàn)。人工智能算法的使用意味著人的勞動形態(tài)和角色的轉(zhuǎn)變或即將轉(zhuǎn)變,但并不能意味著人的價值意義感的消逝,從某種發(fā)展意義來講,人因環(huán)境的變化而發(fā)生新的變化和被賦予新的內(nèi)涵是時代發(fā)展的必然性所在。

(二)簡與繁的對抗:教育的生命感逐漸消逝

以目前的人工智能算法設(shè)計水平來看,無論一種算法被設(shè)計得多么高級,與人類生命的思維意識和發(fā)展可能性相比,始終存在局限性。一種算法一旦被設(shè)計出來,在某種程度上就意味一種相對確定性的成型,彰顯著來自設(shè)計者先前頭腦中對于事件發(fā)生發(fā)展的初步預料。智力天生就不能理解生命,這是智力的典型特征[5]。教育永遠對于生命的本真實現(xiàn)有著執(zhí)著的追求,教育追求著不確定性的魅力,這給人的生存和發(fā)展留下發(fā)自自然本能的永恒希望。應(yīng)當警惕人工智能算法的程序確定性和操作表層性對教育原生魅力的折損。

當前,技術(shù)治理成為教育重要的形態(tài)表征。人工智能算法的使用是教育過程中技術(shù)治理的一大趨向。一旦人工智能算法成為教育教學的唯一操作性工具材料,有些不被人工智能算法設(shè)計所包含在內(nèi),但對于教育而言非常重要的事情就會被拋棄,算法呈現(xiàn)的結(jié)果則會趨向于成為教育甚至人的價值的唯一評判,這對于認識與了解學生、教師、教育管理者等各種角色所具有的教育生命內(nèi)涵是非常不利的。人工智能算法的使用應(yīng)有合理的限度,不應(yīng)為了追求教育過程的便捷度和教育形式的科技化而盲目追求教育智能化,在教育實踐中不顧實際效果而大肆配備使用人工智能設(shè)備,使教育智能化失去了其應(yīng)有的生命發(fā)展引導功能。與此同時應(yīng)當認清,人工智能算法在一定程度上能夠緩解當下存在的教育問題,但最根本的教育問題絕不是技術(shù)能夠予以解決的,由人而出發(fā)的問題也必將由人自身來解決。精準而煩瑣的技術(shù)依賴,容易導致教育問題的本質(zhì)被遺忘。教育主體在失身于對智能技術(shù)的依賴和盲從中,也在“自覺或不自覺”中交出了自身“內(nèi)在的自由”和獨立思考、選擇、決定與行動的權(quán)利[6]。所有這些共同導致了教育生命感的逐漸消逝。

(三)塑與生的對抗:人的最終實現(xiàn)趨向變質(zhì)

放任人工智能算法的運行而不加以來自人的意識的控制,將會使人成為一個附屬性、被塑造、單向度的人。首先,附屬性意味著人的權(quán)力交付和轉(zhuǎn)移,智能機器以類人式思維的算法表現(xiàn)出類人的行為方式,形成對人類原來勞動的取代,人看似依舊在掌控著人工智能算法的運行,實質(zhì)上人已經(jīng)將“做事”的權(quán)力讓渡給具體的算法,依靠算法來進行實踐活動,從而成為算法的附屬品。其次,權(quán)力的讓渡導致人在實踐中的責任感和行動力減弱,進而形成在算法運行過程中人被算法所塑造的結(jié)果。如果接受人工智能計算出的結(jié)果的評判而不加以來自人的再考量,就相當于把人降格為一個可隨時對其加以“監(jiān)控”和“分析”的客體,使得作為客體的技術(shù)人造物升格成了教育主體[7]。最后,算法本身設(shè)計的不完善最終也會使人的發(fā)展成為片面的發(fā)展。算法象征著一套標準化的程序,這種程序所代表的發(fā)展可能性是單一的,算法歧視、信息繭房、大數(shù)據(jù)殺熟等都在表明作為受眾的人類時刻都可能面臨著算法運行下的單一化風險,這種風險不考慮人是否能夠全面發(fā)展,而只憑自己的程序算法判斷來提供資源包圍著人發(fā)展的社會環(huán)境,影響著人的社會性發(fā)展。

二、教師應(yīng)對人工智能算法教育倫理危機的挑戰(zhàn)

將人工智能算法在教育教學實踐中投入使用,可以幫助教師更大限度上借助算法來表現(xiàn)自我的某種訴求和行事的規(guī)則。然而,人工智能算法的使用越是普遍,其發(fā)展越是快速,潛在問題也越多地浮現(xiàn)。教師作為教育教學的主導者,在應(yīng)對人工智能算法使用過程中潛藏的危機、引導正確的教育方向方面具有關(guān)鍵作用,但與此同時教師本身也在面臨著算法風險,導致了其教育行動的困難。

(一)我是誰:自我價值的迷失

首先,教師職業(yè)的價值性。大多數(shù)人都會同意,現(xiàn)代世界在我們這一百年里的發(fā)展,伴隨著一種持續(xù)的,在深度和廣度上不斷加重的權(quán)威危機……這個危機最意味深長的征兆(同時也顯明了危機的深重)是,它已經(jīng)擴展到兒童的培養(yǎng)和教育這樣的前政治領(lǐng)域中[8]。人工智能算法提供了巨大的可及信息量和一系列便捷性可操作行為規(guī)則,對于教師建基于相對有限性的知識、道德和能力而形成的個體權(quán)威造成了一定威脅。如果人工智能算法的使用替代了教師的勞動,學生按照人工智能算法的程序設(shè)計即可接受到完整的教育,甚至這種教育比由教師本人提供的教育更加豐富、多元和廣闊,那么教師存在的價值意義就會被質(zhì)疑。其次,教師職業(yè)的風險性。從教師內(nèi)在發(fā)展來看,任何失去自我價值判斷的行動無論表象上看上去多么有邏輯層次,其終歸是缺乏精神內(nèi)核的,價值判斷的喪失會使教師產(chǎn)生對于教育的極不自信,對長時間的教育教學工作產(chǎn)生疲憊和倦怠心理。從教師外在發(fā)展來看,當快速、高效達到某一個可以量化的目標成為教育的追求,按照這一目標邏輯,人工智能算法的優(yōu)勢展露無遺,而教師在這種評判氛圍中極易丟失自我對于教育的正確認知,進而在算法的使用過程中成為算法的順應(yīng)者,從一種勞動形態(tài)轉(zhuǎn)化到另一種勞動形態(tài)中,并且后者意義薄弱。正如阿倫特所言,這個社會是一個即將從勞動的鎖鏈中解放出來的勞動者社會,并且這個社會不知道還有什么更高級、更有意義的活動存在,值得它去為之爭取從勞動中解放出來的自由[9]。

(二)如何做:行動力量的脆弱

教師作為教育教學的主導者,是決定人工智能算法與教育教學運行關(guān)系的關(guān)鍵。目前,教師對于人工智能算法在教育中的使用所表現(xiàn)出的自我行動力整體較弱,其中,過度遲疑和盲目“內(nèi)卷”這兩種現(xiàn)象是教師自我行動力量脆弱的主要表現(xiàn)。第一,教師行動的過度遲疑。當教育者和學習者對智能教學系統(tǒng)的分數(shù)計算規(guī)則、評價理由和預測的依據(jù)未知時,他們會質(zhì)疑智能教學系統(tǒng)的可信度與有效性,這種信任缺失會妨礙教育者、學習者與智能教學系統(tǒng)之間的交互[10]。無論可以拿出多少理論上的證據(jù)證實教育的未來發(fā)展趨勢,依舊要回到實踐中仔細考慮教師的態(tài)度。它所表達的教師深層次的需求——教師不只是在抗拒、害怕和恐懼,他們還在懷疑,完全技術(shù)化的教育與先前教育的理想狀態(tài)向往是否一致,對實現(xiàn)好教育是否真的有意義,在實踐未能充分證明最后的結(jié)果之際,反復遲疑導致教師面對人工智能算法不斷出現(xiàn)在教育中這一境況時行動的滯后性。第二,教師行動的盲目“內(nèi)卷”。與遲疑恰恰相反,面對人工智能算法使用的不斷普及,潛在的威脅和同質(zhì)化的環(huán)境逼迫著教師不得不接受著來自人工智能算法的安排和使用。算法的強大提供了高超的教育教學的便捷性,促使教師從繁重的教育活動中得以解放,但同時也極易造成教師行動上對于算法的依賴,這種依賴是一種放棄自我權(quán)力的依賴,從根本上削弱了教師自身的行動力。行動力量的脆弱進一步促進了人工智能算法在教育中出現(xiàn)倫理危機的可能性成為現(xiàn)實。

(三)為了誰:價值旨歸的動搖

人的自由發(fā)展是教育的終極目標,是教師工作的價值旨歸。人工智能算法所產(chǎn)生的重要教育沖擊之一就是通過對教育過程的改變而使教育的終極價值旨歸發(fā)生變化。第一,教師成為借助人工智能算法培養(yǎng)知識人的促進者。人工智能算法是人類智性的凝聚物,它通過自身內(nèi)在的知識運作和產(chǎn)生方式,產(chǎn)生知識人。塑造知識人是一個根深蒂固的教育信條,這一信條的人性設(shè)定是把知識、求知看作是人的唯一規(guī)定性,它顛倒了知識與生活的關(guān)系[11]。我們不斷地改造物質(zhì)環(huán)境,以此來優(yōu)化人的生活條件,期待著能夠帶給人更多的可行性自由,但事實上,如果人一旦迷失在人工智能算法的便捷和舒適里而失去價值判斷,就相當于通過對能夠影響自身的社會環(huán)境的改變,為自身設(shè)計了更加精巧的牢籠枷鎖并嘗試迎合這個牢籠枷鎖來使自己的生活與之相適應(yīng)。第二,學生成為人工智能算法的被評判者。當人工智能算法的使用成為一種象征著現(xiàn)代好教育的重要評判時,這極大地促進了教師對算法的使用,算法在教育中的使用主要受眾是學生,學生接受來自算法的引導進行知識的學習和理解,程序算法很大程度上將成為學生思維形成的引導者,從而潛在地影響學生看待、分析問題的主要視角,這個過程是學生被算法評判的過程。由此,教師和學生的力量并沒有因為算法的使用而被增強,反而算法因?qū)處熀蛯W生行動的間接掌控而獲得力量上的關(guān)鍵加持,繼而得以在教育現(xiàn)實中不斷擴張。

三、保證教育倫理性在場的教師行動策略

倫理規(guī)則是對人工智能“有所為”與“有所不為”的倫理規(guī)定,但凡涉及人類社會生活與生產(chǎn)活動的科學技術(shù)皆應(yīng)在人類的倫理規(guī)則內(nèi)運行[12]。倫理性缺失對于教育這項培養(yǎng)人的事業(yè)來講具有毀滅性風險。教師必須采取行動,以便使自己的決定將會造成的不可預見的后果具備可預見性,從而控制不可控的事情,通過采取預防性行動來戰(zhàn)勝種種副作用[13]。從大環(huán)境的不可逆轉(zhuǎn),到中觀環(huán)境中的互動實踐,到微觀上態(tài)度心理上的轉(zhuǎn)變,從挑戰(zhàn)到行動,人工智能算法潛在的倫理性危機要求教師克服人的脆弱性,捍衛(wèi)教師在教育中的自主地位。

(一)厘清教育終極價值,明確自我對守護教育倫理所負的責任

第一,喚醒自我意識,積極回應(yīng)自然本能。無論個人的社會行動或社會的社會行動,都是有意識的、有目的的、有系統(tǒng)的[14]。行動本身具有意識性,是主體內(nèi)在意識的外在顯化。即使是“無意識”的行動,本質(zhì)上也屬于深層次潛意識的驅(qū)使。對于人的真正行動而言,它出自人意識深處的追求,這與動植物所表現(xiàn)出的行為有本質(zhì)區(qū)別。人類本能不是低俗的,它擁有和理智相同高貴的特性,意味著生命發(fā)展的永恒可能性。如果將本能和理智看作是相對立的行動方向代表,理智對本能的壓制潛藏有深刻的社會規(guī)訓,一旦規(guī)訓出現(xiàn)被質(zhì)疑的情況,人的理智將不知何去何從,本能就會占據(jù)上風,成為人行動的主導標準。所以,在規(guī)訓還沒有出現(xiàn)嚴重地被質(zhì)疑的時候,理智應(yīng)主動積極地和本能達成友好合作。真正的理智,無論是對人工智能算法還是教師來講,它都不會導致人自身精神分裂式的斷崖,而應(yīng)是,越是具有高層次的理智,越是懂得敬畏生命本身,越是能通透地符合自我意志地判斷生命的行動方向。教師應(yīng)努力在象征著理智的人工智能算法中找到自我本能角色,歸還教育生命色彩。

第二,合理處理“機器意志”與教師意志的沖突。如果我們把機器看作一種意志的象征,那么最終意志的選擇和決定就是一個互動和建構(gòu)的過程,是教師本人與機器背后潛藏的人的對話和交流。那么,沿著這個邏輯,要形成教師和機器之間的全過程相對和諧,應(yīng)當在智能算法的設(shè)計之初、使用過程、效果反饋方面實現(xiàn)教師與算法設(shè)計者之間的良性溝通,就教育的實際需求、實際問題、實際效果和智能技術(shù)的發(fā)展水平和方向進行雙方信息的及時獲取,形成跨學科的同一事件多層次、多方面的共同商議與決策。同時,在算法的使用過程中,教師應(yīng)警惕對算法形成不可撤回的依賴,時刻保持有風險意識,不斷提升自身教育教學素養(yǎng),提升個人教育教學能力,豐富教育機智,養(yǎng)成教育智慧,確保自身能夠靈活切換于智能教學環(huán)境與非智能教學環(huán)境中,對教育環(huán)境具有全面深刻的洞察力,從而能夠更好地使用人工智能算法而不為其所用。

(二)力行教育教學實踐,揚長避短式甄別人工智能算法的運行

技術(shù)僅是一種手段,它本身并無善惡。一切取決于人從中造出什么,它為什么目的而服務(wù)于人,人將其置于什么條件之下[15]。教育是一個運行著的社會子系統(tǒng),人工智能算法的使用賦予教育以新的血脈和動力。對人工智能算法進行教育范圍上的應(yīng)用考慮,要求其必須接受教育本身特性的浸入,使智能技術(shù)被賦予上教育色彩,算法的使用接受教師的主導,它蘊含有教育力量。

首先,教師應(yīng)對人工智能算法具有辯證性的認識和使用能力。人工智能的最大優(yōu)勢在于對教育的時間、空間和人力的突破。人工智能算法在教育領(lǐng)域的深化應(yīng)用,創(chuàng)設(shè)了強感知、高交互、泛在的學習環(huán)境,為學生的知識建構(gòu)活動提供了良好條件,為創(chuàng)新型教學模式的發(fā)現(xiàn)和運用提供了空間[16]。同時,虛擬空間和實體空間從來不是分割的,亦無法取代對方。虛擬教育可以突破實體教育的限制,實體教育是虛擬教育的基礎(chǔ)保障,虛擬是實體的映照,但從來不是實體本身。教師應(yīng)當注意在利用虛擬空間的同時,也要發(fā)揮可用的實體物理空間優(yōu)勢,利用教育場域的真實性,打造可觸且溫情的教育生命空間,提升教育質(zhì)量,增強現(xiàn)實的教育具身體驗和獲得感。

其次,教師應(yīng)在教育內(nèi)部建立人工智能算法使用的共識性行動規(guī)約。我們不能為了躲避有可能發(fā)生的未來風險,就放棄人工智能算法在教育中的研究和發(fā)展,但必須承認應(yīng)當在人工智能算法使用的過程中對其予以倫理上的考量和規(guī)約,避免盲目的算法卷入。教師的行動發(fā)生在社會關(guān)系的建立過程中,教師通過行動在公共領(lǐng)域當中與他人產(chǎn)生有意義的聯(lián)系,關(guān)注他人就意味著對自我的行為加以限制,警惕自我對人工智能算法的使用可能對他人造成的危害,守護教育內(nèi)部保護人的基線。同時,也應(yīng)警惕自我行動不應(yīng)過度盲從和附和來自他者的期望,無論是社會的功利化追求,還是單方的利益表達,都不應(yīng)當成為使用人工智能算法的主要決策參照源。教師應(yīng)持續(xù)性地基于倫理所昭示的方向追求人類高層次幸福的實現(xiàn),區(qū)分自我和他者的身份界限,保證行動生命的相對獨立性。生命的功能和力量是通過人的種種行為表現(xiàn)出來的,在缺乏知識的情形下,是直覺彌補了知識的不足,為生命做出及時判斷和選擇提供支持[17]。教師應(yīng)極具勇氣地使用生命直覺進行教育行動上的嘗試,促使人類智能與人工智能在教育中的融合。

(三)堅守人的價值位序,堅持人的實質(zhì)性自由發(fā)展實現(xiàn)為目標

人的主體性及其實現(xiàn)是智能技術(shù)融入學校教育的邏輯起點和行動指向[18]。教育的全過程應(yīng)堅持以人為本的教育理念,教育能夠獲得最輝煌的發(fā)展根本絕不在于大量智能技術(shù)的使用,而更多是在教育中看到人、發(fā)展人、成就人的行動過程煥發(fā)了教育的本真活力,人是教育最值得挖掘的優(yōu)勢所在。而用來評判智能算法使用好壞的標準,也不應(yīng)當圍繞某種技術(shù)的水平多么高級或者高超,能夠產(chǎn)生多么絢麗的場面,能夠突破什么樣的人力不可為,而應(yīng)當在于算法的使用與教育中人的本能的契合、與教育本性的契合,以及它的使用在多大程度上促進了人的發(fā)展,帶給了人實質(zhì)性的自由獲得。

第一,確保算法促進人的發(fā)展。首先,教育的起點在于人的意志。它憑借的是教師對于教育正當?shù)谋举|(zhì)理解,對教育過程有邏輯清晰的規(guī)劃和設(shè)計,對好的教育目的有持之以恒的向往,也即在人工智能算法使用之前,教師頭腦當中就應(yīng)當有一套清晰的教育設(shè)計藍圖,在這一藍圖中恰當?shù)乇磉_出了人工智能算法的使用在整個過程中的角色扮演和功能,那么接下來教師就有可能在自己所了解的人工智能算法信息基礎(chǔ)上,選擇出更加適合教育過程的算法進行使用,從而避免了教育圍繞算法設(shè)計做出被動調(diào)整。其次,教育的過程應(yīng)當始終堅持守護算法的角色。平等一詞不應(yīng)盲目地應(yīng)用在人與他者任何關(guān)系的任何建立當中,當關(guān)系的對象是智能算法時,無生命特性使其并不具有倫理意義上的生命平等,而是作為人的附屬物才具有其存在的價值。最后,教育效果應(yīng)當圍繞人的生命質(zhì)量。我們應(yīng)當順應(yīng)時代潮流在教育過程中融入智能機器的使用,通過提升教育條件突破教育活動的限制,實現(xiàn)過程資源的利用最優(yōu)化,豐富培養(yǎng)人的條件,為人的行動提供更多的可行性,最終人的發(fā)展應(yīng)當變得更加有質(zhì)量、生活更加幸福、個人獲得感更加強烈。倘若在此過程中人不幸成為算法的奴役,喪失自我的主動權(quán)而淪為機器的縮影,則應(yīng)引起教師自我深處的警覺,重新判斷算法的使用在人的發(fā)展過程中的定位和角色,重新回歸以人為本的教育起點,拋卻不合時宜的速度和效率。

第二,確保算法導向好的教育。在教育當中,無論技術(shù)發(fā)展到哪一步,誰可以使用技術(shù),誰最需要技術(shù),在什么場景下可以使用技術(shù),場景對技術(shù)的需求度,技術(shù)對使用場景的適應(yīng)度等,這些都是需要厘清的前提問題。我們可以短暫地將對這一前提的猶豫拿到實踐中進行檢驗,判斷其真理性的相對邊緣,但不應(yīng)該在長期沒有厘清基本前提的條件下持續(xù)性地進行技術(shù)的擴張、開發(fā)和使用。從智能機器的使用當中獲益不應(yīng)是少數(shù)人的特權(quán),更應(yīng)該是弱勢教育群體實現(xiàn)階層突破的利器,應(yīng)當看到,智能算法在實現(xiàn)教育成員共同福祉方面的優(yōu)越性,教師應(yīng)時刻注意教育弱勢群體因智能算法使用的素養(yǎng)缺乏而造成的生存劣勢,明確智能算法的使用在于彌合與縮小差距,促使算法的使用對人類智能的增強,而不在于擴大教育信息資源的分布不均衡和潛在內(nèi)部矛盾。

人是人工智能出現(xiàn)的動因,但人和人工智能最后的關(guān)系形態(tài)還存在眾多未知,人類思維與人工智能算法的關(guān)系網(wǎng)中糅合著復雜的意志,人如果有意控制自我這個“因”,則“果”將在大概率上具有相對確定性。在人工智能飛速發(fā)展的時代,不時澄清教育領(lǐng)域內(nèi)所發(fā)生的一切新變化,以昨日之初心和明日之理想指引今日之步伐,時時糾偏、調(diào)整智能機器使用視野下具體的教育行動,技術(shù)的發(fā)展與人的發(fā)展才能最終實現(xiàn)互利、共生、共贏。