智能化教學(xué)之下的倫理憂思及其化解

朱煒

摘? ?要： 人工智能技術(shù)在教學(xué)中的應(yīng)用正受到國(guó)家層面政策的大力推動(dòng)。智能化教學(xué)具有促進(jìn)個(gè)性化學(xué)習(xí)和豐富教學(xué)過(guò)程構(gòu)成的優(yōu)點(diǎn)，但在技術(shù)主義觀念，以及全球化背景下國(guó)家間教學(xué)質(zhì)量競(jìng)爭(zhēng)加劇的影響下，其面臨的倫理風(fēng)險(xiǎn)也應(yīng)受到重視。這主要表現(xiàn)在教學(xué)的倫理形式（師生關(guān)系）與倫理實(shí)質(zhì)（師生利益）兩方面可能受到損害，為此提出相應(yīng)的風(fēng)險(xiǎn)化解之策，包括在認(rèn)識(shí)上堅(jiān)守教學(xué)的倫理精神，在實(shí)踐上維系師生倫理關(guān)系，基于倫理規(guī)范維護(hù)師生的相關(guān)利益等。

關(guān)鍵詞： 智能化教學(xué);倫理風(fēng)險(xiǎn);化解

傳統(tǒng)教學(xué)倫理主要體現(xiàn)在教師與學(xué)生這兩類主體的關(guān)系，以及他們所構(gòu)成的直接的教學(xué)交往過(guò)程中。但是近年來(lái)，隨著跨媒體、虛擬現(xiàn)實(shí)、大數(shù)據(jù)等智能技術(shù)在教學(xué)活動(dòng)中應(yīng)用的拓展與深化，出現(xiàn)了新的教學(xué)形態(tài)和方式。甚至有學(xué)者認(rèn)為，人工智能的創(chuàng)新性應(yīng)用，“沖擊和改變了整個(gè)教育系統(tǒng)生態(tài)和教育秩序，尤其是教育文化、教育中的人倫關(guān)系、教育結(jié)構(gòu)和教育價(jià)值等諸多方面”。1 顯然，對(duì)這種改變的關(guān)注已不限于如何代替教師有針對(duì)性地指導(dǎo)學(xué)生學(xué)習(xí)的技術(shù)范疇，還包括可能影響師生生命體驗(yàn)、人性交融的情感與價(jià)值領(lǐng)域?？梢哉f(shuō)相關(guān)的倫理議題，已成為能夠決定智能化教學(xué)未來(lái)走向的重要因素。

一、智能化教學(xué)及其特點(diǎn)

盡管科學(xué)技術(shù)是人類勞動(dòng)對(duì)象化的產(chǎn)物，但是它的力量又常常使人類感到驚異，甚至震撼。當(dāng)很多教師還在感嘆于計(jì)算機(jī)、多媒體及網(wǎng)絡(luò)技術(shù)極大豐富了教學(xué)媒介和手段的時(shí)候，基于大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)等智能技術(shù)的教育“新勢(shì)力”已悄然“進(jìn)場(chǎng)”，在線教育平臺(tái)、教學(xué)機(jī)器人、專家知識(shí)系統(tǒng)等得到了現(xiàn)實(shí)應(yīng)用。如在線教育，已經(jīng)成為不少國(guó)家開展教育活動(dòng)的重要形式。在全球化背景下，技術(shù)迭代所引發(fā)的競(jìng)爭(zhēng)更加激烈，教育也難以置身事外。近年來(lái)各國(guó)政府紛紛出臺(tái)政策以推動(dòng)人工智能技術(shù)在教育中的應(yīng)用，我國(guó)國(guó)務(wù)院于2017年7月發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，提出：“利用智能技術(shù)加快推動(dòng)人才培養(yǎng)模式、教學(xué)方法改革，構(gòu)建包含智能學(xué)習(xí)、交互式學(xué)習(xí)的新型教育體系……開發(fā)立體綜合教學(xué)場(chǎng)、基于大數(shù)據(jù)智能的在線學(xué)習(xí)教育平臺(tái)。”2 2019年5月，習(xí)近平主席在發(fā)給國(guó)際人工智能與教育大會(huì)的賀信中也指出：“積極推動(dòng)人工智能和教育深度融合，促進(jìn)教育變革創(chuàng)新，充分發(fā)揮人工智能優(yōu)勢(shì)，加快發(fā)展伴隨每個(gè)人一生的教育、平等面向每個(gè)人的教育、適合每個(gè)人的教育、更加開放靈活的教育。”1 可以說(shuō)教學(xué)的智能化，是近年來(lái)教學(xué)創(chuàng)新的主要特征，也是教學(xué)變革的重要趨勢(shì)。

智能技術(shù)的機(jī)理在于模擬人類的邏輯思維，其功能則是代替人類從事某類活動(dòng)、解決某種問題。目前應(yīng)用于教學(xué)的智能技術(shù)主要是以下兩類2：一是智能導(dǎo)學(xué)系統(tǒng)（Intelligent Tutoring System，縮寫ITS），代替教師對(duì)學(xué)生進(jìn)行個(gè)別化指導(dǎo)，比如北京師范大學(xué)余勝泉教授等人開發(fā)的“AI好老師”、美國(guó)麻省理工學(xué)院的Tega教育機(jī)器人等，此類系統(tǒng)一般分為專家知識(shí)、學(xué)生模型、導(dǎo)學(xué)三大模塊;二是適應(yīng)性學(xué)習(xí)支持系統(tǒng)（Adaptive Learning Support System，縮寫ALSS），能夠依據(jù)課程內(nèi)容為學(xué)生定制適應(yīng)性的學(xué)習(xí)路徑及資源，比如松鼠AI自適應(yīng)學(xué)習(xí)系統(tǒng)，這一過(guò)程一般經(jīng)過(guò)用戶建模、學(xué)習(xí)資源配置和學(xué)習(xí)路徑推薦三個(gè)階段。

目前智能技術(shù)在教育中的應(yīng)用之所以如此引人矚目，是因?yàn)樗罢龓?lái)教學(xué)環(huán)境、教學(xué)法和學(xué)科知識(shí)表示的全方位變革”。3 其對(duì)于教學(xué)的積極意義在于以下方面：一是推動(dòng)差異教學(xué)，促進(jìn)個(gè)性學(xué)習(xí)開展。智能技術(shù)通過(guò)收集學(xué)生個(gè)人及學(xué)習(xí)行為的信息，運(yùn)用一定的算法規(guī)則進(jìn)行大數(shù)據(jù)分析，可推測(cè)出每位學(xué)生的學(xué)習(xí)需求、學(xué)習(xí)偏好以及學(xué)習(xí)風(fēng)格，據(jù)此從海量的相關(guān)知識(shí)資源庫(kù)中為學(xué)生定制特定的學(xué)習(xí)內(nèi)容，并向其精準(zhǔn)推送。在這種情況下，每位學(xué)生所接觸的是適合自己的學(xué)習(xí)內(nèi)容，這顯然對(duì)提高其知識(shí)掌握效率有積極意義。二是豐富教學(xué)過(guò)程構(gòu)成，增強(qiáng)學(xué)生學(xué)習(xí)體驗(yàn)。虛擬現(xiàn)實(shí)（VR）、增強(qiáng)現(xiàn)實(shí)（AR）及跨媒體等智能技術(shù)的應(yīng)用，使得課堂環(huán)境立體化、多維化，能夠在教學(xué)活動(dòng)中強(qiáng)化學(xué)生感官的全面與深度介入及其和思維操作的融合，有利于教學(xué)生成性目標(biāo)和表達(dá)性目標(biāo)的實(shí)現(xiàn)。三是代替教師工作，簡(jiǎn)化教學(xué)流程。智能教學(xué)系統(tǒng)能夠進(jìn)行自動(dòng)出題、自動(dòng)批改作業(yè)、自動(dòng)診斷學(xué)生學(xué)習(xí)問題等教學(xué)任務(wù)，并且能夠幫助教師整理資料、備課，以及簡(jiǎn)化教學(xué)準(zhǔn)備和總結(jié)等工作流程。4這就能促使教師在一定程度上從繁瑣、機(jī)械的教學(xué)工作中解脫出來(lái)，有更多時(shí)間做更復(fù)雜、更具創(chuàng)造性的事情。四是改善課堂管理，提高教學(xué)效率。將人臉識(shí)別技術(shù)、鏡像技術(shù)等應(yīng)用于課堂教學(xué)，可即時(shí)識(shí)別、收集、分析學(xué)生的學(xué)習(xí)注意力、思維活躍程度、學(xué)習(xí)行為變化等情況，并反饋給教師，教師據(jù)此可更有效地做出課堂管理行為，給予學(xué)生適當(dāng)?shù)闹笇?dǎo)，促使學(xué)生更好地投入到教學(xué)過(guò)程中。尤其是教師能夠在電子設(shè)備上觀察到以往難以發(fā)現(xiàn)的學(xué)生的“無(wú)形”的行為，這樣就能更全面、更準(zhǔn)確地識(shí)別、分析學(xué)生在個(gè)性化學(xué)習(xí)中表現(xiàn)出的有意義的發(fā)展趨勢(shì)。5

正所謂“凡事皆有利弊”，在教育這樣一個(gè)人文性濃厚的“領(lǐng)地”，技術(shù)的“入侵”必然會(huì)引起警覺，甚至有學(xué)者認(rèn)為：“人工智能的深入運(yùn)用將在本體意義上動(dòng)搖我們?cè)械膶?duì)教育的理解、判斷和追求，從而產(chǎn)生前所未有的困惑和焦慮?！? 正如上文所說(shuō)，人工智能給提升教育教學(xué)效能帶來(lái)了許多機(jī)會(huì)，但“負(fù)面評(píng)價(jià)也會(huì)伴隨著出現(xiàn)在人工智能的數(shù)據(jù)分析領(lǐng)域，這通常指向道德上的潛在危害”。7 故而，我們同樣需要指明并防范智能化教學(xué)之下的倫理風(fēng)險(xiǎn)。

二、教學(xué)智能化可能引發(fā)的倫理風(fēng)險(xiǎn)

教師和學(xué)生在智能化教學(xué)過(guò)程中的改變是多方面的，涉及認(rèn)知、情感和行為。我們?cè)谙硎芗夹g(shù)賦能教育帶來(lái)各種“紅利”的同時(shí)，也要具有憂患意識(shí)，做到未雨綢繆，謹(jǐn)防陷入“技術(shù)陷阱”而使教育受到損害。教學(xué)是以人（教師）育人（學(xué)生）的過(guò)程：一方面，其道德內(nèi)涵有助于確立并實(shí)現(xiàn)培養(yǎng)學(xué)生全面和諧人格的教育目的;另一方面，一定的道德標(biāo)準(zhǔn)也是衡量教學(xué)過(guò)程正當(dāng)與否的重要尺度。因此，教學(xué)的倫理之維是除了智識(shí)之外，認(rèn)識(shí)、理解其存在與發(fā)展變化的基本向度。對(duì)智能教學(xué)予以倫理審視，探究其可能的倫理風(fēng)險(xiǎn)，可以從倫理形式（人倫關(guān)系）和倫理實(shí)質(zhì)（相關(guān)者利益）這兩個(gè)層面展開。

1.在倫理形式上，教學(xué)智能化可能解構(gòu)傳統(tǒng)師生關(guān)系

倫理，在其現(xiàn)實(shí)意義上，是以人際關(guān)系為主要形式而體現(xiàn)出來(lái)的道德秩序，師生關(guān)系是教學(xué)過(guò)程的基本人際關(guān)系，智能技術(shù)在教學(xué)中的應(yīng)用對(duì)這一關(guān)系可能帶來(lái)以下風(fēng)險(xiǎn)：

一是消解教學(xué)主體的風(fēng)險(xiǎn)。傳統(tǒng)上，師生倫理關(guān)系源于教師與學(xué)生兩者都作為主體的教學(xué)關(guān)系。對(duì)教師而言，其主體性體現(xiàn)在具備自身的教學(xué)觀念，主導(dǎo)教學(xué)的內(nèi)容、組織、過(guò)程及評(píng)價(jià)等方面;而且教師的專業(yè)發(fā)展，是作為教育者的主體意識(shí)并在此主導(dǎo)下自主地提升其專業(yè)素養(yǎng)和能力的過(guò)程。對(duì)學(xué)生而言，其主體性體現(xiàn)在對(duì)自身學(xué)習(xí)需求、興趣的覺知，積極、主動(dòng)、創(chuàng)造性地投入學(xué)習(xí)活動(dòng)，同時(shí)自主進(jìn)行心理建構(gòu)方面。師生良好的倫理關(guān)系，一方面，是他們各自作為主體在言語(yǔ)和行為的互動(dòng)過(guò)程中形成的;另一方面，又促使他們?cè)诘赖虑楦械捏w驗(yàn)中深化自身對(duì)于主體性角色的理解，從而在教學(xué)工作和學(xué)習(xí)活動(dòng)中發(fā)揮主體作用，并提升師生教學(xué)關(guān)系的層次。然而，在智能化教學(xué)之下，教師和學(xué)生可能不知不覺地將這種主體權(quán)利讓渡給智能機(jī)器。首先，智能技術(shù)的迅捷性和準(zhǔn)確性讓教學(xué)變得簡(jiǎn)潔高效，這就容易使教師產(chǎn)生對(duì)機(jī)器的依賴感，甚至喪失自己對(duì)于專業(yè)能力的自信，導(dǎo)致自己的專業(yè)敏感性和主觀能動(dòng)性的退化。其次，由于數(shù)據(jù)搜集的瞬時(shí)性，數(shù)據(jù)僅能體現(xiàn)某個(gè)人在特定時(shí)間、地點(diǎn)的表現(xiàn)，基于歷史數(shù)據(jù)對(duì)學(xué)生或教師進(jìn)行分類是不完整且容易出錯(cuò)的。1 身份特征是由學(xué)習(xí)、工作、交往等多維度構(gòu)成的復(fù)合體，一種數(shù)據(jù)檢測(cè)下形成的判斷并不能代表完整的個(gè)體，學(xué)生和教師身份多元化的喪失使師生之間的知識(shí)教學(xué)、情感互動(dòng)等多元關(guān)系局限在智能機(jī)器基于數(shù)據(jù)分析的單一引導(dǎo)之下。此外，學(xué)生在智能系統(tǒng)根據(jù)算法規(guī)則專門投其所好進(jìn)行教學(xué)“投喂”之下，容易產(chǎn)生思維和行為的惰性，失去學(xué)習(xí)的積極性和自主權(quán)。在以上這些情形下，“師生交往看似是人與人的交往，實(shí)則是數(shù)據(jù)與數(shù)據(jù)、算法與算法之間的交往，消弭了師生交往的生命之維”。2 顯然，智能技術(shù)對(duì)于師生主體性的沖擊，也必然威脅他們倫理關(guān)系的維系。

二是弱化師生倫理性交往的風(fēng)險(xiǎn)。智能化教學(xué)之下，教師的一些工作將被智能系統(tǒng)或機(jī)器人所取代，比如對(duì)學(xué)生進(jìn)行個(gè)別輔導(dǎo)、出題、批閱作業(yè)、學(xué)習(xí)診斷和評(píng)價(jià)等，教學(xué)關(guān)系在一定程度上由傳統(tǒng)的人與人之間的師生關(guān)系，演變?yōu)椤敖處煛悄軝C(jī)器—學(xué)生”的關(guān)系，至少在一些教學(xué)交往場(chǎng)合，學(xué)生面對(duì)的是機(jī)器，而不是教師本人。與教師具身交往的減少，勢(shì)必弱化學(xué)生關(guān)于道德性、情感性和精神性的體驗(yàn)。顧明遠(yuǎn)先生認(rèn)為：“教育的本質(zhì)可以概括為：提高生命的質(zhì)量和提升生命的價(jià)值?！? 人的生命性，不僅僅體現(xiàn)在其知識(shí)水平和認(rèn)識(shí)能力上面，包括情感、道德、信仰、性格等亦都是構(gòu)成完整生命的重要組成部分。傳統(tǒng)上伴隨教學(xué)過(guò)程，教師在和學(xué)生的直接交往中，通過(guò)言傳身教，能感染學(xué)生的向善之心，培育他們的良善之情，引導(dǎo)他們的揚(yáng)善之行。但是，由于智能技術(shù)的介入，這種基于愛和關(guān)懷的倫理關(guān)系受到侵蝕的威脅。2019年浙江省金華市某小學(xué)給學(xué)生佩戴監(jiān)測(cè)頭環(huán)引發(fā)廣泛關(guān)注，該頭環(huán)能監(jiān)測(cè)學(xué)生上課時(shí)的注意力情況，產(chǎn)生的數(shù)據(jù)會(huì)實(shí)時(shí)上傳到教師手機(jī)，以便其迅速做出反應(yīng)。顯然這使得教師與學(xué)生的具身交往在一定程度上受到智能設(shè)備的阻隔。

2.在倫理實(shí)質(zhì)上，教學(xué)智能化可能損害師生利益

從辯證唯物主義觀點(diǎn)來(lái)看，人的利益構(gòu)成了倫理本質(zhì)的規(guī)定性。馬克思指出：“感性的印象和自私的欲望、享樂和正確理解的個(gè)人利益，是整個(gè)道德的基礎(chǔ)?！? 我國(guó)倫理學(xué)家羅國(guó)杰也主張：“離開了利益，就無(wú)從了解道德的產(chǎn)生和發(fā)展，道德的性質(zhì)、不同類型和社會(huì)作用?！? 據(jù)此可以認(rèn)為，一定的利益格局被打破，致使其中一部分人的利益受損，則是觸及倫理實(shí)質(zhì)的問題。教學(xué)過(guò)程中智能技術(shù)的應(yīng)用，有可能使原有的利益關(guān)系發(fā)生變化，從而動(dòng)搖教學(xué)的倫理基礎(chǔ)。

一是侵害學(xué)生和教師個(gè)人隱私的風(fēng)險(xiǎn)。智能教學(xué)系統(tǒng)要實(shí)現(xiàn)對(duì)個(gè)別學(xué)生學(xué)習(xí)資源和路徑的精準(zhǔn)推送，就必須先對(duì)該生的學(xué)習(xí)需求、學(xué)習(xí)偏好與學(xué)習(xí)風(fēng)格做出準(zhǔn)確分析和判斷，這就需要以該生的個(gè)人信息為基礎(chǔ)，包括生理特征、學(xué)籍檔案、思維風(fēng)格、認(rèn)知能力、學(xué)習(xí)基礎(chǔ)以及學(xué)習(xí)習(xí)慣等。這些信息被收集并貯存于聯(lián)網(wǎng)計(jì)算機(jī)、實(shí)體服務(wù)器甚至云端服務(wù)器中。這些設(shè)施一旦管理不善或者受到黑客入侵，學(xué)生的個(gè)人信息就可能外泄，從而使得他們的隱私受到侵害。不僅如此，智能系統(tǒng)為與教師相協(xié)調(diào)，以便更好地做出教學(xué)決策、建構(gòu)虛擬教學(xué)環(huán)境，需要收集教師的工作風(fēng)格、教學(xué)行為等信息，這使教師的隱私也處于被泄露的風(fēng)險(xiǎn)之中。以開發(fā)、生產(chǎn)和銷售智能教學(xué)系統(tǒng)的教育科技公司為例，它們往往把企業(yè)利潤(rùn)和股東回報(bào)作為首要目標(biāo)。這些公司推出的用于教育和兒童服務(wù)的商業(yè)產(chǎn)品掌握著個(gè)人信息與技術(shù)使用。雖然商業(yè)利益和教育的公益價(jià)值可能相一致，但在利潤(rùn)最大化的動(dòng)機(jī)驅(qū)動(dòng)下，這些公司所搜集的個(gè)人信息，尤其是兒童的“心智、精神、情緒和情感狀態(tài)”等數(shù)據(jù)可能被商品化，用來(lái)改善公司產(chǎn)品、創(chuàng)造競(jìng)爭(zhēng)差異，甚至為課堂外的業(yè)務(wù)提供服務(wù)。3 無(wú)論是科技公司出于營(yíng)利目的主動(dòng)泄露數(shù)據(jù)，還是由外部因素導(dǎo)致的被動(dòng)侵害，在沒有相關(guān)隱私保護(hù)政策法規(guī)出臺(tái)的情況下，都導(dǎo)致學(xué)生和教師的私人信息很難得到有效的保護(hù)。

二是削減弱勢(shì)群體受教育權(quán)益的風(fēng)險(xiǎn)。技術(shù)必須借助一定的儀器設(shè)備才能發(fā)揮作用，一般而言，越復(fù)雜高效的技術(shù)，就越需要精密高端的設(shè)備，這就使得經(jīng)濟(jì)條件成為開展智能化教學(xué)的重要因素。我國(guó)目前的實(shí)際情況是，地區(qū)間社會(huì)經(jīng)濟(jì)發(fā)展差異大，居民家庭間的收入差異也大，這就導(dǎo)致智能教學(xué)系統(tǒng)所依托的硬件難以在所有地區(qū)的學(xué)校和所有學(xué)生家庭中得到同等配置。2020年上半年，我國(guó)為做到“停課不停學(xué)”，在全國(guó)范圍內(nèi)開展線上教學(xué)。由于網(wǎng)絡(luò)信號(hào)和電腦設(shè)備等原因，少數(shù)學(xué)生難以獲得完全或穩(wěn)定的教學(xué)服務(wù)。在此期間，湖北省五峰漁洋鎮(zhèn)一年級(jí)學(xué)生柯某“在案板下上網(wǎng)課”這一情景曾引發(fā)很多人的熱議和感慨。由于技術(shù)設(shè)備的“準(zhǔn)入門檻”所限，致使一部分學(xué)生無(wú)法得到同等教育資源，這勢(shì)必引發(fā)新的教育不公?！敖逃ぷ髦械募夹g(shù)運(yùn)用，應(yīng)該以促進(jìn)平等、降低壁壘而非拉大差距、擠壓弱勢(shì)為出發(fā)點(diǎn)，不能‘不知不覺地’對(duì)學(xué)習(xí)者的受教育權(quán)、成長(zhǎng)發(fā)展權(quán)形成侵犯、剝奪?！?

公共領(lǐng)域中相關(guān)者的利益受損，往往會(huì)引發(fā)倫理問責(zé)。教師相對(duì)學(xué)生而言掌握著教學(xué)的主導(dǎo)權(quán)，這就意味著他應(yīng)當(dāng)承擔(dān)相應(yīng)的道德責(zé)任。理論和現(xiàn)實(shí)都可以證明，學(xué)校和課堂存在一定的負(fù)效應(yīng)，而教師因舉止不當(dāng)、行為失范使學(xué)生受到傷害是其中不容忽視的一種表現(xiàn)，比如體罰、辱罵學(xué)生、對(duì)學(xué)生不公等。一旦碰到這種情況，很明顯，誰(shuí)有違師德，誰(shuí)就背負(fù)道義責(zé)任。很多國(guó)家明確頒布了教師專業(yè)倫理規(guī)范，其實(shí)就是給教師定規(guī)矩、明責(zé)任。但是，當(dāng)智能技術(shù)取代教師行使教學(xué)主導(dǎo)權(quán)后，一旦發(fā)生“事故”，損害了學(xué)生的尊嚴(yán)、人格或心智發(fā)展，該由誰(shuí)承擔(dān)責(zé)任？比如，在識(shí)別、收集信息轉(zhuǎn)換成數(shù)據(jù)時(shí)出現(xiàn)失真甚至完全錯(cuò)誤，那么將據(jù)此分析出來(lái)的結(jié)果作為教學(xué)決策依據(jù)顯然就不可靠。再比如，在制定算法規(guī)則時(shí)，對(duì)某類學(xué)生群體的無(wú)意偏見可能導(dǎo)致對(duì)該類群體做出不當(dāng)?shù)慕虒W(xué)診斷與評(píng)價(jià)。而在目前關(guān)于問責(zé)的法規(guī)體系中，還沒有如何處置智能機(jī)器“行為失當(dāng)”的應(yīng)對(duì)措施。如果這種情況發(fā)生，該問責(zé)教師、學(xué)校，還是算法編寫人員，又或是定制、提供系統(tǒng)的廠家和商家？

綜上，無(wú)論在倫理形式還是倫理實(shí)質(zhì)上，智能化教學(xué)均存在一些道德風(fēng)險(xiǎn)。教學(xué)不僅是知識(shí)授受的活動(dòng)，它還是一項(xiàng)道德的事業(yè)，正視其在發(fā)展過(guò)程中的倫理問題并予以妥善應(yīng)對(duì)，無(wú)疑有助于更好實(shí)現(xiàn)教學(xué)目的，促進(jìn)學(xué)生全面而良好的發(fā)展。

三、智能化教學(xué)之下化解倫理風(fēng)險(xiǎn)的對(duì)策

智能技術(shù)本身無(wú)所謂善惡，在其被人為應(yīng)用于教學(xué)中，改變了這一活動(dòng)原有的倫理關(guān)系和利益格局，才受到道德的審視。近些年來(lái)，教學(xué)智能化越來(lái)越受青睞，其背后是有一些因素推動(dòng)的，比如，技術(shù)主義“情結(jié)”使不少人認(rèn)為，課堂教學(xué)的革命性進(jìn)步主要取決于技術(shù)的迭代更新，而幾乎所有的技術(shù)都聚焦于學(xué)生的學(xué)習(xí)能力，在這方面取得的成效又反過(guò)來(lái)強(qiáng)化了技術(shù)的“魅力”。此外，全球化背景下出現(xiàn)了衡量教學(xué)質(zhì)量的通用性“標(biāo)準(zhǔn)”，最有代表性的莫過(guò)于經(jīng)濟(jì)發(fā)展與合作組織（OECD）主導(dǎo)的PISA（國(guó)際學(xué)生評(píng)估項(xiàng)目），通過(guò)測(cè)試各國(guó)初中生由其規(guī)定的能力和素養(yǎng)，“生成比較數(shù)據(jù)來(lái)推動(dòng)各國(guó)教育政策按照自己中意的方向前進(jìn)”。1 在這種情況下，智能技術(shù)自然被看作是提高學(xué)生測(cè)試科目（數(shù)學(xué)、科學(xué)和閱讀）解題能力，進(jìn)而提升國(guó)家在全球基礎(chǔ)教育中的競(jìng)爭(zhēng)力的利器。而以人力資本理論為基礎(chǔ)建構(gòu)起來(lái)的能力框架，難以覆蓋學(xué)生的全部素養(yǎng)，尤其是那些與“面向人性解放與生命尊嚴(yán)的崇高價(jià)值”2 有關(guān)的品質(zhì)。可以說(shuō)，正是智能技術(shù)應(yīng)用的熱潮，驅(qū)動(dòng)了“教學(xué)中倫理受到遮蔽”這一憂慮的產(chǎn)生。智能技術(shù)在教學(xué)中的應(yīng)用是目前教學(xué)改革的重點(diǎn)，也是教育發(fā)展的重要趨勢(shì)，這是毋庸置疑的。我們要做的是正視智能化教學(xué)所面臨的倫理挑戰(zhàn)，及早提出、落實(shí)并完善應(yīng)對(duì)之策，真正做到智能技術(shù)深度融合于教學(xué)之中，使其能最大限度地賦能教育。

1.固守教學(xué)的倫理精神，明確智能技術(shù)的應(yīng)用限度

對(duì)于智能技術(shù)在教學(xué)中扮演怎樣的角色、發(fā)揮怎樣的作用、怎樣發(fā)揮作用，應(yīng)該有一個(gè)基本的認(rèn)識(shí)，這甚至觸及教育的本質(zhì)問題。教育是出于人、為了人、完善人的社會(huì)實(shí)踐活動(dòng)，教育的本質(zhì)在于對(duì)人的生命價(jià)值的維護(hù)、彰顯和提升。作為教育基本形式的教學(xué)，“是個(gè)多維存在，不僅具有科學(xué)性、藝術(shù)性，還具有倫理性，且倫理性之于教學(xué)具有首要性，教學(xué)是立于科學(xué)達(dá)于藝術(shù)之倫理性活動(dòng)”。3 智能技術(shù)作為一種外部力量改變教學(xué)的原有形態(tài)和方式，應(yīng)以不損害教學(xué)的倫理精神為限，因?yàn)椤霸诒倔w論意義上，人不可按照物化的方式被對(duì)待，人的心智、心靈品質(zhì)無(wú)法被數(shù)據(jù)估算，人的生命價(jià)值不應(yīng)當(dāng)被估算”。4 目前來(lái)看，智能技術(shù)對(duì)學(xué)生的心智、品質(zhì)培養(yǎng)起到的作用的確有限，因?yàn)閷W(xué)生的品格與性情很難通過(guò)學(xué)習(xí)“尊重”“誠(chéng)實(shí)”“優(yōu)雅”等抽象的規(guī)則加以塑造，而是在運(yùn)用諸如“做得很好”“太頑皮了”“他做錯(cuò)了”等具體切實(shí)的道德判斷中形成的。5 這就需要教師融入學(xué)生的生活環(huán)境，將主流規(guī)范內(nèi)化為自身的道德人格去教育和影響學(xué)生。在現(xiàn)有弱人工智能狀況下，智能教學(xué)系統(tǒng)無(wú)法建立起眾多與人類相似的真實(shí)情境，進(jìn)而介入學(xué)生情感和價(jià)值觀領(lǐng)域發(fā)揮教育作用。在秉承這一基本認(rèn)識(shí)的前提下，應(yīng)明確智能技術(shù)的運(yùn)用條件，劃定其應(yīng)用范圍和限度，使其在目前復(fù)雜的教育環(huán)境中對(duì)教學(xué)進(jìn)行“賦能”和“增值”的同時(shí)，不背離教育本質(zhì)，不損害教學(xué)倫理。

2.教師珍視教學(xué)主體權(quán)利，維系師生倫理關(guān)系

智能技術(shù)能在一定范圍內(nèi)和一定程度上代替教師從事一些教學(xué)事務(wù)，而且具有準(zhǔn)確性、高效性特點(diǎn)，但教師須知：一方面，智能技術(shù)針對(duì)并試圖解決的主要是學(xué)生的知識(shí)學(xué)習(xí)問題，然而，認(rèn)知水平和能力的發(fā)展遠(yuǎn)遠(yuǎn)不是學(xué)生發(fā)展的全部，作為“未完成的人”，學(xué)生尚有道德、審美、情感、社會(huì)交往態(tài)度與能力等方面有待成長(zhǎng)，智能技術(shù)在這些方面還無(wú)法替代教師的作用。大多數(shù)教師所運(yùn)用的信息技術(shù)實(shí)踐是基礎(chǔ)性的1，也就是將技術(shù)“添加”到現(xiàn)有的課程中，而那些與認(rèn)知發(fā)展有關(guān)的人格因素，比如好奇心、探究欲、意志力等，智能技術(shù)能施加的影響則是非常有限的。另一方面，教育是一項(xiàng)追求“善”的事業(yè)，培養(yǎng)學(xué)生成為行善而利他、因善而幸福的人，也是教育的重要目的，而智能技術(shù)本身并無(wú)善惡之分，關(guān)鍵還是取決于人如何運(yùn)用它。我們現(xiàn)在所知的一些智能化教學(xué)之下學(xué)生受到傷害的事例，主要還是人對(duì)技術(shù)的誤用、濫用或使用時(shí)不考慮后果導(dǎo)致的。雖然人工智能對(duì)每一位學(xué)生都有相同程度的同理心和耐心，這在一定程度上使學(xué)生免于教師潛在的偏見，以及產(chǎn)生學(xué)習(xí)疲倦，2 但是教師不應(yīng)因此而喪失自信心和主觀能動(dòng)性，反而更應(yīng)該堅(jiān)守自己作為教育者的主體角色，不向智能系統(tǒng)讓渡自己的主體權(quán)利，明確師生間的倫理關(guān)系才是教學(xué)關(guān)系的本質(zhì)，真正擔(dān)負(fù)起對(duì)學(xué)生的道德責(zé)任。

3.建立智能技術(shù)應(yīng)用于教學(xué)的倫理規(guī)范，維護(hù)師生相關(guān)利益

從操作層面講，為智能技術(shù)在教學(xué)中的應(yīng)用制定一套倫理規(guī)范，是制約其被過(guò)度和不當(dāng)使用，引導(dǎo)其發(fā)揮積極作用的可行之道。近年來(lái)，經(jīng)濟(jì)合作與發(fā)展組織、美國(guó)計(jì)算機(jī)協(xié)會(huì)（Association of Computing Machinery，縮寫ACM）、谷歌公司（Google），以及知名勞動(dòng)力市場(chǎng)分析公司Burning Glass Technologies等機(jī)構(gòu)，都發(fā)布了人工智能的倫理準(zhǔn)則和指南，確保人工智能以負(fù)責(zé)任的方式發(fā)展，融入了透明、負(fù)責(zé)、公平與正義以及隱私保護(hù)等道德價(jià)值觀，內(nèi)容涉及或涵蓋了教育行業(yè)。3 2019年5月聯(lián)合國(guó)教科文組織在首屆“國(guó)際人工智能與教育大會(huì)”上通過(guò)的《北京共識(shí)——人工智能與教育》中也指出：“采納合乎倫理、注重隱私和通過(guò)設(shè)計(jì)確保安全等原則的重要性……制定全面的數(shù)據(jù)保護(hù)法規(guī)以及監(jiān)管框架，保證對(duì)學(xué)習(xí)者的數(shù)據(jù)進(jìn)行合乎倫理、非歧視、公平、透明和可審核的使用?！? 因此，國(guó)家和地方教育管理機(jī)構(gòu)應(yīng)盡快著手制定相應(yīng)的倫理規(guī)范：一方面，應(yīng)將智能技術(shù)應(yīng)用所涉及的一系列倫理問題納入這一規(guī)范體系，尤其是教學(xué)領(lǐng)域;另一方面，應(yīng)充分聽取利益相關(guān)者，包括教師、學(xué)生、學(xué)校管理者、教育專家及智能技術(shù)專家的意見建議，在取得廣泛共識(shí)的基礎(chǔ)上制定相關(guān)倫理規(guī)范。與此同時(shí)，考慮到相關(guān)規(guī)范的更新速度可能高于其他領(lǐng)域，應(yīng)建立相應(yīng)的問責(zé)與審查制度，以保持這些倫理規(guī)范實(shí)施的穩(wěn)定性。例如在學(xué)校內(nèi)部，數(shù)據(jù)安全由信息技術(shù)部門負(fù)責(zé)，通過(guò)確定責(zé)任主體，對(duì)智能技術(shù)應(yīng)用過(guò)程進(jìn)行倫理審查并確定責(zé)任范圍。5

4.教育學(xué)生正確處理與人工智能的關(guān)系，培育其應(yīng)用智能技術(shù)的正確態(tài)度

智能技術(shù)的作用對(duì)象是學(xué)生，其倫理風(fēng)險(xiǎn)也主要體現(xiàn)在學(xué)生身上。一方面，兒童、青少年對(duì)新事物具有天然的敏感性和易接受性，人工智能所建構(gòu)的知識(shí)呈現(xiàn)界面和虛擬教學(xué)場(chǎng)景對(duì)他們具有強(qiáng)大的吸引力，這容易使學(xué)生將注意力更多地集中在教學(xué)內(nèi)容之外的交互圖片、動(dòng)畫影像和音響音效上;同時(shí)，智能技術(shù)靠量化的數(shù)據(jù)識(shí)別對(duì)學(xué)生進(jìn)行評(píng)價(jià)，導(dǎo)致學(xué)生更加關(guān)注如何“取悅”機(jī)器以獲得積極的評(píng)價(jià)，而不是關(guān)注課堂學(xué)習(xí)本身。另一方面，智能設(shè)備可以準(zhǔn)確記錄學(xué)生包括舉手、打盹等在內(nèi)的一系列行為。隨著互動(dòng)次數(shù)的增加，適應(yīng)性學(xué)習(xí)支持系統(tǒng)能夠更多地了解學(xué)生的長(zhǎng)處和短處，這使得本具有高度自主性的個(gè)體有一種被控制和暴露的感覺，因此對(duì)人工智能產(chǎn)生負(fù)面的抗拒情緒。1 伴隨著智能化教學(xué)過(guò)程，無(wú)形中會(huì)形成學(xué)生與智能系統(tǒng)（機(jī)器）這一新型關(guān)系。那么，是在機(jī)器面前喪失自己的獨(dú)立性和自主權(quán)、逃避智能技術(shù)的多維度分析，還是能保持清醒的頭腦，將智能機(jī)器作為促進(jìn)自身學(xué)習(xí)的伙伴和助手，這取決于學(xué)生能否正確分辨和處理與人工智能的關(guān)系。目前已出現(xiàn)“人工智能商數(shù)”（Artificial Intelligence Quotient，縮寫AIQ）這一概念，其既包括利用智能技術(shù)的能力，也包括與智能機(jī)器溝通協(xié)調(diào)、彼此友好相處的能力。學(xué)生對(duì)于人工智能的認(rèn)知能力源于現(xiàn)實(shí)生活和虛構(gòu)故事中的經(jīng)驗(yàn)，并基于此確立對(duì)人工智能的信任程度，那些了解人工智能的功能和優(yōu)勢(shì)的用戶會(huì)更加信任人工智能，而意識(shí)到人工智能潛在風(fēng)險(xiǎn)的用戶會(huì)對(duì)此更加謹(jǐn)慎。2 因此，對(duì)教育者來(lái)說(shuō)，自己在合理、正當(dāng)?shù)剡\(yùn)用智能技術(shù)的同時(shí)，還應(yīng)幫助、引導(dǎo)學(xué)生建立起對(duì)人工智能的正確態(tài)度，處理好他們與人工智能的關(guān)系，使智能技術(shù)能在真正意義上促進(jìn)學(xué)生的發(fā)展。