智能教育時(shí)代學(xué)習(xí)者選擇自由的缺失與復(fù)歸

陳 靜

（長(zhǎng)江大學(xué)教育與體育學(xué)院 湖北·荊州 434000）

0 引言

智能教育使用學(xué)習(xí)者選擇和行為的數(shù)據(jù)以多種方式支持和加強(qiáng)學(xué)習(xí)，如提供智能輔導(dǎo)；[1]預(yù)測(cè)學(xué)生成績(jī)，提出補(bǔ)救措施[2]；為不同學(xué)生的個(gè)性化學(xué)習(xí)以及教師改進(jìn)教學(xué)提供精準(zhǔn)服務(wù)；[3]引入新的評(píng)估形式等[4]。然而，鮮有學(xué)者分析人工智能教育對(duì)個(gè)人自由和基本權(quán)利的影響，實(shí)際上收集與使用大量學(xué)習(xí)者個(gè)人數(shù)據(jù)的系統(tǒng)會(huì)帶來(lái)重大的人權(quán)問(wèn)題。關(guān)注大規(guī)模收集和分析個(gè)人數(shù)據(jù)，監(jiān)管教育大數(shù)據(jù)的收集與使用，確保學(xué)習(xí)者個(gè)人數(shù)據(jù)的使用能夠支持學(xué)習(xí)者選擇自由的變革是智能教育時(shí)代對(duì)教育提出的挑戰(zhàn)與難題。

1 智能教育時(shí)代學(xué)習(xí)者選擇自由的缺失

教育系統(tǒng)面臨著一個(gè)悖論，學(xué)習(xí)者必須參加老師認(rèn)為有益的學(xué)習(xí)活動(dòng)和評(píng)估。矛盾的是，強(qiáng)制性參與可能被視為減少基本人權(quán)，包括行使自主權(quán)和作出選擇的權(quán)利。當(dāng)學(xué)習(xí)者必須參與收集他們數(shù)據(jù)的活動(dòng)和評(píng)估時(shí)，這一矛盾就變得尤為突出。學(xué)習(xí)者應(yīng)被賦予選擇不收集數(shù)據(jù)的權(quán)利。因此，考慮如何平衡選擇自由、數(shù)據(jù)質(zhì)量與學(xué)習(xí)者的潛在利益是至關(guān)重要的。智能教育時(shí)代學(xué)習(xí)者選擇自由的缺失主要體現(xiàn)于數(shù)據(jù)收集退出受阻、數(shù)據(jù)使用限制存在與終身數(shù)據(jù)管理受限。

1.1 數(shù)據(jù)收集退出受阻

人工智能數(shù)據(jù)能力收集有限，收集哪些數(shù)據(jù)，應(yīng)用主體具有一定的決定權(quán)。[5]學(xué)習(xí)者可能出于各種原因，拒絕參與數(shù)據(jù)收集。然而多數(shù)國(guó)家低于法定成年年齡的學(xué)生不能合法地“選擇”或“退出”監(jiān)控，通常由其父母或法定監(jiān)護(hù)人決定是否參與，限制學(xué)生的自由選擇，只能被動(dòng)參與其中。同時(shí)大部分預(yù)測(cè)分析系統(tǒng)運(yùn)轉(zhuǎn)都依賴于評(píng)估數(shù)據(jù)的收集，這使得學(xué)校更難以改變?cè)u(píng)估模型。應(yīng)該強(qiáng)調(diào)任何數(shù)據(jù)主體有權(quán)利知曉數(shù)據(jù)采集類型和方法以及數(shù)據(jù)安全保護(hù)措施，而現(xiàn)今對(duì)于收集數(shù)據(jù)的類型和方法始終邊界不清。[7]

值得注意的是，是否選擇進(jìn)行數(shù)據(jù)收集會(huì)影響數(shù)據(jù)質(zhì)量。收集到的數(shù)據(jù)可能會(huì)因過(guò)多或過(guò)少地代表特定的學(xué)習(xí)者群體而產(chǎn)生偏差，對(duì)這些不具代表性的數(shù)據(jù)加以分析可能會(huì)加重學(xué)生間的差距，從而得出歧視代表性不足的學(xué)習(xí)者的結(jié)論。上述因素對(duì)學(xué)生退出數(shù)據(jù)收集造成了一定程度的影響，進(jìn)而限制學(xué)生確定是否進(jìn)行數(shù)據(jù)收集的選擇。

1.2 數(shù)據(jù)使用限制存在

數(shù)據(jù)的“所有權(quán)”和控制是權(quán)力差異的一種形式。學(xué)生數(shù)據(jù)詳細(xì)分布在整個(gè)教育管理系統(tǒng)和商業(yè)平臺(tái)上，這引發(fā)了關(guān)于所有權(quán)和控制權(quán)的復(fù)雜問(wèn)題。學(xué)習(xí)管理系統(tǒng)越來(lái)越多地將學(xué)習(xí)者的數(shù)據(jù)存儲(chǔ)在教育機(jī)構(gòu)以外的系統(tǒng)中。雖然系統(tǒng)可能直觀地易于使用（例如，清晰的菜單和有效的用戶培訓(xùn)），但它們的軟件設(shè)計(jì)和硬件配置增加了高度的復(fù)雜性。平臺(tái)沒(méi)有為學(xué)習(xí)者提供充分的途徑來(lái)使用數(shù)據(jù)。這削弱了個(gè)人自主決定自己的數(shù)據(jù)將如何被使用的能力，并使教學(xué)過(guò)程變得高深莫測(cè)。

理論上，每個(gè)人的數(shù)據(jù)保護(hù)權(quán)利可以減少個(gè)人與控制數(shù)據(jù)的人之間的權(quán)力失衡，然而，將人工智能系統(tǒng)嵌入教育可能會(huì)加劇權(quán)力失衡，并產(chǎn)生新的、不可預(yù)見的差異。與數(shù)據(jù)相關(guān)的挑戰(zhàn)已經(jīng)超越了數(shù)據(jù)的“所有權(quán)”，包括有效的數(shù)據(jù)控制和使用權(quán)。

1.3 終身數(shù)據(jù)管理受限

學(xué)生有權(quán)管理其個(gè)人的學(xué)習(xí)數(shù)據(jù)，并決定是否希望將其每個(gè)階段的所有成就記錄都包括在內(nèi)。確保學(xué)生能夠選擇何時(shí)以及如何使用他們的數(shù)據(jù)是一個(gè)重要的考慮因素，以確保個(gè)人不會(huì)處于不利地位。任何學(xué)習(xí)對(duì)象對(duì)在享受學(xué)習(xí)服務(wù)過(guò)程中產(chǎn)生、搜集、存儲(chǔ)與自身有關(guān)的數(shù)據(jù)都要享有知情權(quán)，[8]然而，弱勢(shì)群體不太可能獲得支持和建議。終身且聚合的數(shù)據(jù)把人描繪成具有“可測(cè)量特征”的“對(duì)象”，用來(lái)預(yù)測(cè)其未來(lái)。教育系統(tǒng)傾向于記錄特定的階段，如童年或青春期。然而，對(duì)于部分學(xué)習(xí)者來(lái)說(shuō)，這些可能不是自身快速發(fā)展的階段，階段數(shù)據(jù)無(wú)法準(zhǔn)確地說(shuō)明成績(jī)。另外一些特定時(shí)刻可能成為數(shù)據(jù)缺失的契機(jī)，例如將數(shù)據(jù)從一個(gè)機(jī)構(gòu)轉(zhuǎn)移到另一個(gè)機(jī)構(gòu)的過(guò)程，這使得學(xué)習(xí)者的終身數(shù)據(jù)管理與使用受到一定的沖擊。

2 智能教育時(shí)代學(xué)習(xí)者選擇自由的復(fù)歸

通過(guò)對(duì)智能教育時(shí)代學(xué)習(xí)者選擇自由缺失的具體表現(xiàn)進(jìn)行分析，本文認(rèn)為應(yīng)從以下三方面著手改善，全面系統(tǒng)地復(fù)歸學(xué)習(xí)者的選擇自由，進(jìn)而實(shí)現(xiàn)高效且自由的學(xué)習(xí)。

2.1 注重?cái)?shù)據(jù)質(zhì)量

不同個(gè)體間表達(dá)方式上的區(qū)別可能會(huì)直接造成數(shù)據(jù)質(zhì)量差異出現(xiàn)。部分?jǐn)?shù)據(jù)可能因表達(dá)方式不夠準(zhǔn)確而降低數(shù)據(jù)質(zhì)量，而另一部分的數(shù)據(jù)可能會(huì)以更有利的方式表示。對(duì)于這些數(shù)據(jù)，應(yīng)該如何分析、解釋和共享，如何糾正可能對(duì)個(gè)別學(xué)生的合法權(quán)利產(chǎn)生負(fù)面影響的偏見（有意識(shí)和無(wú)意識(shí)的）。[9]這些數(shù)據(jù)質(zhì)量上的差異可能源于不平等，通過(guò)人工智能和分析，可能會(huì)加劇劣勢(shì)。

當(dāng)前應(yīng)要求并鼓勵(lì)開發(fā)和部署新方法，以確保數(shù)據(jù)質(zhì)量提升。唯有通過(guò)收集高質(zhì)量的數(shù)據(jù)，才能實(shí)現(xiàn)公平和基本權(quán)利。上述要求引發(fā)并觸及了計(jì)算機(jī)科學(xué)、人工智能及相關(guān)領(lǐng)域的新研究領(lǐng)域。這些研究領(lǐng)域主要包括對(duì)匿名數(shù)據(jù)收集和處理、去身份識(shí)別和公平的調(diào)查，特別是在非歧視方面。未來(lái)人工智能在教育中的應(yīng)用須重視并借鑒以上發(fā)展。

2.2 使用數(shù)據(jù)合理

對(duì)學(xué)習(xí)者數(shù)據(jù)收集實(shí)乃龐雜與全面，分析數(shù)據(jù)時(shí)對(duì)數(shù)據(jù)使用的尺度把握顯得尤為重要。由此對(duì)數(shù)據(jù)使用提出新要求，應(yīng)確保數(shù)據(jù)不用于最初明確指明的和商定的目的以外的其他目的。使用數(shù)據(jù)的目的在于掌握學(xué)習(xí)者學(xué)習(xí)具體情況，分析學(xué)習(xí)者學(xué)習(xí)行為，并最終滿足學(xué)習(xí)者現(xiàn)實(shí)需要，獲得相應(yīng)的學(xué)習(xí)成就。這一目的的達(dá)成須遵循妥善且合理地使用數(shù)據(jù)這一原則，然而該原則與人工智能分析的探索性相沖突。同時(shí)學(xué)習(xí)者數(shù)據(jù)收集與使用的最終目的是滿足學(xué)習(xí)者需要，學(xué)習(xí)者作為數(shù)據(jù)主體，使用數(shù)據(jù)的權(quán)限與熟練度卻受到限制。學(xué)習(xí)者選擇自由的復(fù)歸應(yīng)關(guān)注學(xué)習(xí)者這一主體，適當(dāng)放寬學(xué)習(xí)者使用權(quán)限，并進(jìn)行適當(dāng)培訓(xùn)以幫助學(xué)生合理參與數(shù)據(jù)的使用。[8]數(shù)據(jù)使用過(guò)程中的限度與使用主體的多元化是人工智能教育研發(fā)中需要關(guān)注的主要方面。

2.3 明晰數(shù)據(jù)透明度

數(shù)據(jù)透明度與數(shù)據(jù)的“所有權(quán)”有關(guān)，數(shù)據(jù)透明度直接影響數(shù)據(jù)質(zhì)量，對(duì)數(shù)據(jù)收集與使用至關(guān)重要。需將透明度和公平作為處理學(xué)習(xí)者數(shù)據(jù)的主要原則，在數(shù)據(jù)收集與使用的全過(guò)程均應(yīng)實(shí)現(xiàn)透明化。包括但不限于數(shù)據(jù)管理平臺(tái)須提供全面且具體的信息，對(duì)數(shù)據(jù)處理的方式和原因進(jìn)行必要且詳細(xì)的科學(xué)解釋，比如在平臺(tái)中部署的人工智能分析方法、在數(shù)據(jù)分析中所采取的理論與技術(shù)。上述要素決定學(xué)習(xí)者數(shù)據(jù)透明度，也關(guān)聯(lián)著學(xué)習(xí)者學(xué)習(xí)的公平性，因而在智能教育盛行的時(shí)代，注重?cái)?shù)據(jù)透明度應(yīng)是平臺(tái)搭建者與教育工作者共同努力的方向。

3 結(jié)語(yǔ)

學(xué)習(xí)者不應(yīng)簡(jiǎn)單地被認(rèn)為“數(shù)據(jù)主體”，被動(dòng)參與智能教育時(shí)代的數(shù)據(jù)收集與使用，而應(yīng)能夠?qū)ζ鋽?shù)據(jù)行使自主權(quán)，將推進(jìn)學(xué)習(xí)者的選擇能動(dòng)性作為智能教育發(fā)展的前進(jìn)路徑。值得關(guān)注的是，在實(shí)現(xiàn)數(shù)據(jù)自治和隨著數(shù)據(jù)足跡的擴(kuò)大而加重個(gè)人管理數(shù)據(jù)的負(fù)擔(dān)之間取得平衡是提升學(xué)習(xí)者選擇能動(dòng)性的重要因素。

隨著人工智能工具與技術(shù)的開發(fā)、營(yíng)銷和嵌入教育，迫切需要確保學(xué)習(xí)者和教師（而不是科技公司和組織）成為主要受益者。教育中的人工智能不僅涉及數(shù)據(jù)隱私，還影響基本人權(quán)。在教育中引入人工智能所引發(fā)的一系列問(wèn)題是全球性的，需要更高級(jí)的機(jī)構(gòu)參與進(jìn)來(lái)，以督促和規(guī)范教育領(lǐng)域內(nèi)人工智能系統(tǒng)的科學(xué)發(fā)展。及時(shí)制定并實(shí)施相應(yīng)規(guī)則，學(xué)習(xí)者就能越快地避免教育中人工智能破壞其基本人權(quán)的風(fēng)險(xiǎn)，進(jìn)而實(shí)現(xiàn)數(shù)據(jù)選擇自由。