“人工智能+教育”領(lǐng)域的政府監(jiān)管問(wèn)題研究

朱芊逸

[摘 要] 文章從“人工智能+教育”領(lǐng)域的發(fā)展背景與監(jiān)管現(xiàn)狀入手，以小猿搜題APP為例，通過(guò)問(wèn)卷調(diào)查形式對(duì)社會(huì)公眾意見(jiàn)進(jìn)行收集整理，分析得出“人工智能+教育”領(lǐng)域存在的問(wèn)題以及成因，最終得出優(yōu)化“人工智能+教育”領(lǐng)域政府監(jiān)管的對(duì)策建議，包括促進(jìn)政府監(jiān)管理念的轉(zhuǎn)變；推動(dòng)人工智能領(lǐng)域立法進(jìn)程，出臺(tái)《人工智能監(jiān)管法》；完善人工智能領(lǐng)域監(jiān)管體制，成立人工智能監(jiān)管委員會(huì)；通過(guò)多元化的協(xié)同監(jiān)督，創(chuàng)新人工智能領(lǐng)域監(jiān)管模式以及全方位綜合提高監(jiān)管能力，為“人工智能+教育”領(lǐng)域搭建一個(gè)安全、有序、明晰的平臺(tái)。

[關(guān)鍵詞] 人工智能+教育；小猿搜題；政府監(jiān)管；技術(shù)倫理

中圖分類號(hào)：D523 文獻(xiàn)標(biāo)識(shí)碼：A

★基金項(xiàng)目：北京市2018年社科基金青年項(xiàng)目《北京市共享經(jīng)濟(jì)監(jiān)管困境及其治理創(chuàng)新研究》（18ZGC011）的階段性成果。

從21世紀(jì)初起，隨著人工智能技術(shù)發(fā)展的逐步成熟，以互聯(lián)網(wǎng)、大數(shù)據(jù)以及深度學(xué)習(xí)為依托的第三次人工智能高峰已然到來(lái)，人工智能技術(shù)已成為推動(dòng)社會(huì)發(fā)展的重要技術(shù)動(dòng)力，是各個(gè)行業(yè)和領(lǐng)域發(fā)展的新興趨勢(shì)。教育作為決定國(guó)家科技發(fā)展水平和創(chuàng)新能力重要環(huán)節(jié)，對(duì)人工智能技術(shù)的應(yīng)用更加迫切。如何使“人工智能+教育”適應(yīng)時(shí)代需要，通過(guò)人工智能技術(shù)的使用改革教育方式和培養(yǎng)創(chuàng)新型人才，成為對(duì)我國(guó)的一項(xiàng)重要挑戰(zhàn)。

一、“人工智能+教育”領(lǐng)域發(fā)展與政府監(jiān)管現(xiàn)狀

（一）“人工智能+教育”領(lǐng)域發(fā)展

國(guó)務(wù)院于2017年上半年發(fā)布的《新一代人工智能發(fā)展計(jì)劃》中提出智能教育應(yīng)以形成交互式、智能化的新型教育系統(tǒng)作為發(fā)展目標(biāo)，同時(shí)應(yīng)促進(jìn)人工智能技術(shù)在教育、管理和資源建設(shè)領(lǐng)域的應(yīng)用。同年，國(guó)務(wù)院發(fā)布《十三五國(guó)家教育發(fā)展規(guī)劃綱要》中提出發(fā)展未來(lái)教育，進(jìn)一步構(gòu)建新型教育模式應(yīng)綜合運(yùn)用人工智能、大數(shù)據(jù)、虛擬現(xiàn)實(shí)等技術(shù)[1]。2018年，教育部發(fā)布的《高等教育人工智能創(chuàng)新行動(dòng)計(jì)劃》中指出對(duì)于新一代人工智能的創(chuàng)新發(fā)展，需要進(jìn)行頂層計(jì)劃和部署。2019年，在國(guó)際人工智能和教育會(huì)議上討論，審查和批準(zhǔn)了文件《北京共識(shí)——人工智能與教育》，形成了國(guó)際社會(huì)對(duì)智能時(shí)代教育發(fā)展的共識(shí)。

（二）“人工智能+教育”領(lǐng)域政府監(jiān)管

根據(jù)教育部官網(wǎng)站數(shù)據(jù)，截至2018年底全國(guó)共計(jì)2963個(gè)縣（區(qū)、市）已開(kāi)始專項(xiàng)治理整頓工作，其中1247個(gè)縣（區(qū)、市）已基本完成任務(wù)，完成率達(dá)42%。對(duì)于教育機(jī)構(gòu)的整頓方面，全國(guó)校外教育機(jī)構(gòu)共摸排401050家，其中問(wèn)題機(jī)構(gòu)占比68%，其中六成已完成整改共計(jì)163203家。盡管行業(yè)監(jiān)管政策更為嚴(yán)格，鼓勵(lì)教育行業(yè)創(chuàng)新的政府政策也在不斷推廣，尤其是從資金投入方面，2012年至2016年4年間教育支出逐年增加，連續(xù)五年占GDP的比重超過(guò)4%，并將持續(xù)增加[2]。

二、基于“小猿搜題APP”拍照搜題軟件的實(shí)證研究

在“小猿搜題APP”軟件調(diào)查問(wèn)卷設(shè)計(jì)方面，調(diào)查主要針對(duì)用戶的使用感受、滿意度以及是否認(rèn)為該軟件需要政府監(jiān)管的方面進(jìn)行數(shù)據(jù)收集和分析。通過(guò)問(wèn)卷結(jié)果分析，得出小猿搜題軟件存在以下幾方面問(wèn)題：第一，產(chǎn)品技術(shù)水平有待提高。檢索完成后結(jié)果排版雜亂，展示不夠直觀，用戶無(wú)法直接找到所需結(jié)果，拍照識(shí)別精準(zhǔn)度不高，后續(xù)需進(jìn)一步提升。第二，拍照搜索內(nèi)容存在缺失或出錯(cuò)。目前小猿搜題主要面向理工類科目，對(duì)于文史類科目，存在搜索準(zhǔn)確性低、無(wú)法反饋結(jié)果等問(wèn)題。并且，作為信息化的產(chǎn)物，由于不能進(jìn)行獨(dú)立地思考，故不能保證提供百分之百正確的答案。第三，易使用戶產(chǎn)生惰性和依賴，不利于對(duì)具體知識(shí)和解題思路的掌握。作為軟件，解題的步驟不能做到完全詳盡和標(biāo)準(zhǔn)化，故學(xué)習(xí)能力弱的學(xué)生無(wú)法僅憑步驟解決問(wèn)題，準(zhǔn)確掌握所學(xué)的知識(shí)點(diǎn)，使所學(xué)知識(shí)無(wú)法得到鞏固。第四，全員“小猿”，不利于家長(zhǎng)和教師了解學(xué)生學(xué)習(xí)的真實(shí)水平。作業(yè)完成情況是老師衡量學(xué)生學(xué)習(xí)，調(diào)整授課內(nèi)容的重要手段，通過(guò)使用“小猿搜題”，作業(yè)無(wú)法呈現(xiàn)學(xué)生對(duì)知識(shí)掌握的真實(shí)情況，家長(zhǎng)和教師無(wú)法進(jìn)行有針對(duì)性的輔導(dǎo)。第五，平臺(tái)是否擁有優(yōu)質(zhì)的師資力量有待考證。由于小猿搜題主打功能是搜題，存在師資素質(zhì)和資歷參差不齊的情況，缺乏專業(yè)性和權(quán)威性。第六，平臺(tái)內(nèi)容和經(jīng)營(yíng)管理問(wèn)題存在混亂。小猿搜題軟件曾因?yàn)橥扑椭写嬖诘退子泻π畔⒍谎胍晥?bào)道和點(diǎn)名，同時(shí)還存在一些在線教育的通病，包括超前教學(xué)、收取預(yù)付費(fèi)以及退費(fèi)難等問(wèn)題，使得用戶體驗(yàn)大打折扣。

三、“人工智能+教育”領(lǐng)域的問(wèn)題與成因分析

（一）“人工智能+教育”領(lǐng)域存在問(wèn)題

1.“人工智能+教育”領(lǐng)域粗放發(fā)展。我國(guó)還處于弱人工智能時(shí)代，“人工智能+教育”領(lǐng)域的理論研究與創(chuàng)新滯后于技術(shù)進(jìn)步與時(shí)代發(fā)展需求，使得具體教育實(shí)踐環(huán)節(jié)缺乏對(duì)應(yīng)的理論指引，并且教育領(lǐng)域所投入的技術(shù)與配套設(shè)施的完善程度不足，未形成系統(tǒng)化、高效的應(yīng)用體系。由于教育行業(yè)沒(méi)有統(tǒng)一的方式和標(biāo)準(zhǔn)，其復(fù)雜性和多樣性使其難以與現(xiàn)代人工智能技術(shù)相結(jié)合。

2.教育工作者對(duì)人工智能技術(shù)應(yīng)用的態(tài)度不一。人工智能技術(shù)由于其功能的強(qiáng)大和多元，使得教育工作者普遍對(duì)技術(shù)的信任感不強(qiáng)，對(duì)其應(yīng)用價(jià)值存疑。很多教育工作者存在對(duì)于人工智能領(lǐng)域的研究、開(kāi)發(fā)和應(yīng)用的單方面錯(cuò)誤認(rèn)知，不確定今后“人工智能+教育”的發(fā)展應(yīng)用之中，是否自己還有教育的主導(dǎo)權(quán)，具體是輔助關(guān)系，合作關(guān)系還是被替代的關(guān)系，故不希望將人工智能技術(shù)推廣到教育當(dāng)中應(yīng)用。

3.用戶隱私泄露多發(fā)與安全責(zé)任歸屬不清。未被監(jiān)管的數(shù)據(jù)收集過(guò)程易導(dǎo)致用戶的個(gè)人隱私泄露。由于以“深度學(xué)習(xí)+大數(shù)據(jù)”為主要模式的技術(shù)深入對(duì)于數(shù)據(jù)的需求量大，用戶在使用時(shí)提供的數(shù)據(jù)可能會(huì)被非法利用，以至用戶個(gè)人隱私信息被泄，責(zé)任與安全、權(quán)利與義務(wù)歸屬問(wèn)題難以界定。

（二）“人工智能+教育”領(lǐng)域遭遇監(jiān)管困境的成因

第一，人工智能技術(shù)的發(fā)展帶來(lái)失業(yè)風(fēng)險(xiǎn)的加劇。人工智能技術(shù)的大規(guī)模使用將導(dǎo)致從事勞動(dòng)密集型、重復(fù)型、高度流程型等職業(yè)人員類型面臨失業(yè)，顛覆傳統(tǒng)勞動(dòng)關(guān)系，解構(gòu)社會(huì)分工模式，造成大量結(jié)構(gòu)性失業(yè)，影響社會(huì)公平正義，使社會(huì)安全水平下降，引發(fā)社會(huì)動(dòng)蕩。第二，人工智能技術(shù)研發(fā)過(guò)程中存在算法歧視現(xiàn)象。由于人工智能產(chǎn)品從輸入到輸出的數(shù)據(jù)質(zhì)量、算法、公式和內(nèi)在隱含信息決定了最終結(jié)果，其過(guò)程易受到主觀歧視影響，如性別、職業(yè)甚至種族歧視等等。由于算法歧視的出現(xiàn)是系統(tǒng)化的，若使用帶有歧視的算法評(píng)估個(gè)人利益會(huì)使公民個(gè)人權(quán)益受損，加劇價(jià)值鴻溝，進(jìn)而造成社會(huì)動(dòng)蕩。第三，人工智能技術(shù)的使用存在技術(shù)依賴問(wèn)題。由于現(xiàn)在信息獲取變得越來(lái)越簡(jiǎn)單，智能機(jī)器可根據(jù)獲取的信息來(lái)進(jìn)行分析，得到用戶畫(huà)像，進(jìn)而推送逐漸精準(zhǔn)和趨同的個(gè)性化信息，使人們重復(fù)接觸自己感興趣的領(lǐng)域，產(chǎn)生路徑依賴，導(dǎo)致人的自主能力下降，使思維固化并且存在盲區(qū)和偏見(jiàn)，影響人的自我發(fā)展[3]。第四，人工智能技術(shù)發(fā)展存在倫理關(guān)系失調(diào)風(fēng)險(xiǎn)。當(dāng)強(qiáng)人工智能時(shí)代來(lái)臨時(shí)，一旦智能機(jī)器人催化出自我意識(shí)，激發(fā)出人性特征后，如何界定其權(quán)利與義務(wù)？如何在法律上界定其社會(huì)地位？人類和智能機(jī)器是否在社會(huì)中和諧穩(wěn)定的共存是需要討論的。

四、完善“人工智能+教育”領(lǐng)域政府監(jiān)管的對(duì)策建議

（一）推動(dòng)人工智能領(lǐng)域立法進(jìn)程

出臺(tái)《人工智能監(jiān)管法》之后，應(yīng)及時(shí)完善各類法律的細(xì)化。明確規(guī)定違法使用人工智能時(shí)，依照其性質(zhì)和程度規(guī)定應(yīng)負(fù)的民事、刑事責(zé)任，明晰人工智能犯罪的違法成本，對(duì)社會(huì)公眾達(dá)到警示的作用，從而一定程度上減少人工智能技術(shù)的非法使用而產(chǎn)生的違法活動(dòng)[4]。理清人工智能各個(gè)監(jiān)管主體的責(zé)任、義務(wù)的劃分，以避免法律層面上監(jiān)管責(zé)任的相互推諉，使人工智能的監(jiān)管在更細(xì)致明確的法律法規(guī)支撐下形成新的全方位、多元化、多角度監(jiān)管局面。

（二）完善人工智能領(lǐng)域監(jiān)管體制

在人工智能領(lǐng)域的監(jiān)管方面，除去立法還應(yīng)依法完善監(jiān)管體制，設(shè)置負(fù)責(zé)監(jiān)管人工智能的專門(mén)機(jī)構(gòu)。監(jiān)管機(jī)構(gòu)的設(shè)立主要負(fù)責(zé)人工智能技術(shù)的政策制定和具體監(jiān)管事項(xiàng)，著重審核人工智能產(chǎn)品研究立項(xiàng)與開(kāi)發(fā)的安全性。在政策制定方面，人工智能監(jiān)管機(jī)構(gòu)應(yīng)負(fù)責(zé)定義人工智能、建立人工智能審核認(rèn)證程序以及流程定期，并且政策制定應(yīng)及時(shí)更新修正以確保與技術(shù)發(fā)展同步[5]。

（三）創(chuàng)新人工智能領(lǐng)域監(jiān)管模式

監(jiān)管 “人工智能+教育”領(lǐng)域，基于該領(lǐng)域的特殊性，政府作為單一主體無(wú)法進(jìn)行有效的監(jiān)管，故其監(jiān)督需要多元主體的參與，應(yīng)采用多元協(xié)同的監(jiān)管模式。多元協(xié)同監(jiān)管模式是政府，企業(yè)、協(xié)會(huì)、研究機(jī)構(gòu)和社會(huì)公眾等利益相關(guān)者共同參與監(jiān)管政策制定和具體實(shí)施的監(jiān)管模式，除了協(xié)同多主體之外，還需要運(yùn)用跨學(xué)科、跨部門(mén)的參與方式，跨學(xué)科合作為人工智能時(shí)代的教育生態(tài)系統(tǒng)的重建奠定了基礎(chǔ)，并為人工智能政策的制定提供了參考。

參考文獻(xiàn)：

[1]蔡自興.中國(guó)人工智能40年[J].科技導(dǎo)報(bào)，2016，34（15）：12-32.

[2]陳鵬.人工智能時(shí)代的政府治理：適應(yīng)與轉(zhuǎn)變[J].電子政務(wù)，2019（03）：27-34

[3]何哲.人工智能時(shí)代的政府適應(yīng)與轉(zhuǎn)型[J].行政管理改革，2016，8（8）：53-59.

[4]侯浩翔，鐘婉娟.人工智能視閾下教育治理的技術(shù)功用與困境突破[J].電化教育研究，2019，40（04）：37-43.

[5]姜皓文.人工智能技術(shù)在教育領(lǐng)域中的應(yīng)用[J].電子技術(shù)與軟件工程，2018（05）：255.