• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能時代的人機協(xié)同學習:形態(tài)、本質(zhì)與發(fā)展

    2023-12-29 00:00:00郝祥軍張?zhí)扃?/span>顧小清
    中國電化教育 2023年10期

    摘要:人工智能推動了智能教育的快速發(fā)展,展現(xiàn)出人機協(xié)同的實踐特征。但人機協(xié)同學習作為智能教育的重要組成部分,已經(jīng)呈現(xiàn)出怎樣的實踐形態(tài)、透過現(xiàn)象彰顯出怎樣的本質(zhì)卻鮮有研究探討。為了技術(shù)更好地服務教育、服務人的發(fā)展,研究對智能時代的人機協(xié)同學習實踐進行深入剖析。首先,綜合相關(guān)文獻和實踐發(fā)現(xiàn),人的認知活動與機器智能產(chǎn)生了千絲萬縷的聯(lián)系,人機協(xié)同學習在實踐中已呈現(xiàn)出知識導學、互動對話、智能增強三大形態(tài)。其次,透過現(xiàn)象看本質(zhì),研究從人機構(gòu)成的學習雙主體協(xié)同結(jié)構(gòu)中揭示出人機協(xié)同學習三個重要本質(zhì)內(nèi)容:一是人機協(xié)同學習意味著人類認知與人工認知的協(xié)同混合;二是人機交互技術(shù)的應用為人機協(xié)同認知搭建了流暢的通道;三是人機互惠構(gòu)成人機有效協(xié)同的關(guān)鍵。最后,研究提出兩點發(fā)展建議,即在技術(shù)層面以人機交互與人機互惠為著力點提升技術(shù)設(shè)計,在實踐層面以學習科學與以人為本為基本遵循規(guī)范實踐過程。

    關(guān)鍵詞:智能教育;人機協(xié)同學習;人機協(xié)同認知;人機交互;人機互惠;人本人工智能

    中圖分類號:G434 文獻標識碼:A

    本文系2019年度國家社會科學基金重大項目“人工智能促進未來教育發(fā)展研究”(項目編號:19ZDA364)研究成果。

    一、引言

    以人工智能為代表的新興科技浪潮推動了智能教育的快速發(fā)展。我國《新一代人工智能發(fā)展規(guī)劃》強調(diào),要大力發(fā)展智能教育,構(gòu)建包含智能學習、交互式學習的新型教育體系,并指明將人機協(xié)同增強智能作為人工智能發(fā)展的重點之一。教育人工智能以創(chuàng)設(shè)智能學習環(huán)境和揭示學習發(fā)生的原理與機制為主要目標,致力于增強人的智能和服務人的學習發(fā)展需求[1]。隨著人工智能不斷突破升級以及與教育的快速融合,人類與機器正在建立緊密的協(xié)作學習關(guān)系,人借助技術(shù)中介與外部環(huán)境交互、認識自我與世界的學習形態(tài)正走向常態(tài)化[2]。而且,由人工智能引發(fā)的學習革命正日益凸顯智能技術(shù)賦能個性化學習的實踐效果[3]。機器開始分擔原本全部由人類大腦完成的認知活動,改變了信息加工過程,從而影響了學習發(fā)生過程與機制,最終推動了人機協(xié)同智能結(jié)構(gòu)的形成,衍生出人機共生的學習系統(tǒng)[4]。正如毛剛等人所言,人機協(xié)同下的智能教育世界可謂是由學習者與智能技術(shù)在交互過程中形成的社會生態(tài),人機協(xié)同將成為理解和建構(gòu)未來教育的新方式[5]。隨著教育步入智能時代,人機協(xié)同學習也由此成為當下乃至未來人類社會的一種應然學習形態(tài)[6]。陳凱泉等人綜合分析智能教育中人機協(xié)同應用場景認為,人機協(xié)同的根本內(nèi)涵在于回答“人應該做什么?技術(shù)機器應該做什么?以及人機如何協(xié)同?”三個關(guān)鍵問題[7]。眾多學者以此展開了對智能時代人機協(xié)同學習的價值內(nèi)涵、表征形態(tài)與實踐進路[8]、實踐模式[9]、特征與過程[10]、人機協(xié)同的精準學習干預[11]的探討與框架構(gòu)建研究。但人機協(xié)同學習作為智能教育中的重要組成部分,已經(jīng)呈現(xiàn)出怎樣的實踐形態(tài)?透過現(xiàn)象又會彰顯出怎樣的實踐本質(zhì)?卻鮮有研究探討。實踐的探索需要伴隨相應的理論同行,為了技術(shù)更好地服務教育、服務人的發(fā)展,研究認為有必要對智能時代的人機協(xié)同學習實踐進行深入剖析,探討其在實踐中應用的本質(zhì)特征,從而為人機協(xié)同學習的未來發(fā)展提供方向與建議。

    二、實踐形態(tài)

    人機協(xié)同學習是對人類智慧發(fā)展的補充與助力,由人機構(gòu)成一種協(xié)作智能來實現(xiàn)人類發(fā)展的目標[12]。隨著人工智能技術(shù)的不斷發(fā)展,智能時代技術(shù)的教育應用逐漸關(guān)注如何基于認知科學或?qū)W習科學來促進智能技術(shù)與教育教學實現(xiàn)科學、有效的深度融合,并通過設(shè)計開發(fā)智能學習系統(tǒng)的形式來實現(xiàn)人機協(xié)同學習。綜合當前人機協(xié)同的主要實踐模式,包括機器主導的訓練學習模式、人機分工的協(xié)作學習模式和人類主導的探究學習模式[13]。以其對應人機協(xié)同學習的實踐形態(tài),智能技術(shù)則主要從知識導學、互動對話、智能增強三個方面參與人的認知學習過程,分別扮演著專家導師、智能學伴、智能助手等角色促進人的學習。

    (一)知識導學:以自適應引導認知的過程

    從斯金納提出程序教學機器,到今天的自適應學習系統(tǒng),基于規(guī)則的學習系統(tǒng)一直參與著人的學習活動,其主要表現(xiàn)為以習題訓練為核心內(nèi)容的知識練習。隨著人工智能的發(fā)展,智能環(huán)境下的學習系統(tǒng)雖然正試圖“逃離斯金納箱”,擺脫行為主義技術(shù)的桎梏[14],但不可否認的是,以知識為核心的導學仍然是智能技術(shù)影響學習的基本方式。只是智能時代的學習系統(tǒng)可以借助自適應診斷、反饋與推薦技術(shù)等為學習者規(guī)劃個性化、定制化的學習路徑,表現(xiàn)出自適應的特征,其本質(zhì)上依然是按照系統(tǒng)預設(shè)的學習路線來引導學習者的認知過程。一般而言,智能學習系統(tǒng)多是基于專家知識構(gòu)建專家模型,并對專家知識庫中的每個成分都進行權(quán)重的賦值。其背后的運行邏輯在于智能學習系統(tǒng)可以構(gòu)建出新手—專家差異模型,通過對比初學者的先驗知識狀態(tài)與領(lǐng)域?qū)<业闹R結(jié)構(gòu),確定學習者需要掌握的知識與概念。如今,大數(shù)據(jù)技術(shù)對知識節(jié)點關(guān)系的不斷挖掘,構(gòu)建學科知識圖譜也是實現(xiàn)自適應學習的一個關(guān)鍵方法。知識圖譜可以建立不同知識結(jié)點之間的關(guān)聯(lián)關(guān)系與順序關(guān)系,并為整個知識網(wǎng)絡(luò)或知識體系的構(gòu)建畫好藍圖。智能學習系統(tǒng)會根據(jù)不同學習者特征在知識圖譜中個性化定制學習路徑,而最終依然是以知識為主線的導學模式。不同的是在學習內(nèi)容自適應的基礎(chǔ)上,學習評價自適應表現(xiàn)出的巨大優(yōu)勢,即可以利用一系列的問題與反饋來修訂學習者的狀態(tài),并根據(jù)學習者的學習進度進行干預和調(diào)整。某些學習系統(tǒng)之所以一直被詬病走了行為主義的老路,正是因為某些事件的觸發(fā)與反饋是在事先進行了規(guī)定,導致學習路徑相對固定,缺少動態(tài)的變化。隨著智能時代對傳統(tǒng)項目反應理論的改進與更新,知識空間理論、認知診斷模型、貝葉斯知識追蹤模型與自適應測評技術(shù)等新方法在智能學習系統(tǒng)中的應用實現(xiàn)了對學習者知識掌握狀態(tài)的實時評價與反饋,為學習內(nèi)容的個性化提供了關(guān)鍵支撐。此外,智能學習系統(tǒng)不僅可以提供專家所掌握的知識領(lǐng)域,還能夠動態(tài)推薦適合學習者的學習序列,扮演一對一導師的角色,“手把手”輔導學習者學習。比如,通過智能代理(Agent)的形式,基于虛擬化身技術(shù)以導師(Tutor)的形象出現(xiàn)在人機交互的顯示界面中,基于自然語言處理技術(shù)實現(xiàn)與學習者的文字或語音互動,并對學習者的學習情況進行診斷,以此提供相應的反饋來幫助學習者學習。所以,從知識學習的角度來看,智能時代人機協(xié)同學習的一個主要實踐形態(tài)是以自適應技術(shù)引導學習者的自主學習與認知過程,通過反復訓練、反饋和刺激,強化人對知識的理解與建構(gòu)。

    (二)互動對話:以協(xié)商展現(xiàn)人機共同控制

    由于機器主導人的學習過程的弊端逐漸顯現(xiàn),以及隨著自然語言處理等人機交互技術(shù)的不斷發(fā)展,人機對話的場景已經(jīng)在生活、學習中頻繁出現(xiàn)。由此,人機協(xié)同學習開始注重向基于協(xié)商的自適應學習轉(zhuǎn)變,重視學習者的自主性和自我調(diào)節(jié)能力在學習過程中的作用,逐漸探索出以智能系統(tǒng)與學習者互動對話的方式共同控制學習過程的實踐模式[15]。近期爆火的ChatGPT更是以人機互動生成問題解決方案,展示出其在人機協(xié)同學習上的巨大潛力和價值。因此,在智能時代的人機協(xié)同學習實踐中,智能學習系統(tǒng)可以化身為智能學伴,不僅可以在認知層面與學習者進行對話協(xié)商,還會從情感交互與學習策略等方面支持學習者。例如,AutoTutor是一種自然語言處理技術(shù)支持的教學代理,它不僅可以模擬教師,還能同時模擬學伴,以三方互動對話的方式讓學習者在協(xié)商與對話中學習[16]。在情感交互方面,基于游戲化學習情境設(shè)計的智能學伴不僅可以進行學習預警、錯題收集,還可以分析學習者的情感狀態(tài)[17]。美國麻省理工學院的媒體實驗室很早就利用情感計算研發(fā)了一套著名的學習同伴系統(tǒng)以支持學習者的情感交互[18]。平克沃特(Pinkwart)教授團隊開發(fā)的智能學伴系統(tǒng)可以通過檢測學習者的皮膚電反應、心率變異度等生理數(shù)據(jù)判斷學習者在某種學習情境中的情緒狀態(tài)[19]。在學習策略上,有些自適應學習系統(tǒng)采取與學習者協(xié)商的方式,鼓勵學習者在學習過程中關(guān)注元認知,以此培養(yǎng)學習者的自我調(diào)節(jié)學習能力[20]。除此之外,智能學習系統(tǒng)逐漸融合學習分析與自適應推薦技術(shù),會通過分析學習者的學習狀況、學習風格與情感需求等個性特征,然后將合適的真人學伴推薦給學習者,鼓勵學習者與真人學伴開展協(xié)作學習[21]。比如,矩陣特征分解技術(shù)已在慕課學習環(huán)境下為學習者匹配最適合的論壇,促進所有參與論壇的學習者形成學習共同體[22];復雜過濾技術(shù)支持的推薦算法幫助學習者根據(jù)他們的知識差距和互惠偏好與同伴建立聯(lián)系[23]。智能學習系統(tǒng)此時真正跨越時空阻隔,成為人人互動的媒介通道,自適應匹配或推薦真人學伴,提供學習互動空間來助力人的學習。因此,智能時代人機協(xié)同學習的第二個重要實踐形態(tài)是以互動對話為特征的協(xié)作學習,在智能學習系統(tǒng)自適應的優(yōu)勢基礎(chǔ)上關(guān)注學習者自身對學習過程的控制和調(diào)節(jié),從專注于知識內(nèi)容學習拓展至人在自主學習過程中的社會性發(fā)展[24]。

    (三)智能增強:以智能服務彰顯以人為本

    美國知名評論家布雷特·金曾著《智能浪潮:增強時代來臨》,指出今天人工智能等新興科技已經(jīng)重新定義了人類社會,正走向智能增強時代[25]。隨著智能技術(shù)的不斷發(fā)展以及與教育的不斷融合,人類在學習認知活動中基于技術(shù)的智能增強現(xiàn)象日益顯現(xiàn)。比如“認知外包”,即基于分布式認知理論,通過外部設(shè)備對人腦智能的外包和輔助實現(xiàn)人腦的內(nèi)部認知網(wǎng)絡(luò)與機器腦的外部認知網(wǎng)絡(luò)的動態(tài)交互,實現(xiàn)人機協(xié)同的智能增強[26]。尤其,智能時代的不確定性成為了一種確定,學習者往往會面臨很多非良構(gòu)問題,遭遇非結(jié)構(gòu)化、非線性、時變性、模糊性等不確定因素,人則暴露出面對復雜信息時的能力局限,而需要將一部分認知活動外包給智能系統(tǒng),借助機器智能增強人的智能,以達到對外部世界正確、全面而深入的認知。所以,人工智能逐漸成為人類智能的一種補充,其借助強大的計算能力與先進的數(shù)據(jù)算法給學習者提供可參考的信息,化身為一種讓學習者如臂使指的智能助手,輔助學習者進行學習、決策、探索與創(chuàng)新,以智能化的教育服務彰顯出以人為本的實踐價值[27]。例如,ChatGPT所提供的智能服務,引入了基于人類反饋的強化學習(Reinforcement Learning with Human Feedback,RLHF),不僅充分發(fā)揮了機器從海量數(shù)據(jù)中學習的能力,更注重設(shè)計以“人在回路”的解釋通道,增強人類對機器輸出結(jié)果的調(diào)節(jié),從而達到與人類的常識、認知、需求、價值觀保持一致,適應用戶的問題生成契合的內(nèi)容,高效地為人類服務。相關(guān)學者指出,ChatGPT能在用戶對話中實現(xiàn)內(nèi)部數(shù)據(jù)的微調(diào),生成符合用戶習慣與偏好的內(nèi)容,或?qū)⒊蔀槿祟愖晕野l(fā)展的理性認知工具,逐漸與人類大腦構(gòu)成復合腦[28]。除此之外,人工智能技術(shù)體系中,認知建模技術(shù)、機器學習算法在教育中的運用都是通過關(guān)注學習者行動背后的認知風格、行為模式和學習偏好等,開發(fā)出更多符合學生個性化成長需要的學習服務,讓學習者自主按需選擇[29]。這體現(xiàn)出人本人工智能的目標指向,通過人類控制和人工智能自動化之間的協(xié)作,提供高透明度、準確性和有效性的服務來幫助學習者實現(xiàn)增強智能[30]。綜合而言,智能技術(shù)是以算法、數(shù)據(jù)以及算力作為內(nèi)在支撐,通過構(gòu)建學習者模型識別學習者狀態(tài),進而持續(xù)監(jiān)測學習者的學習狀況,在資源推送、路徑規(guī)劃與適應性反饋等教學服務上順應學生個性化需求和認知規(guī)律,適時提供學習支架,以增強學習者對外部世界與自我探索的認知與能力[31]。從建模到適應性,技術(shù)與人的學習、認知走向了深度融合,充分體現(xiàn)了智能服務以人的發(fā)展為重要價值目標。智能時代的人機協(xié)同學習也因此開始展現(xiàn)出由學習者自我設(shè)計、自我監(jiān)控、自我調(diào)節(jié)、自我評價的特征[32]。智能服務的研發(fā)也逐漸摒棄機器主導學習過程的思想,而回歸到以人為中心的設(shè)計上,充分尊重人類的主導地位,讓人類有意識、有能力實現(xiàn)對自我認知策略、認知過程的調(diào)節(jié)。所以,人工智能不是指單一技術(shù),而是可以執(zhí)行認知任務,并與人類大腦相互作用,特別是可以幫助人類進行有效學習和解決問題的計算認知系統(tǒng)。智能時代,人類在學習等社會實踐活動中,越發(fā)追求智能服務的實時性、交互式、個性化,主動性和人性化[33],智能服務也逐漸成為典型的人機協(xié)同應用場景,急需構(gòu)建真正高效、智能的“數(shù)據(jù)融合、協(xié)同生產(chǎn)、智能服務”體系,個性化、精準化地滿足用戶需求。故而,智能時代人機協(xié)同學習的另一重要形態(tài)是以智能服務增強人類智能,凸顯以人為本的價值內(nèi)涵。

    三、本質(zhì)探討

    在智能時代的人機協(xié)同學習實踐中,人類的認知活動已經(jīng)在知識理解、互動學習以及智能服務等方面與機器智能產(chǎn)生了千絲萬縷的聯(lián)系。人機混合智能也逐漸具備了基本的物理條件,即人類智能與機器智能形成閉環(huán)的人機互助系統(tǒng),可以不斷相互作用、相互輔助[34]。1960年利克利德(Licklider)在共生理論的基礎(chǔ)上提出人機共生思想,認為人與機器形成的伙伴關(guān)系能夠在決策和控制復雜情況方面比單獨的人類更有效地執(zhí)行智力操作[35]。人與機器形成的協(xié)同共生關(guān)系也暗含著人將不再是唯一的學習活動主體,人機協(xié)同學習系統(tǒng)可視為由人與機器共同組成的學習共生體[36]。共生理論起源于生物科學領(lǐng)域,但共生現(xiàn)象不論在自然界還是人類社會都是普遍現(xiàn)象,后來逐步在經(jīng)濟、管理、教育等社會科學領(lǐng)域應用。基于共生理論提出的共生單元、共生模式等要素[37],人機協(xié)同學習可以解構(gòu)為:“人機”作為共生單元協(xié)同構(gòu)成學習雙主體,兩者之間不斷交換物質(zhì)、能量與信息,在一種互惠共生模式中協(xié)同完成知識生成與認知發(fā)生過程[38]。研究基于此進一步根據(jù)劉步青提出的人機協(xié)同化的結(jié)構(gòu)——人、人機交互接口、機器[39],刻畫了如圖1所示的人機構(gòu)成的學習雙主體協(xié)同結(jié)構(gòu)。透過現(xiàn)象看本質(zhì),基于學習與認知的關(guān)系,人機協(xié)同學習也可以闡釋為人的認知活動與機器認知活動的協(xié)同融合,人類與機器之間以數(shù)據(jù)輸入、信息輸出的互惠過程走向一種人機認知協(xié)同、混合智能的高階境界。據(jù)此,研究將在實踐形態(tài)的基礎(chǔ)上,深入探討智能時代人機協(xié)同學習的本質(zhì)特征,希望能夠總結(jié)出人機協(xié)同學習的關(guān)鍵之處,從而助力未來人機協(xié)同學習發(fā)展。

    (一)人類認知與人工認知走向協(xié)同混合

    人類對世界的理解,本質(zhì)上是用概念、屬性、關(guān)系來感知世界的過程。而人工智能正以其強大算力、算法和處理數(shù)據(jù)的優(yōu)勢活躍在我們?nèi)粘I钪?,?jīng)常在幕后塑造我們遇到的信息,從而與人類認知相互作用,甚至改變?nèi)祟愓J知。因此,有研究者嘗試從認知的視角解釋人類和人工智能系統(tǒng)在學習、意義構(gòu)建和決策等復雜知識過程中的互動關(guān)系,并將涉及機器學習或程序自動化處理的認知過程定義為人工認知[40],也可稱為以數(shù)據(jù)為核心原料的機器認知[41]。比如機器學習可以產(chǎn)生某種可以被刻畫為數(shù)據(jù)在時空中的關(guān)系的機器知識,這些關(guān)系表現(xiàn)為某種模式,而對模式的識別就是認知,用模式去幫助人進行預測、調(diào)整和決策就是知識的應用[42]。的確,機器已經(jīng)在一定程度上可以分擔人類的認知活動,可同樣被視為學習主體[43],其將數(shù)據(jù)轉(zhuǎn)化為信息和知識的過程,何嘗不是認知過程。人工認知在智能時代的教育實踐中最常見的應用就是個性化學習,通過密切監(jiān)控和評估學生的學習狀態(tài),對學習的過程進行診斷和調(diào)整來改變學生的學習方式并協(xié)助教師改善教學、因材施教[44]。

    正如學習科學研究一直強調(diào)的,知識具有生成屬性,學習者根據(jù)自身經(jīng)驗與外界交互并積極建構(gòu)意義時才會有深層理解的認知發(fā)生[45]。但是人工智能影響下的學習發(fā)生過程已經(jīng)成為人和機器雙主體的一系列內(nèi)在心理動作對獲得的外部知識信息進行內(nèi)部加工的過程[46]。若將認知定義為與信息交互所涉及的感知過程(視覺、聽覺、觸覺等)、一般操作(語言、記憶、識別等)和復雜的綜合活動(包括推理、判斷、決策、解決問題、意義構(gòu)建和創(chuàng)造)[47],那么人機協(xié)同學習所發(fā)生的認知過程則彰顯了人機混合的新型智能范式[48]。以信息加工過程來理解,人機協(xié)同下的混合智能不僅依靠人對外界環(huán)境與信息的感知,還會涉及到機器的傳感器等硬件對環(huán)境中客觀數(shù)據(jù)的采集分析,從而混合生成一種新型的信息輸入。到了信息處理階段,機器以其強大的計算能力將數(shù)據(jù)分析的結(jié)果個性化呈現(xiàn)給學習者,以此與人類的認知相結(jié)合,實現(xiàn)人腦中的內(nèi)部認知網(wǎng)絡(luò)與機器的外部認知網(wǎng)絡(luò)的連接,走向人機協(xié)同的知識建構(gòu)。最后,在決策階段,機器基于事實數(shù)據(jù)的分析而做出的決策也會被推薦給學習者,學習者則需要綜合相關(guān)的信息進行價值決策。在人工智能技術(shù)體系中,深度學習、自然語言處理、計算機視覺、情感計算等關(guān)鍵技術(shù)正逐步模仿人類認知的感知過程和一般操作,已經(jīng)可以實現(xiàn)對環(huán)境的快速感知、語音圖像的靈敏識別,還可以實現(xiàn)一定程度的推理判斷等復雜過程。在本研究描繪的人機協(xié)同學習實踐形態(tài)中,不管是自適應知識導學、人機互動協(xié)商還是智能增強,智能學習系統(tǒng)都在幕后基于多種數(shù)據(jù)的分析給予學習者相應的認知反饋,學習者都需要對智能學習系統(tǒng)提供的信息依據(jù)自身實際進行分析、判斷并做出相應的決策。因此,智能時代的人機協(xié)同學習也是人類認知與人工認知進行協(xié)同混合的過程。學習者自始至終都在智能學習系統(tǒng)的認知引導和輔助下主導學習過程。同時,智能學習系統(tǒng)一直是以其強大的數(shù)據(jù)計算與處理能力參與著人的認知過程,并基于學習者學習過程中所產(chǎn)生的數(shù)據(jù),來加深對其學習過程的分析理解,然后以個性化的學習支持(如知識點提示、學習對話、資源推介),為學習者提供適應性反饋與智能服務??偠灾?,人與機器在學習活動中逐漸以混合智能作為一種高效的協(xié)作模式,達到人機有機統(tǒng)一,共同為學習提供復雜的決策支持,使人的感知能力、認知能力與人工智能的強大計算能力相融合,最終實現(xiàn)人類認知與人工認知的有效協(xié)同[49]。

    (二)人機交互構(gòu)成人機協(xié)同認知的通道

    以智能技術(shù)與算法為內(nèi)核的智能學習系統(tǒng)已經(jīng)發(fā)展成為一種人工認知工具,其主要優(yōu)勢在于能夠從大量數(shù)據(jù)中識別和分析復雜的模式,通過模式識別技術(shù)實現(xiàn)智能信息過濾,然后運用深度學習算法訓練,在最少的人為干預下將數(shù)據(jù)轉(zhuǎn)化為信息,由此得出合理的“規(guī)則”動態(tài)適應學習者的學習過程,輔助其做出學習預測、調(diào)整或決策[50]。所以,智能時代的教育發(fā)展已經(jīng)凸顯出人機協(xié)同化的認知特征,將人和機器的認知推理特征進行融合。既然人機協(xié)同化的結(jié)構(gòu)可以分為人、人機交互接口、機器[51],那么人類認知與人工認知如何通過人機交互接口達到有效的信息交換就是關(guān)鍵。人機交互(Human-Computer Interaction,HCI)一直以人和機器之間傳遞、交換信息為研究重點,是指人與計算機之間使用某種對話語言,以一定的交互方式實現(xiàn)人與計算機之間的信息交換過程。據(jù)此,人機協(xié)同學習的另一個本質(zhì)是人與機器之間的信息交互過程,人機交互構(gòu)成人機協(xié)同認知的關(guān)鍵通道。

    人機交互與認知科學一直具有密切的聯(lián)系[52]。用戶(學習者)感知信息、使用知識并做出決定的行為和過程都是認知科學的研究領(lǐng)域。了解用戶(學習者)可以更好地預測和解釋發(fā)生在用戶(學習者)和計算機系統(tǒng)之間的交互。所以,認知科學有助于優(yōu)化人機交互技術(shù)。例如,人的認知活動開始依托“基于軟件實現(xiàn)的腳手架”(Software-realized Scaffolding)[53]。反過來,人機交互技術(shù)的應用也會催生認知科學中新的理論內(nèi)容,如具身學習設(shè)計與具身認知理論[54]。卡德(Card)等最先將認知科學應用于人機交互,提出了人類處理器模型;該模型包含三個信息處理系統(tǒng),即感知系統(tǒng)、運動系統(tǒng)和認知系統(tǒng),這些系統(tǒng)允許對人類在交互活動中的表現(xiàn)進行豐富的建模,它們相互作用以模擬人類實際經(jīng)歷的認知過程[55]。后續(xù)的研究表明,人機交互技術(shù)在“感知—決策—執(zhí)行”的功能結(jié)構(gòu)中能夠支持人類與機器不同方式的協(xié)作,進而擴展人類感知、理解、行動和學習的能力[56]。由于技術(shù)的更新發(fā)展,人機交互的方式也越來越多樣,按照交互硬件可區(qū)分為鍵鼠交互、觸屏交互、體感交互、腦機交互等,而按照人的感知方式可以分為視覺交互(Visual)、語音交互(Acoustic)、觸感交互(Haptic)等多種交互類型[57]。比如,研究所總結(jié)的三種人機協(xié)同學習實踐形態(tài),每一種形態(tài)都體現(xiàn)了不同人機交互方式。以自適應為特征的知識導學是以系統(tǒng)預先指定的知識序列和事件邏輯為學習者提供學習支持,多以知識練習為主,主要是基于視覺交互方式為學習者提供相關(guān)問題的提示或反饋。人機互動協(xié)商是基于語音或文本交互方式建立協(xié)作伙伴關(guān)系,培養(yǎng)學習者的自我調(diào)節(jié)學習能力。以智能服務實現(xiàn)人體增強是人類認知與人工認知協(xié)同工作的高層次階段,會通過文字、語音、體感等多種交互方式擴展人的認知能力與范圍,以改善決策和創(chuàng)造性解決問題的過程,從而幫助學習者更好地認識自我與世界[58]。信息的類型決定著交互方式的選擇,也影響著人對信息的可理解性、可接受性,唯有符合用戶需求與特征的信息交互方式才更容易被用戶采納和理解,從而發(fā)生同化、順應等認知建構(gòu)過程。當前,多模態(tài)整合已成趨勢以及新興科技層出不窮,以虛擬現(xiàn)實、元宇宙等技術(shù)支撐的全息仿真交互,腦機接口技術(shù)支持的腦機交互,情感計算技術(shù)支持的情感交互等更加全方位、智能化的人機交互方式正在教育實踐中躍躍欲試。通過整合人的視覺、聽覺、觸覺等多模態(tài)感知系統(tǒng),精確模擬環(huán)境的各種模態(tài),為學習者提供更為逼真的、能夠?qū)崟r交互的虛擬學習情境,從而突破傳統(tǒng)媒體的信息傳輸局限,以相對自然、無感和高效的方式實現(xiàn)人機之間的交互,并以多模態(tài)數(shù)據(jù)整合分析為學習者提供更加多元、全面的學習反饋與智能服務。未來隨著人機交互技術(shù)的升級,人類與機器之間的信息交換與認知協(xié)同通道也將會更加自然流暢。

    (三)人機互惠構(gòu)成人機有效協(xié)同的關(guān)鍵

    人工智能正快速逼近人類的思維方式,并開始分擔一些人類的認知勞動。由人與機器共同組成的學習共生體定義了雙方的互惠互利關(guān)系[59],即人類學習者和機器相互學習,以創(chuàng)造一個適應人類學習者需求的智能學習環(huán)境[60]。所以,在解釋人機協(xié)同學習的本質(zhì)時,不可忽視的一點是人與機器在交互過程中的互惠共生,以此才能基于人機交互實現(xiàn)人類認知與人工認知的高度協(xié)同。而且,真正意義上的人機協(xié)同需要人類和機器有共同的學習認知,即人和機器都必須洞察和理解彼此的知識[61]。

    何為人機互惠?人機互惠的關(guān)鍵其實在于利用人與機器的互補性和互惠性,實現(xiàn)互利共贏[62]。比如,學習對人類學習者來說是知識或技能的習得,對機器來說則是服務性能的改進、算法的優(yōu)化以及對人學習過程的深層次建模。有學者已經(jīng)明確提出人機互惠學習的概念,即“一個在完成共享任務時涉及人機協(xié)作中相互交換、依賴、行動與影響的雙向過程,從而讓學習者創(chuàng)造新的意義或概念,豐富現(xiàn)有的意義或概念,或提高技能和能力”[63]。在人機共同參與的協(xié)同學習過程中,人與機器都是學習的主體,學習者不僅能夠享受機器自適應、智能化的服務,根據(jù)機器反饋的學習結(jié)果進行調(diào)節(jié),同時也會為機器提供過程數(shù)據(jù)進行分析建模。機器同樣作為學習的主體,是基于學習者的各類數(shù)據(jù)不斷學習,不斷優(yōu)化算法和改進學習者模型,從而能夠快速適應學習者的變化,并形成基于環(huán)境的動態(tài)自適應學習反饋。所以,人機互惠有兩層含義,一方面機器本身可以利用人機之間的交互數(shù)據(jù)和機器提供的反饋機制來“感知”并通過博弈來加強機器的智能,從而實現(xiàn)機器智能的自我進化;另一方面,隨著機器智能的提高,人也可以受到機器輸出的信息啟發(fā)以及運用機器提供的智能服務,從而豐富自己的經(jīng)驗和知識,提高自己的認知能力。前文所提到的三種實踐形態(tài),不管是基于學習者反應提供自適應的認知引導,還是人機互動對話達到學習過程共同控制,以及實現(xiàn)認知外包幫助學習者更好地認識問題并解決問題,其本質(zhì)上都是在以人機互惠的方式運行。尤其對有獨立認知能力的智能體而言,人機還能實現(xiàn)互教互學,即智能體不僅能夠教授學習者知識,學習者也能反向教授智能體知識,兩者通過互教互學的方式將學習置于教授、觀察和模仿的活動過程中,共同促進自身對知識的理解[64]。回到人工認知的角度來看,人機互惠的特征則更加明顯。大多數(shù)人工智能認知技術(shù)依賴于大型數(shù)據(jù)集,而這些大數(shù)據(jù)都是圍繞與人類相關(guān)的狀態(tài)、過程和事件的信息,因此人類認知和人工認知實現(xiàn)協(xié)同混合的前提就是將人類相關(guān)的信息輸入機器需要學習的數(shù)據(jù)集中;數(shù)據(jù)集經(jīng)過機器學習算法的處理和分析,由人工智能認知系統(tǒng)輸出并反饋給人類相應有價值的信息,進而作用于人類與社會[65]。人機互惠關(guān)系的建立也是未來實現(xiàn)真正智能化的突破口,通過真正意義上形成雙向的信息交換和控制,相互適應達到人機融合智能[66]。由此來看,人機協(xié)同也為未來人類智慧與機器智能的互構(gòu)性發(fā)展提供了新的發(fā)展土壤[67]。

    四、發(fā)展建議

    基于對人機協(xié)同學習的本質(zhì)探討,我們更加理解人與機器的交互學習過程。開發(fā)智能學習系統(tǒng)以支持學習活動,并利用這些系統(tǒng)探索和理解學習的本質(zhì)是人工智能促進教育改革創(chuàng)新的重要目標[68]。人機協(xié)同學習的未來實踐應在把握其本質(zhì)的基礎(chǔ)上,兼顧技術(shù)與實踐兩個層面為學習者創(chuàng)設(shè)智能學習環(huán)境,提供符合認知科學的學習支持[69]。

    (一)技術(shù)層面:以人機交互與人機互惠為著力點,提升技術(shù)設(shè)計

    數(shù)字技術(shù)日新月異,新興科技層出不窮,知識更新迭代加速,教育數(shù)字化轉(zhuǎn)型趨勢下,越來越多的技術(shù)將投入到教育實踐,顯現(xiàn)出人機協(xié)同的教育特征。但如西門子(Siemens)等人所言,“要實現(xiàn)真正的協(xié)作,人類和機器需要共同的認知,即人和機器都必須洞察和理解彼此的知識”[70]。所以,從技術(shù)上而言,我們?nèi)绾伍_發(fā)與人類協(xié)同工作的人工智能系統(tǒng)?人類和人工智能如何分享和解釋他們的意識、目標和彼此的策略?是智能時代人機協(xié)同的關(guān)鍵挑戰(zhàn)[71]。因此,研究基于前文探討的本質(zhì)認為,應從人機交互和人機互惠兩個方面著力提升技術(shù)設(shè)計,促進人機之間的自然交互、信息交換和認知協(xié)同。

    首先,優(yōu)化人機交互技術(shù)提供全新的學習體驗。人機交互技術(shù)在教育實踐中的優(yōu)勢在于能夠減輕學習者的認知負荷,促進多感官并用,為其創(chuàng)設(shè)一個輕松有趣、沉浸交互的智能學習環(huán)境,從而促使學習者主動求知、樂于求知。人機交互技術(shù)所孵化的自然交互頁面更能為智能教育發(fā)展提供強有力的支持,促使智能教育更加具象化、情境化、立體化。人機交互領(lǐng)域雖然已經(jīng)出現(xiàn)用于語音識別、手勢識別、眼動追蹤、皮膚電和腦機接口等多種類型的交互媒介,但當下人機交互技術(shù)也存在諸多技術(shù)短板[72]。比如,要依賴于特定的硬件輸入設(shè)備,從而將學習者限制在一個特定的學習“硬”環(huán)境中,在智能頭環(huán)、VR/AR眼鏡等硬件約束下進行所謂的“自然交互”。由此,智能教育應對人機交互技術(shù)提出更為高級、嚴苛的要求。研究認為,一方面人機交互技術(shù)的設(shè)計應考慮到教育的內(nèi)在規(guī)律,在相關(guān)教育理論(如具身認知理論、自主學習理論等)的指導下規(guī)范設(shè)計,從而兼顧“以人為本”的教育本質(zhì)要求和教育本身的多元性與復雜性。另一方面要注重多感官的交互,與物聯(lián)網(wǎng)、VR、AR等結(jié)合,對傳統(tǒng)數(shù)字化學習環(huán)境更新升級,為學生創(chuàng)設(shè)更加“自然”“無感”的智能學習環(huán)境,提供全新的學習體驗。尤其在學生自主學習情境中,人機交互技術(shù)除了要關(guān)注學生在人機交互中知識內(nèi)容交互,還應增強人機之間的情感交互,通過設(shè)計更加個性化、可視化的自適應反饋、情感化的學習提示等提升人機對話中的情感自然程度。只有在這種無感化的智能學習環(huán)境中,人機才能通過愈發(fā)自然的方式實現(xiàn)信息交互,實現(xiàn)技術(shù)對人學習過程數(shù)據(jù)的伴隨式采集,助力師生成長軌跡的數(shù)字化追蹤。所以,在技術(shù)層面上,人機協(xié)同學習的交互設(shè)計應朝著“無感”交互、情感交互的方向闊步前進,致力于為學習者提供全新的學習體驗。

    其次,以人機互惠使“人更加理解機器,機器也更加理解人”。隨著人與人、人與物、物與物之間都可以數(shù)據(jù)作為紐帶形成連接,人類進入到數(shù)據(jù)定義萬物、數(shù)據(jù)量化萬物、數(shù)據(jù)連接萬物的智能時代,生存空間也從社會空間、物理空間延伸到信息空間,在數(shù)據(jù)科學的賦能下越來越多的數(shù)據(jù)將被轉(zhuǎn)化為信息或知識,從而影響著人的認知與決策[73]。而且隨著人工智能研究的逐漸深入,人們也更加清晰地認識到人類和人工智能各自的優(yōu)勢,人的作用也被引入到人工智能系統(tǒng)電路的計算中,可以解決模糊和不確定分析的問題,使人的感知能力、認知能力與人工智能的強大計算能力相融合,形成雙向的信息交換和控制,達到真正意義上的人機智能融合。人在回路在ChatGPT等最新人工智能產(chǎn)品證明下,已經(jīng)成為人工智能的可行成長模式,其通過引入人的智慧參與,可以避免機器無效學習,增強機器理解和適應人類的自主學習能力。從技術(shù)設(shè)計上,有兩個可以努力的方向。一是增強算法的透明度與可解釋性,因為從真正意義上的協(xié)作而言,數(shù)據(jù)驅(qū)動的智能機器需要理解人類的主觀體驗和感知思維,知識驅(qū)動的人類思維也需要了解機器的客觀特征和理性計算。例如,通過以先驗知識為主的專家解釋、以統(tǒng)計學習為主的數(shù)理解釋、以深度學習為主的歸納解釋等策略[74],讓學習者能檢驗教育模型,理解智能學習系統(tǒng)給出的決策結(jié)果。這也符合“人在回路”的混合增強智能設(shè)計原則,即人始終是人機協(xié)同過程的核心部分,人的因素可以直接影響到人機交互的結(jié)果[75]。二是獲取高質(zhì)量的數(shù)據(jù)為機器的更新迭代提供“養(yǎng)料”。高質(zhì)量的數(shù)據(jù)可以訓練出高質(zhì)量的學習者模型,從而更加理解人并促進人的學習。同時,注重引入人類對機器模型輸出結(jié)果的調(diào)節(jié),讓機器在與人類的交互過程中盡可能獲取其真實需求,人類由此扮演著用戶和人工智能助手的角色,幫助解決讓人工智能模型的產(chǎn)出和人類認知保持一致的問題。因此,高質(zhì)量的數(shù)據(jù)應該圍繞著與目標相關(guān)的狀態(tài)、過程和事件,增強數(shù)據(jù)的一致性、可靠性和有效性等[76],不應為了適應機器的數(shù)據(jù)規(guī)則而對事件進行簡約化表達。只有盡可能全面、接近真實的數(shù)據(jù)才能讓機器更好地運用其強大的計算能力來理解人與環(huán)境。

    (二)實踐層面:以學習科學與以人為本為基本遵循,規(guī)范實踐過程

    英國哲學家大衛(wèi)·休謨(David Hume)認為,一切科學都與人性有關(guān),對人性的研究應是一切科學的基礎(chǔ)[77]??茖W如此,教育以立德樹人為根本任務更不可例外。所以,無論技術(shù)如何發(fā)展,人的最優(yōu)發(fā)展是所有科學與社會實踐的標準。

    首先,以學習科學規(guī)范人機協(xié)同學習設(shè)計。學習科學是認知科學的一個重要分支,源于人類對復雜學習法問題的跨學科研究,教育人工智能就是其中重要領(lǐng)域之一。一方面,學習科學站在學生視角探究人是如何通過外部環(huán)境與內(nèi)部機制的協(xié)調(diào)從而實現(xiàn)自主學習[78]。這與教育人工智能致力于揭示學習發(fā)生原理與機制的目標相一致。另一方面,學習科學不僅關(guān)注“人是如何學習的”等基礎(chǔ)理論研究,還關(guān)注在新的學習理論指導下學習分析技術(shù)、人機協(xié)同技術(shù),以及數(shù)字化新型學習環(huán)境和學習資源的創(chuàng)設(shè)等實踐研究。研究也表明,學習科學用于教育人工智能的發(fā)展可以產(chǎn)生強大的效果[79]。故而從實踐上,人機協(xié)同學習應將人機如何協(xié)同的探索聚焦于關(guān)注學習的發(fā)生,通過了解學習為何發(fā)生、怎樣發(fā)生來規(guī)范人機協(xié)同學習設(shè)計。一是發(fā)揮學習分析重構(gòu)學習活動的關(guān)鍵技術(shù)作用。學習分析主要從數(shù)據(jù)與實證的角度出發(fā),致力于描述、理解、解釋、研究與預測學習現(xiàn)象[80]。人機構(gòu)成的學習雙主體應充分利用技術(shù)的便利將交互過程的數(shù)據(jù)與信息實現(xiàn)學習規(guī)律挖掘,融合社會網(wǎng)絡(luò)分析、語義分析、表情分析、情感計算、文本挖掘、行為分析、統(tǒng)計分析等多種學習分析手段,實現(xiàn)對人機協(xié)同學習發(fā)生過程的跟蹤、診斷、預測和調(diào)節(jié)。二是基于學習科學理論與實證結(jié)論,分析影響學習發(fā)生的關(guān)鍵因素,優(yōu)化學習設(shè)計。比如,梅耶(Mayer)認為,技術(shù)媒體不僅僅是信息傳遞系統(tǒng),而是知識構(gòu)建的認知輔助工具,涉及以促進學習者進行適當認知處理的方式呈現(xiàn)信息[81]。然后,其依靠大量的實驗總結(jié)了12條認知學習原則,包括鄰近原則(避免信息源孤立分散)、多媒體原則(多感官融合)、冗余原則(避免冗余信息反復出現(xiàn))等,這為人機協(xié)同學習設(shè)計明確了如何考量學習者的認知負荷、如何把握認知支架的漸隱性。所以,人機協(xié)同學習設(shè)計可以在認知理論或?qū)W習科學的原理指導下,從學習資源的呈現(xiàn)、學習策略的提供、學習結(jié)果的反饋等方面,注重通過分布式認知讓機器分擔學習者的低階認知負荷,幫助學習者更加有效地處理信息,并解放學習者的認知資源以用于高階認知活動中。同時,還可以從學習的特性出發(fā)改善學習方式,例如學習的具身性體現(xiàn)出創(chuàng)設(shè)情境化學習環(huán)境的重要性,強調(diào)推進知識型學習走向體驗式學習[82]??偟膩碚f,只有基于科學理論和循證知識創(chuàng)建智能學習環(huán)境和設(shè)計教育過程,才能促使學習者更深入有效地學習[83]。

    其次,秉持人本價值開展人機協(xié)同學習實踐。無論是技術(shù)滲透教育系統(tǒng)造成系統(tǒng)要素的內(nèi)涵擴展,還是教育系統(tǒng)內(nèi)部關(guān)系的延展與變化,都表明智能技術(shù)的教育應用將會造成教育生態(tài)的深刻變革[84]。但無論何時,技術(shù)的發(fā)展都需要持續(xù)秉持以人為本的價值原則,而且學習技術(shù)不同于純技術(shù),它涉及教學和與人互動,必須以人為中心。因此,人機協(xié)同學習是智能教育發(fā)展的一個重要形態(tài),更應將人的生命成長作為實踐的旨歸,在人本主義理論指導下注重人的自我實現(xiàn),踐行以學習者為中心的人本主義理論教育觀[85]。一要構(gòu)建人機協(xié)同的倫理規(guī)范,注意技術(shù)自身的局限對人與社會的影響。人機協(xié)同意味著人和機器之間的相互作用和相互影響,但技術(shù)與生俱來的局限與風險,比如算法黑箱、算法偏見、數(shù)據(jù)安全隱私等問題會讓人在與機器的協(xié)作過程中無形地受到技術(shù)侵犯。美國著名教育哲學家瑪克辛·格林(Greene)曾言:“我們在屏幕前不斷轉(zhuǎn)移注意力,不斷瀏覽各種信息、投入各種娛樂,但它并不能為我們提供與他者的主觀在場的具象性相遇,我們的身體消失于各種技術(shù)的大數(shù)據(jù),學生喪失了想象世界的能力”[86]。所以,倫理規(guī)范是智能教育發(fā)展的保障,也是引導科技向善、構(gòu)建人機互信的基礎(chǔ)。在人機協(xié)同學習的實踐中,我們需要深刻認識技術(shù)帶來的機遇與挑戰(zhàn),統(tǒng)籌技術(shù)賦能與人的學習發(fā)展兩個層面建立監(jiān)管治理體系,在安全、合理、科學的范圍內(nèi)使用技術(shù)助力學習,及時規(guī)避技術(shù)賦能教育實踐的風險[87]。二是發(fā)展人本人工智能,豐富智能教育服務。人機協(xié)同是人本人工智能發(fā)展的核心和突破口[88]。人本人工智能強調(diào)從“冰冷的技術(shù)”到“溫暖的人性”的回歸,主張利用人類智慧和機器智能之間的協(xié)作,以高水平的可靠性、安全性和信任性來增強人類生產(chǎn)力[89]。在技術(shù)快速更迭的科技浪潮之中,無論何時,人類與教育的發(fā)展始終堅持以人為本,人性發(fā)展一直會是未來教育的時代主題[90]。人機協(xié)同學習作為人機智能協(xié)同的重要形態(tài),更應注重以人為本的理念引領(lǐng),堅持人在回路的發(fā)展方向,在人機協(xié)同的過程中以人的參與或引入人的參與來提升問題求解的效果,以更加人性化的智能服務提供實時個性化外部反饋,支持學習者進行深層次的自我認知。綜而述之,人機協(xié)同學習的未來實踐應加快構(gòu)建符合人類發(fā)展的倫理規(guī)范、安全監(jiān)管體系,圍繞人的知識學習、認知建構(gòu)、問題解決、情感發(fā)展以及社會能力等成長維度,設(shè)計出更多實時性、交互式、個性化,主動性和人性化的智能服務,提升人類認識世界、改造世界的能力。

    五、結(jié)語

    面對日益錯綜復雜的社會發(fā)展和未來挑戰(zhàn),智能時代的教育也正在經(jīng)歷一場前所未有的深刻變革。但教育是一個不以人自身意志為轉(zhuǎn)移的內(nèi)生復雜系統(tǒng),人工智能的介入使得教育邊界被打開,各種不同性質(zhì)的要素突然耦合在一起,沖突、協(xié)同、變革等現(xiàn)象開始涌現(xiàn),教育系統(tǒng)的復雜程度已不可同日而語。人機協(xié)同學習是智能教育發(fā)展的一個重要形態(tài),在頂層設(shè)計上要有完善的科學認識和理論體系,才能在實踐中探尋出符合人成長發(fā)展的新方法、新模式。因此,無論人工智能等新興科技浪潮怎么沖擊人類的教育和社會,我們依然需要保持清醒的頭腦去審視這不斷涌現(xiàn)的新事物與新形態(tài),透過現(xiàn)象發(fā)現(xiàn)本質(zhì),從而清晰未來的前進方向。

    參考文獻:

    [1][14][69] Boulay B D.Escape from the Skinner Box:The case for contemporary intelligent learning environments [J].British Journal of Educational Technology,2019,50(6):2902-2919.

    [2][9][12][13] 郝祥軍,顧小清等.人機協(xié)同學習:實踐模式與發(fā)展路向[J].開放教育研究,2022,(4):31-41.

    [3] 吳朝暉.智能增強時代的學習革命——在國際人工智能與教育大會上的發(fā)言[J].世界教育信息,2019,(10):3-6.

    [4][43][46] 郭炯,郝建江.人工智能環(huán)境下的學習發(fā)生機制[J].現(xiàn)代遠程教育研究,2019,(5):32-38.

    [5] 毛剛,王良輝.人機協(xié)同:理解并建構(gòu)未來教育世界的方式[J].教育發(fā)展研究,2021,(1):16-24.

    [6] 艾興,趙瑞雪.人機協(xié)同視域下的智能學習:邏輯起點與表征形態(tài)[J].遠程教育雜志,2020,(1):69-75.

    [7][32] 陳凱泉,韓小利等.人機協(xié)同視閾下智能教育的場景建構(gòu)及應用模式分析——國內(nèi)外近十年人機協(xié)同教育研究綜述[J].遠程教育雜志,2022,(2):3-14.

    [8] 王一巖,鄭永和.智能時代的人機協(xié)同學習:價值內(nèi)涵、表征形態(tài)與實踐進路[J].中國電化教育,2022,(9):90-97.

    [10] 何文濤,路璐等.智能時代人機協(xié)同學習的本質(zhì)特征與一般過程[J].中國遠程教育,2023,(3):12-20.

    [11] 武法提,田浩.人機協(xié)同的精準學習干預:動力機制、邏輯理路與實踐模型[J].開放教育研究,2023,(2):81-90.

    [15][24] 郝祥軍,顧小清.基于協(xié)商的學伴推薦:自適應學習的社會性發(fā)展路向[J].中國遠程教育,2021,(8):51-59.

    [16] Graesser A C.Conversations with AutoTutor help students learn [J].International Journal of Artificial Intelligence in Education,2016,26(1):124-132.

    [17] 張攀峰,尋素華等.“智能學伴”在小學游戲化學習社區(qū)中的情感交互設(shè)計[J].中國電化教育,2014,(10):123-128.

    [18] Kapoor A,Mota S,et al.Towards a learning companion that recognizes affect [A].AAAI 2001 fall symposium [C]. Massachusetts:AAAI,2001.2-4.

    [19] 劉智,劉三(女牙)等.物理空間中的智能學伴系統(tǒng):感知數(shù)據(jù)驅(qū)動的學習分析技術(shù)——訪柏林洪堡大學教育技術(shù)專家Niels Pinkwart教授[J].中國電化教育,2018,(7):67-72.

    [20] Azevedo R,Aleven V.International handbook of metacognition and learning technologies [M].Amsterdam:Springer,2013.357-360.

    [21] Chou C Y,Lai K R,et al.A negotiation-based adaptive learning system for regulating help-seeking behaviors [J].Computers Education,2018,126:115-128.

    [22] Yang D,Piergallinin M,et al.Forum thread recommendation for massive open online courses [A].Stamper J,Zach P,et al.Proceeding of the 7th International Conference on Educational Data Mining [C]. London:Institute of Education,2014.257-260.

    [23] Potts B A,Khosravi H,et al.Reciprocal peer recommendation for learning purposes,learning analytics and knowledge [A].Pardo A,Bartimote-Aufflick K,et al.Proceedings of the 8th International Conference on Learning Analytics and Knowledge [C].New York:Association for Computing Machinery,2018.226-235.

    [25] [美]布雷特·金.劉林德,馮斌等譯.智能浪潮:增強時代來臨[M].北京:中信出版社,2017.12-26.

    [26] 余勝泉,王琦.“AI+教師”的協(xié)作路徑發(fā)展分析[J].電化教育研究,2019,(4):14-22+29.

    [27][30] Yang S,Ogata H,et al.Human-centered artificial intelligence in education:Seeing the invisible through the visible [J].Computers and Education:Artificial Intelligence,2021,2:1-5.

    [28] 沈書生,祝智庭.ChatGPT類產(chǎn)品:內(nèi)在機制及其對學習評價的影響[J].中國遠程教育,2023,(4):8-15.

    [29] 趙健.走向?qū)W習、認知與技術(shù)研究的深度融合——《教育傳播與技術(shù)研究手冊(第三版)》第三部分述評[J].遠程教育雜志,2010,(3):30-36.

    [31] 何克抗.教學支架的含義、類型、設(shè)計及其在教學中的應用——美國《教育傳播與技術(shù)研究手冊(第四版)》讓我們深受啟發(fā)的亮點之一[J].中國電化教育,2017,(4):1-9.

    [33] Liu Z,Zeng X.Hybrid Intelligence in Big Data Environment:Concepts, Architectures,and Applications of Intelligent Service [J].Data and Information Management,2021,5(2):262-276.

    [34][48] 程學旗,梅宏等.數(shù)據(jù)科學與計算智能:內(nèi)涵、范式與機遇[J].中國科學院院刊,2020,(12):1470-1481.

    [35] Licklider J C.Man-computer symbiosis [J].IRE transactions on human factors in electronics,1960,(1):4-11.

    [36][64] 李海峰,王煒.人機學習共生體——論后人工智能教育時代基本學習形態(tài)之構(gòu)建[J].遠程教育雜志,2020,(2):46-55.

    [37] 袁純清,1998.共生理論:兼論小型經(jīng)濟[M].北京:經(jīng)濟科學出版社,1998.7-10.

    [38] 方海光,孔新梅等.人工智能時代的人機協(xié)同教育理論研究[J].現(xiàn)代教育技術(shù),2022,(7):5-13.

    [39][51] 劉步青.人機協(xié)同系統(tǒng)的哲學研究[M].北京:光明日報出版社,2018.55-57.

    [40][47][49][50][58][61][65][70][75] Siemens G,MarmolejoRamos F,et al.Human and artificial cognition [J].Computers and Education:Artificial Intelligence,2022,3:1-9.

    [41] 顧小清,郝祥軍.從人工智能重塑的知識觀看未來教育[J].教育研究,2022,(9):138-149.

    [42] 白惠仁,崔政.機器學習與創(chuàng)造性認知勞動[J].浙江社會科學,2021,(3):100-106.

    [44][79] Luckin R,Cukurova M.Designing educational technologies in the age of AI:A learning sciences-driven approach [J].British Journal of Educational Technology,2019,50(6):2824-2838.[45] 任英杰,徐曉東.學習科學:研究的重要問題及其方法論[J].遠程教育雜志,2012,(1):26-36.

    [52] Boring R L.Human-computer interaction as cognitive science [A]. Human Factors and Ergonomics Society Annual Meeting [C].Los Angeles,CA:SAGE Publications,2002.1767-1771.

    [53] Quintana C,Reiser B J,et al.A scaffolding design framework for software to support science inquiry [J].Journal of the Learning Sciences,2004,13(3):337-386.

    [54] 鐘柏昌,劉曉凡.論具身學習環(huán)境:本質(zhì)、構(gòu)成與交互設(shè)計[J].開放教育研究,2022,(5):56-67.

    [55] Card S K,Moran T P,et al.The Psychology of Human-Computer Interaction [M].Hillsday,NJ:Lawrence Erlbaum,1983.1-19.

    [56][57] Yang C,Zhu Y,et al.A review of human-machine cooperation in the robotics domain [J].IEEE Transactions on Human-Machine Systems,2022,52(1):12-25.

    [59] Wang L,Gao R,et al.Symbiotic human-robot collaborative assembly [J].CIRP annals,2019,68(2):701-726.

    [60] Walsh K R,Hoque M T,et al.Human Machine Learning Symbiosis [J]. Journal of Learning in Higher Education,2017,13(1):55-62.

    [62] Nixdorf S,Ansari F,et al.Reciprocal Learning in Human-Machine Collaboration:A Multi-Agent System Framework in Industry 5.0 [A].Plapper,P.,Mangers,J.Digitization of the work environment for sustainable production [C].Berlin:GITO Verlag,2022.207-225.

    [63] Ansari F,Erol S,et al.Rethinking Human-Machine Learning in Industry 4.0:How Does the Paradigm Shift Treat the Role of Human Learning [J].Procedia Manufacturing,2018,23:117-122.

    [66] 郝祥軍,賀雪.AI與人類智能在知識生產(chǎn)中的博弈與融合及其對教育的啟示[J].華東師范大學學報(教育科學版),2022,(9):78-89.[67] 羅生全.智能技術(shù)時代的教學理論發(fā)展[J].教育研究與實驗,2021, (2):1-11.

    [68] Roll I,Wylie R.Evolution and Revolution in Artificial Intelligence in Education [J].International Journal of Artificial Intelligence in Education,2016,26(2):582-599.

    [71] Akata Z,Balliet D,et al.A research agenda for hybrid intelligence: augmenting human intellect with collaborative,adaptive,responsible,a nd explainable artificial intelligence [J].Computer,2020,53(8):18-28.[72] 徐振國,陳秋惠等.新一代人機交互:自然用戶界面的現(xiàn)狀、類型與教育應用探究——兼對腦機接口技術(shù)的初步展望[J].遠程教育雜志,2018,(4):39-48.

    [73] 郝祥軍,顧小清.AI重塑知識觀:數(shù)據(jù)科學影響下的知識創(chuàng)造與教育發(fā)展[J].中國遠程教育,2023,(5):13-23.

    [74] 劉桐,顧小清.走向可解釋性:打開教育中人工智能的“黑盒”[J].中國電化教育,2022,(5):82-90.

    [76] Huchler N,Adolph L,et al.Criteria for Human-Machine Interaction When Using AI:Approaches to its humane design in the realm of work [R].Munich:White paper from Plattform Lernende Systeme,2020.12-15.

    [77] 黃云鵬.破舊立新——休謨對形而上學的批判及重構(gòu)[J].今古文創(chuàng),2022,(46):57-60.

    [78] 王明娣,陳可迪.學習科學視角下學生反饋素養(yǎng):結(jié)構(gòu)模型與運行機制[J].中國電化教育,2022,(7):104-114.

    [80][82] 楊剛,徐曉東等.學習本質(zhì)研究的歷史脈絡(luò)、多元進展與未來展望[J].現(xiàn)代遠程教育研究,2019,(3):28-39.

    [81] Mayer R E.Multimedia learning (2nd ed.) [M].New York:Cambridge University Press,2009.168.

    [83] 隆舟,劉凱等.通用智能導學框架助力學習科學發(fā)展——訪美國通用智能導學框架聯(lián)合創(chuàng)始人羅伯特·索特拉博士[J].開放教育研究,2020,(5):4-11.

    [84] 顧小清.破壞性創(chuàng)新:技術(shù)如何改善教育生態(tài)[J].探索與爭鳴,2018, (8):34-36.

    [85][88][90] 祝智庭,韓中美等.教育人工智能(eAI):人本人工智能的新范式[J].電化教育研究,2021,(1):5-15.

    [86] Greene M.Releasing the imagination:essays on education,the arts, and social change [M].San Francisco:Jossey-Bass Publishers,2000.1-13.

    [87] 郝祥軍,顧小清等.回避還是規(guī)避:風險社會中的教育危機與安全防線[J].電化教育研究,2023,(1):42-47.

    [89] Shneiderman B.Human-centered artificial intelligence:Reliable,safe trustworthy [J].International Journal of Human-Computer Interaction,2020,36(6):495-504.

    作者簡介:

    郝祥軍:在讀博士,研究方向為智能教育、學習科學與技術(shù)設(shè)計。

    張?zhí)扃涸谧x碩士,研究方向為信息化教學設(shè)計。

    顧小清:教授,博士,博士生導師,研究方向為學習科學與學習技術(shù)、技術(shù)支持的教學創(chuàng)新。

    Human-machine Collaborative Learning in Intelligent Era: Form, Essence and Development

    Hao Xiangjun, Zhang Tianqi, Gu Xiaoqing

    (Department of Education Information Technology, Faculty of Education, East China Normal University, Shanghai 200062)

    Abstract: Artificial intelligence has propelled the rapid development of intelligent education, demonstrating the characteristics of human-machine collaboration in practice. However, the practical manifestations and underlying essence of human-machine collaborative learning, as an integral component of intelligent education, have received limited research attention. In order to better serve education and human development with technology, this study conducted an in-depth analysis of human-machine collaborative learning practices in the era of artificial intelligence. First of all, by synthesizing relevant literature and practical findings, it was found that human cognitive activities and machine intelligence are intricately intertwined, and human-machine collaborative learning has manifested in three major forms in practice: guiding knowledge learning, interactive dialogue, and intelligent enhancement. Moreover, by delving into the essence through phenomena, the study revealed three important essential aspects of human-machine collaborative learning from the structure of human-machine collaboration. The first, human-machine collaborative learning means the synergistic integration of human cognition and artificial cognition. The second, the application of human-machine interaction technologies provides a smooth channel for cooperative cognitive processes. The third, human-machine reciprocity is key for human-machine collaborative learning effectively. Finally, two suggestions were proposed for the development of human-machine collaborative learning. At the technological level, it should focus on improving technology design through human-machine interaction and reciprocity. At the practical level, it should be guided by the principles of learning science and human-center to standardize the practice process.

    Keywords: intelligent education; human-machine collaborative learning; human-machine collaborative cognition; human-machine interaction; human-machine reciprocity; human-centered artificial intelligence

    收稿日期:2023年7月19日

    責任編輯:李雅瑄

    人人妻,人人澡人人爽秒播| 侵犯人妻中文字幕一二三四区| av不卡在线播放| 最新的欧美精品一区二区| 一级作爱视频免费观看| 成人三级做爰电影| 怎么达到女性高潮| 天天躁日日躁夜夜躁夜夜| 免费日韩欧美在线观看| 亚洲中文字幕日韩| 美女国产高潮福利片在线看| 一区二区三区激情视频| videos熟女内射| 精品视频人人做人人爽| 大香蕉久久网| 视频在线观看一区二区三区| aaaaa片日本免费| 婷婷丁香在线五月| 真人做人爱边吃奶动态| 精品少妇一区二区三区视频日本电影| 国产在线一区二区三区精| 国产精品香港三级国产av潘金莲| 久久精品人人爽人人爽视色| 久久精品91无色码中文字幕| 欧美丝袜亚洲另类 | 丰满迷人的少妇在线观看| xxx96com| 久久精品亚洲熟妇少妇任你| 日本黄色视频三级网站网址 | 性色av乱码一区二区三区2| 亚洲一区二区三区欧美精品| 两人在一起打扑克的视频| 欧美另类亚洲清纯唯美| 精品高清国产在线一区| 激情视频va一区二区三区| 乱人伦中国视频| 久热这里只有精品99| 19禁男女啪啪无遮挡网站| 黄频高清免费视频| 99久久国产精品久久久| 欧美精品av麻豆av| 热99国产精品久久久久久7| 欧美 亚洲 国产 日韩一| 一本大道久久a久久精品| 1024视频免费在线观看| 99re在线观看精品视频| 欧美精品高潮呻吟av久久| 99国产极品粉嫩在线观看| 黑人巨大精品欧美一区二区蜜桃| 波多野结衣av一区二区av| 久久狼人影院| 人妻 亚洲 视频| 精品乱码久久久久久99久播| 亚洲第一av免费看| 亚洲第一av免费看| 国产精品国产av在线观看| 涩涩av久久男人的天堂| 亚洲精品在线观看二区| 日韩制服丝袜自拍偷拍| 欧美 日韩 精品 国产| 又紧又爽又黄一区二区| 女人爽到高潮嗷嗷叫在线视频| 男男h啪啪无遮挡| 91老司机精品| 欧美另类亚洲清纯唯美| 桃红色精品国产亚洲av| 亚洲,欧美精品.| 国产男靠女视频免费网站| 丝袜在线中文字幕| 99精品久久久久人妻精品| 成人手机av| 男女下面插进去视频免费观看| 欧美老熟妇乱子伦牲交| 免费看a级黄色片| 不卡一级毛片| 女性被躁到高潮视频| 脱女人内裤的视频| 久久草成人影院| 午夜老司机福利片| 亚洲熟女精品中文字幕| 又大又爽又粗| 母亲3免费完整高清在线观看| 一个人免费在线观看的高清视频| 亚洲精品美女久久久久99蜜臀| 亚洲第一青青草原| 精品视频人人做人人爽| 国产淫语在线视频| 色在线成人网| 欧美+亚洲+日韩+国产| 又黄又粗又硬又大视频| 久久久久久亚洲精品国产蜜桃av| 亚洲熟女精品中文字幕| 久久性视频一级片| 捣出白浆h1v1| 国产欧美日韩一区二区三区在线| 脱女人内裤的视频| 免费av中文字幕在线| 国产一区二区激情短视频| 国产三级黄色录像| 老汉色av国产亚洲站长工具| 国产淫语在线视频| 久久亚洲精品不卡| 涩涩av久久男人的天堂| 婷婷丁香在线五月| 怎么达到女性高潮| 亚洲午夜精品一区,二区,三区| 精品国产亚洲在线| 女人高潮潮喷娇喘18禁视频| 国产精品久久久人人做人人爽| 大香蕉久久网| 国产精品 国内视频| 无人区码免费观看不卡| √禁漫天堂资源中文www| 看黄色毛片网站| 欧美成人午夜精品| videos熟女内射| 亚洲精品美女久久av网站| 久久亚洲真实| 国产欧美日韩一区二区精品| 日韩欧美在线二视频 | videos熟女内射| 国产精品二区激情视频| 男女之事视频高清在线观看| 一区二区三区精品91| 色婷婷av一区二区三区视频| 国产精品一区二区在线不卡| 亚洲欧美一区二区三区久久| 一二三四在线观看免费中文在| 亚洲av成人不卡在线观看播放网| 国产蜜桃级精品一区二区三区 | 少妇猛男粗大的猛烈进出视频| 久久久久国产精品人妻aⅴ院 | 波多野结衣一区麻豆| 亚洲一区高清亚洲精品| 夜夜躁狠狠躁天天躁| 免费在线观看视频国产中文字幕亚洲| 国产精品综合久久久久久久免费 | 极品教师在线免费播放| 男人的好看免费观看在线视频 | 俄罗斯特黄特色一大片| 欧美日韩成人在线一区二区| 色婷婷av一区二区三区视频| 国产在线精品亚洲第一网站| 久久精品亚洲精品国产色婷小说| 飞空精品影院首页| 日韩欧美一区视频在线观看| 视频区欧美日本亚洲| 母亲3免费完整高清在线观看| 很黄的视频免费| 高潮久久久久久久久久久不卡| 亚洲色图av天堂| 国产日韩欧美亚洲二区| 亚洲成av片中文字幕在线观看| cao死你这个sao货| 亚洲欧美激情综合另类| 国产aⅴ精品一区二区三区波| 国产亚洲精品一区二区www | 18禁裸乳无遮挡免费网站照片 | 免费看a级黄色片| 乱人伦中国视频| 亚洲美女黄片视频| 久久久精品免费免费高清| 中文字幕人妻丝袜一区二区| 久久国产精品男人的天堂亚洲| 天堂俺去俺来也www色官网| 成人国产一区最新在线观看| 国产一区在线观看成人免费| 在线免费观看的www视频| 欧美日本中文国产一区发布| 大陆偷拍与自拍| 亚洲av第一区精品v没综合| 中亚洲国语对白在线视频| 国产av又大| 中出人妻视频一区二区| xxxhd国产人妻xxx| 一级a爱视频在线免费观看| 欧美黑人精品巨大| 亚洲欧美一区二区三区黑人| x7x7x7水蜜桃| 成人18禁高潮啪啪吃奶动态图| 757午夜福利合集在线观看| 国产男靠女视频免费网站| videosex国产| 在线观看免费日韩欧美大片| 欧美日韩亚洲国产一区二区在线观看 | 日韩人妻精品一区2区三区| 国产麻豆69| 成人18禁高潮啪啪吃奶动态图| 亚洲va日本ⅴa欧美va伊人久久| 日韩免费av在线播放| 国产一卡二卡三卡精品| 欧美精品人与动牲交sv欧美| 亚洲免费av在线视频| 国产精品电影一区二区三区 | av有码第一页| 一边摸一边抽搐一进一小说 | 女人高潮潮喷娇喘18禁视频| 人妻一区二区av| 亚洲国产精品一区二区三区在线| 大型av网站在线播放| 精品无人区乱码1区二区| 人妻丰满熟妇av一区二区三区 | 国产av一区二区精品久久| 色94色欧美一区二区| 精品福利永久在线观看| 国产区一区二久久| 亚洲色图综合在线观看| 又紧又爽又黄一区二区| 无遮挡黄片免费观看| 国产一区二区三区综合在线观看| 日韩人妻精品一区2区三区| 成年女人毛片免费观看观看9 | 午夜视频精品福利| 亚洲av美国av| 亚洲一码二码三码区别大吗| 极品人妻少妇av视频| 中文字幕av电影在线播放| 久久香蕉精品热| av欧美777| 免费女性裸体啪啪无遮挡网站| 国产成人一区二区三区免费视频网站| 亚洲欧美日韩高清在线视频| 欧美精品亚洲一区二区| 无遮挡黄片免费观看| 露出奶头的视频| 无人区码免费观看不卡| 两个人看的免费小视频| 亚洲精品一卡2卡三卡4卡5卡| 丁香欧美五月| 国产有黄有色有爽视频| 在线观看免费午夜福利视频| 久久ye,这里只有精品| 色老头精品视频在线观看| 国产精品久久久av美女十八| 91av网站免费观看| 日韩一卡2卡3卡4卡2021年| 亚洲精品久久午夜乱码| 一级a爱视频在线免费观看| 国产蜜桃级精品一区二区三区 | 亚洲av成人一区二区三| 亚洲自偷自拍图片 自拍| 久久久久久久国产电影| 国产欧美亚洲国产| 丝袜人妻中文字幕| 大片电影免费在线观看免费| 国产成人精品久久二区二区免费| 美女视频免费永久观看网站| 黄片小视频在线播放| 1024视频免费在线观看| www.精华液| 老司机亚洲免费影院| 国产又爽黄色视频| 亚洲av第一区精品v没综合| av网站在线播放免费| 国产免费男女视频| 精品人妻1区二区| 在线天堂中文资源库| 精品熟女少妇八av免费久了| 啦啦啦视频在线资源免费观看| 国产一区二区三区视频了| 精品乱码久久久久久99久播| 91国产中文字幕| 日日夜夜操网爽| 天天躁夜夜躁狠狠躁躁| 岛国毛片在线播放| 一进一出抽搐动态| 丰满迷人的少妇在线观看| 水蜜桃什么品种好| 成年动漫av网址| 国产亚洲精品久久久久5区| 99久久综合精品五月天人人| 久久久久国产精品人妻aⅴ院 | 99久久国产精品久久久| 久久 成人 亚洲| 激情视频va一区二区三区| 99国产精品免费福利视频| 国产成人影院久久av| 最近最新中文字幕大全电影3 | 久久精品成人免费网站| 18禁黄网站禁片午夜丰满| 看片在线看免费视频| 丝瓜视频免费看黄片| 五月开心婷婷网| 久9热在线精品视频| 国产激情欧美一区二区| 黑人巨大精品欧美一区二区蜜桃| 露出奶头的视频| 在线av久久热| 色老头精品视频在线观看| 久久久精品免费免费高清| 视频在线观看一区二区三区| 黑人猛操日本美女一级片| 久久国产精品影院| 免费在线观看完整版高清| 男人操女人黄网站| 久久 成人 亚洲| 精品亚洲成a人片在线观看| 丝袜美腿诱惑在线| 中出人妻视频一区二区| 欧美 亚洲 国产 日韩一| av在线播放免费不卡| 母亲3免费完整高清在线观看| 国产片内射在线| 日韩中文字幕欧美一区二区| a级片在线免费高清观看视频| 91国产中文字幕| 丁香六月欧美| av线在线观看网站| 一夜夜www| 免费av中文字幕在线| 国产精品免费视频内射| 精品乱码久久久久久99久播| 亚洲色图 男人天堂 中文字幕| 精品国内亚洲2022精品成人 | 啦啦啦 在线观看视频| 无人区码免费观看不卡| 国产在视频线精品| 久久狼人影院| 丝袜人妻中文字幕| 50天的宝宝边吃奶边哭怎么回事| 少妇粗大呻吟视频| 99国产精品免费福利视频| bbb黄色大片| 91在线观看av| 国产日韩欧美亚洲二区| 丝袜美腿诱惑在线| 老司机福利观看| 黄网站色视频无遮挡免费观看| 亚洲久久久国产精品| 国产成人影院久久av| 91大片在线观看| 丝袜在线中文字幕| 老司机影院毛片| 亚洲精品乱久久久久久| 亚洲午夜精品一区,二区,三区| 国产淫语在线视频| 欧美成狂野欧美在线观看| 国产1区2区3区精品| 精品亚洲成a人片在线观看| 国内毛片毛片毛片毛片毛片| 一级片'在线观看视频| 欧美精品亚洲一区二区| 亚洲男人天堂网一区| 欧美色视频一区免费| 中文字幕av电影在线播放| 免费黄频网站在线观看国产| 亚洲av熟女| 伦理电影免费视频| 亚洲成人免费电影在线观看| 成年人免费黄色播放视频| 久久这里只有精品19| 又黄又爽又免费观看的视频| 人妻 亚洲 视频| 亚洲人成电影免费在线| 日韩免费高清中文字幕av| 国产淫语在线视频| 欧美日韩成人在线一区二区| 中文字幕高清在线视频| 男女午夜视频在线观看| 亚洲黑人精品在线| 最近最新中文字幕大全电影3 | 9191精品国产免费久久| tube8黄色片| 18禁裸乳无遮挡免费网站照片 | 自拍欧美九色日韩亚洲蝌蚪91| 欧美日韩精品网址| 欧美激情 高清一区二区三区| 男人的好看免费观看在线视频 | 一夜夜www| 亚洲avbb在线观看| 亚洲精品在线美女| 精品久久久久久久毛片微露脸| 欧美日韩亚洲国产一区二区在线观看 | 淫妇啪啪啪对白视频| 精品人妻1区二区| 亚洲aⅴ乱码一区二区在线播放 | 午夜福利在线免费观看网站| 欧美一级毛片孕妇| 欧美成人午夜精品| 欧美日本中文国产一区发布| 精品久久久久久电影网| 久久精品亚洲精品国产色婷小说| 美女午夜性视频免费| 成年人黄色毛片网站| 午夜日韩欧美国产| 国产又爽黄色视频| 久久午夜亚洲精品久久| 国产1区2区3区精品| 久久久精品免费免费高清| 免费观看a级毛片全部| 搡老熟女国产l中国老女人| 丰满的人妻完整版| 精品无人区乱码1区二区| 激情在线观看视频在线高清 | 制服人妻中文乱码| 久久人人97超碰香蕉20202| 男女之事视频高清在线观看| 国产aⅴ精品一区二区三区波| 好男人电影高清在线观看| 欧美激情高清一区二区三区| 人妻久久中文字幕网| 国产精品久久久久久精品古装| 黄色视频,在线免费观看| 搡老乐熟女国产| 国产黄色免费在线视频| 欧美大码av| 老熟女久久久| 一边摸一边抽搐一进一小说 | 天堂动漫精品| 90打野战视频偷拍视频| 亚洲人成电影免费在线| 欧美日韩精品网址| 五月开心婷婷网| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲专区国产一区二区| 国产精品一区二区在线观看99| 正在播放国产对白刺激| 精品人妻1区二区| 亚洲一区二区三区欧美精品| 精品卡一卡二卡四卡免费| 精品国产美女av久久久久小说| 精品无人区乱码1区二区| 九色亚洲精品在线播放| 午夜福利免费观看在线| 免费av中文字幕在线| 一进一出抽搐gif免费好疼 | 精品免费久久久久久久清纯 | 亚洲久久久国产精品| 久久久久久亚洲精品国产蜜桃av| 又紧又爽又黄一区二区| 日韩熟女老妇一区二区性免费视频| 午夜久久久在线观看| 不卡一级毛片| 亚洲精品中文字幕一二三四区| 最新美女视频免费是黄的| 亚洲成人免费av在线播放| 欧美精品人与动牲交sv欧美| 大片电影免费在线观看免费| 国产亚洲av高清不卡| 国产精品二区激情视频| 中文欧美无线码| 咕卡用的链子| 男女床上黄色一级片免费看| 中出人妻视频一区二区| 每晚都被弄得嗷嗷叫到高潮| 天堂中文最新版在线下载| 国产日韩一区二区三区精品不卡| 99久久精品国产亚洲精品| 久久久久久久久久久久大奶| 国产精品一区二区免费欧美| 精品久久久久久,| 十八禁人妻一区二区| 老司机亚洲免费影院| 99在线人妻在线中文字幕 | 乱人伦中国视频| 一级,二级,三级黄色视频| 色综合婷婷激情| 欧美黑人欧美精品刺激| 婷婷丁香在线五月| av线在线观看网站| 91国产中文字幕| 色婷婷久久久亚洲欧美| 美女高潮到喷水免费观看| 欧美国产精品一级二级三级| 国产精品九九99| 亚洲综合色网址| 伊人久久大香线蕉亚洲五| 国产熟女午夜一区二区三区| 老司机在亚洲福利影院| 日韩欧美免费精品| 黄色怎么调成土黄色| 美女午夜性视频免费| 国产精品秋霞免费鲁丝片| 中文亚洲av片在线观看爽 | 黑人操中国人逼视频| 男女床上黄色一级片免费看| 国产男女内射视频| 久久精品国产a三级三级三级| 日韩大码丰满熟妇| 在线十欧美十亚洲十日本专区| 成人免费观看视频高清| 国产片内射在线| 精品久久久久久,| bbb黄色大片| 精品一区二区三区视频在线观看免费 | 丰满迷人的少妇在线观看| 国产在线观看jvid| bbb黄色大片| 悠悠久久av| 国产精品久久视频播放| netflix在线观看网站| 99国产精品免费福利视频| 一级片'在线观看视频| 日韩制服丝袜自拍偷拍| 亚洲一区二区三区欧美精品| 久久精品亚洲精品国产色婷小说| 亚洲久久久国产精品| 高清在线国产一区| 亚洲欧美色中文字幕在线| 国产极品粉嫩免费观看在线| 久久国产精品影院| 在线看a的网站| 国产1区2区3区精品| 十八禁网站免费在线| 国产片内射在线| 天天影视国产精品| 久99久视频精品免费| 妹子高潮喷水视频| 国产精品 国内视频| www日本在线高清视频| 欧美日韩亚洲综合一区二区三区_| 亚洲精品av麻豆狂野| 一本一本久久a久久精品综合妖精| 夜夜夜夜夜久久久久| 免费在线观看影片大全网站| 免费看十八禁软件| 国产不卡av网站在线观看| av福利片在线| 国产乱人伦免费视频| 亚洲av熟女| 女人爽到高潮嗷嗷叫在线视频| 99在线人妻在线中文字幕 | 久久狼人影院| 久久精品国产99精品国产亚洲性色 | 建设人人有责人人尽责人人享有的| 亚洲欧美一区二区三区黑人| 中文字幕高清在线视频| 捣出白浆h1v1| 国产片内射在线| 一区福利在线观看| 91麻豆av在线| 天天躁狠狠躁夜夜躁狠狠躁| 在线观看免费午夜福利视频| 欧美 日韩 精品 国产| 黄片大片在线免费观看| 亚洲精品一卡2卡三卡4卡5卡| 久久精品国产亚洲av高清一级| 国产亚洲精品一区二区www | av国产精品久久久久影院| 国产精品二区激情视频| 9色porny在线观看| 宅男免费午夜| 黄色丝袜av网址大全| avwww免费| 国产精品久久电影中文字幕 | 亚洲av第一区精品v没综合| 99国产精品一区二区三区| 午夜亚洲福利在线播放| 亚洲一区二区三区不卡视频| 黄色视频,在线免费观看| 丝袜美足系列| 90打野战视频偷拍视频| 日日摸夜夜添夜夜添小说| 亚洲av日韩精品久久久久久密| 美女福利国产在线| 日韩熟女老妇一区二区性免费视频| 一区二区三区国产精品乱码| av有码第一页| 丝袜美足系列| 丝袜美腿诱惑在线| 亚洲国产精品合色在线| 狠狠狠狠99中文字幕| 美女国产高潮福利片在线看| 亚洲av日韩在线播放| 成年版毛片免费区| 亚洲一码二码三码区别大吗| 免费日韩欧美在线观看| 人成视频在线观看免费观看| 国产精品一区二区精品视频观看| 久久久久国内视频| 亚洲精品在线美女| 亚洲色图 男人天堂 中文字幕| 老汉色∧v一级毛片| bbb黄色大片| 精品人妻1区二区| 亚洲精品乱久久久久久| 亚洲第一av免费看| 中出人妻视频一区二区| 精品国产一区二区三区四区第35| 欧洲精品卡2卡3卡4卡5卡区| 在线永久观看黄色视频| 国产aⅴ精品一区二区三区波| 久久精品国产清高在天天线| 国产精品一区二区在线不卡| 黄片小视频在线播放| 人人妻人人添人人爽欧美一区卜| 亚洲熟妇中文字幕五十中出 | 欧美最黄视频在线播放免费 | 亚洲精品在线观看二区| 亚洲一区高清亚洲精品| 精品国产一区二区三区四区第35| www.精华液| 在线永久观看黄色视频| 亚洲情色 制服丝袜| 国产精品九九99| 女人爽到高潮嗷嗷叫在线视频| 女性生殖器流出的白浆| 亚洲一区二区三区不卡视频| 国产成人精品无人区| 变态另类成人亚洲欧美熟女 | 少妇粗大呻吟视频| 69精品国产乱码久久久| 99久久人妻综合| 欧美成人免费av一区二区三区 | 90打野战视频偷拍视频| 亚洲专区字幕在线| 交换朋友夫妻互换小说| 一级a爱视频在线免费观看| 大香蕉久久成人网| 日韩免费av在线播放| 人人妻人人澡人人看| 亚洲国产毛片av蜜桃av| 国产激情久久老熟女| 一区福利在线观看| 亚洲情色 制服丝袜|