• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    學(xué)習(xí)者與平臺(tái)交互行為挖掘及學(xué)習(xí)預(yù)測(cè)模型構(gòu)建

    2021-07-29 08:48王亮
    中國(guó)遠(yuǎn)程教育 2021年5期
    關(guān)鍵詞:準(zhǔn)確度學(xué)習(xí)者變量

    【摘要】

    學(xué)習(xí)分析技術(shù)是一種通過(guò)對(duì)學(xué)習(xí)者在學(xué)習(xí)中的實(shí)際參與、表現(xiàn)和進(jìn)展以及自身屬性等各種相關(guān)數(shù)據(jù)的分析對(duì)其學(xué)習(xí)結(jié)果進(jìn)行預(yù)測(cè)的技術(shù)。通過(guò)模型分析可以為學(xué)習(xí)者提供預(yù)測(cè)結(jié)果,并實(shí)時(shí)向教學(xué)管理者、課程設(shè)計(jì)者和任課教師等提供相應(yīng)的干預(yù)策略,以避免學(xué)習(xí)者可能最終學(xué)習(xí)失敗的結(jié)果。隨著大規(guī)模在線課程的迅猛發(fā)展,需要針對(duì)性的預(yù)測(cè)模型來(lái)支持學(xué)習(xí)者的在線學(xué)習(xí)過(guò)程。本文提出了一種以學(xué)習(xí)者與平臺(tái)教學(xué)資源間的交互行為為基礎(chǔ)構(gòu)建適應(yīng)大規(guī)模在線學(xué)習(xí)預(yù)測(cè)模型的新方法。與傳統(tǒng)學(xué)習(xí)分析方法不同,該模型不需要對(duì)學(xué)習(xí)者前期學(xué)習(xí)情況有過(guò)多了解,也無(wú)須教學(xué)設(shè)計(jì)者或領(lǐng)域?qū)<业倪^(guò)多參與,在通用環(huán)境的課程結(jié)構(gòu)以及隨時(shí)間變化的前提下具有良好的預(yù)測(cè)準(zhǔn)確性。

    【關(guān)鍵詞】 ?學(xué)習(xí)分析技術(shù);機(jī)器學(xué)習(xí)模型;數(shù)據(jù)挖掘;時(shí)間序列;預(yù)測(cè)分析;決策樹;交互行為;學(xué)習(xí)環(huán)境

    【中圖分類號(hào)】 ? TP391 ? ? ? ? 【文獻(xiàn)標(biāo)識(shí)碼】 ?B ? ? ? 【文章編號(hào)】 ?1009-458x(2021)5-0062-06

    一、引言

    隨著學(xué)習(xí)分析技術(shù)的研究日益發(fā)展,基于該技術(shù)建立的各類對(duì)學(xué)習(xí)者學(xué)習(xí)狀態(tài)及結(jié)果的分析、預(yù)測(cè)、預(yù)警、干預(yù)系統(tǒng)已經(jīng)廣泛應(yīng)用在各種學(xué)習(xí)平臺(tái)之中,并有效地增強(qiáng)了學(xué)習(xí)者的學(xué)習(xí)成功率(Arnold, et al., 2012; Lauría, et al., 2013)。構(gòu)建預(yù)測(cè)模型通常需要設(shè)計(jì)者對(duì)所面對(duì)的教育領(lǐng)域、學(xué)習(xí)目標(biāo)以及教學(xué)所處的教學(xué)環(huán)境有深入的了解。本文的研究目的在于能夠提供一種較為通用的方法,打通存在于數(shù)據(jù)挖掘?qū)<液徒逃虒W(xué)專家之間交叉的“中間空間”(Adlin, et al., 2010),以學(xué)習(xí)者的個(gè)人屬性特征和基于互動(dòng)行為的時(shí)間序列數(shù)據(jù),驅(qū)動(dòng)構(gòu)建一個(gè)在同一平臺(tái)環(huán)境中,能夠跨越不同課程和教學(xué)過(guò)程,并且隨時(shí)間變化仍具有良好解釋性和準(zhǔn)確性的學(xué)習(xí)者預(yù)測(cè)模型和干預(yù)系統(tǒng)。這一構(gòu)建過(guò)程,不會(huì)給使用模型的教師或教育專家?guī)?lái)額外的工作負(fù)擔(dān),他們可以更容易地通過(guò)數(shù)據(jù)驅(qū)動(dòng)的預(yù)測(cè)模型來(lái)深入了解課程中發(fā)生的活動(dòng),同時(shí)通過(guò)模型提供的預(yù)測(cè)結(jié)果實(shí)施選擇性干預(yù)(Barber, et al., 2012)。

    二、相關(guān)研究進(jìn)展

    在學(xué)習(xí)分析技術(shù)興起之前,技術(shù)強(qiáng)化學(xué)習(xí)(Technology-enhanced Learning,TEL)領(lǐng)域就受到教育界非常廣泛的關(guān)注。這一領(lǐng)域的研究方向是理解學(xué)習(xí)者從認(rèn)知角度進(jìn)行學(xué)習(xí)的過(guò)程,并以泛在的技術(shù)手段加以增強(qiáng)和輔助。其中,安德森(Anderson, 1993)的ACT-R技能知識(shí)理論被用作許多智能學(xué)習(xí)輔助系統(tǒng)的基礎(chǔ)。該理論認(rèn)為,學(xué)習(xí)者可以由重復(fù)正確規(guī)則展示認(rèn)知能力和水平,相對(duì)地,如果這種趨勢(shì)不足則表明需要教育干預(yù)機(jī)制加以改進(jìn)。歐爾森(Ohlsson, 1994)基于“錯(cuò)誤表現(xiàn)”的學(xué)習(xí)理論為該領(lǐng)域提供了另一種解釋,他認(rèn)為學(xué)習(xí)者需要通過(guò)錯(cuò)誤并糾正來(lái)證明學(xué)習(xí)過(guò)程正在發(fā)生,提交正確的答案存在著巧合的可能,而出錯(cuò)并糾正才是對(duì)知識(shí)更深層次的認(rèn)知。馬?。∕artin, 1999)以此理論為依據(jù),建立了基于約束的智能輔助模型。這些對(duì)學(xué)習(xí)者學(xué)習(xí)認(rèn)知過(guò)程的評(píng)判和干預(yù)理論,為學(xué)習(xí)分析技術(shù)奠定了教育理論基礎(chǔ)。

    隨著互聯(lián)網(wǎng)生態(tài)的蓬勃發(fā)展,網(wǎng)絡(luò)教育形式方興未艾。相關(guān)領(lǐng)域研究,從單純的學(xué)習(xí)者與學(xué)習(xí)內(nèi)容之間的互動(dòng)延伸到了學(xué)習(xí)者之間的學(xué)習(xí)交流過(guò)程(Gergen, 1985)。布爾等(Bull, et al., 2001)通過(guò)人工智能技術(shù)對(duì)學(xué)習(xí)者之間的交流和討論,建立了學(xué)習(xí)同伴的匹配模型;格拉瑟等(Graesser, et al., 2005)則基于此建立了人機(jī)對(duì)話的智能教學(xué)輔助系統(tǒng)。

    隨著大規(guī)模公開在線課程(MOOC)嶄露頭角,學(xué)習(xí)分析技術(shù)的發(fā)展得到了空前的大數(shù)據(jù)研究基礎(chǔ)和應(yīng)用前景。加曼(Garman, 2010)采用Logistic回歸分析的方法,基于學(xué)生部分學(xué)習(xí)對(duì)象的評(píng)估結(jié)果對(duì)學(xué)生的課程進(jìn)行有效預(yù)測(cè);摩爾(Moore, 2007)把學(xué)生當(dāng)前課程與之前課程的參與程度作為分析對(duì)象,研究表明學(xué)生課程的參與程度與其課程成績(jī)呈高度相關(guān),而學(xué)生的前置學(xué)歷排名、入學(xué)考試成績(jī)等則沒有在學(xué)習(xí)結(jié)果上呈現(xiàn)顯著差異;馬杰等(2014)利用多元回歸分析建立模型,對(duì)教育技術(shù)初級(jí)能力培訓(xùn)課程產(chǎn)生的相關(guān)數(shù)據(jù)進(jìn)行分析,驗(yàn)證了該模型的可行性和有效性;孫力等(2015)采用數(shù)據(jù)分類決策樹方法,實(shí)現(xiàn)了對(duì)英語(yǔ)統(tǒng)考成績(jī)的良好預(yù)測(cè);陳子健等(2017)提出采用集成學(xué)習(xí)的方法構(gòu)建集成式學(xué)業(yè)成績(jī)分類預(yù)測(cè)模型,并比較多種算法構(gòu)建的單一分類模型和集成分類模型的性能;肖巍等(2018)對(duì)基于數(shù)據(jù)挖掘的學(xué)習(xí)預(yù)警研究進(jìn)行文獻(xiàn)綜述;王改花等(2019)采用數(shù)據(jù)挖掘技術(shù)對(duì)網(wǎng)絡(luò)學(xué)習(xí)者的學(xué)習(xí)行為與成績(jī)進(jìn)行了預(yù)測(cè),構(gòu)建了適應(yīng)性學(xué)習(xí)系統(tǒng)學(xué)習(xí)干預(yù)模型。

    對(duì)預(yù)測(cè)模型的研究存在一個(gè)共識(shí),即學(xué)習(xí)者前序?qū)W習(xí)成績(jī)是對(duì)其后序階段學(xué)習(xí)結(jié)果的重要預(yù)測(cè)指標(biāo)。如賈亞普拉卡什等人(Jayaprakash, et al., 2014)提供了邏輯回歸模型描述,學(xué)習(xí)者課程成績(jī)累積平均值是最終成績(jī)的最強(qiáng)預(yù)測(cè)因子。筆者所在的網(wǎng)絡(luò)教育學(xué)院以及其他大規(guī)模在線教育平臺(tái)都存在此類情況,即難以準(zhǔn)確獲得學(xué)習(xí)者在使用當(dāng)前教學(xué)平臺(tái)之前的學(xué)習(xí)記錄數(shù)據(jù)。此外,現(xiàn)有的大部分預(yù)測(cè)模型都是階段性、靜態(tài)的,缺乏利用時(shí)間序列行為特征分析預(yù)測(cè)學(xué)習(xí)者實(shí)時(shí)學(xué)習(xí)結(jié)果的能力。因此,本文探索一種以學(xué)習(xí)者與學(xué)習(xí)平臺(tái)的資源互動(dòng)行為數(shù)據(jù)建模的方法,引入時(shí)間序列的衡量概念,構(gòu)建一個(gè)較準(zhǔn)確、易解釋的在不同課程中具備較好通用性并可實(shí)時(shí)動(dòng)態(tài)預(yù)測(cè)學(xué)習(xí)者的學(xué)習(xí)結(jié)果預(yù)警模型。

    三、數(shù)據(jù)準(zhǔn)備

    (一)特征變量的選擇

    在學(xué)習(xí)分析領(lǐng)域,對(duì)學(xué)習(xí)者特征變量(或稱“屬性”)的劃分,存在著一個(gè)普遍共識(shí)的方式。一類是帶有學(xué)習(xí)者人口統(tǒng)計(jì)學(xué)特點(diǎn)的“傾向特征變量”,另一類是學(xué)生在學(xué)習(xí)過(guò)程中所呈現(xiàn)的“行為特征變量”。傾向特征變量一般包括學(xué)習(xí)者的年齡、性別、家庭狀況、收入水平、生活地區(qū)以及前置學(xué)習(xí)成績(jī)等屬性內(nèi)容。這一系列的特征變量都具有靜態(tài)、客觀的特點(diǎn),是學(xué)習(xí)者個(gè)人情況的反映,基本不會(huì)頻繁變化。對(duì)大多數(shù)在線學(xué)習(xí)平臺(tái)來(lái)說(shuō),此類特征變量都較容易獲得。之前的研究發(fā)現(xiàn),學(xué)習(xí)者的“性別、年齡、婚姻狀況、生活地區(qū)”是對(duì)回歸分析預(yù)測(cè)模型影響較高的特征變量(王亮, 2015)。因此,雖然本文的研究重點(diǎn)不在此類傾向特征變量上,但從實(shí)際應(yīng)用出發(fā),為提高模型的準(zhǔn)確度和解釋性,繼續(xù)在模型中選用這四個(gè)特征變量。

    行為特征變量包含學(xué)習(xí)者在學(xué)習(xí)平臺(tái)上的各類學(xué)習(xí)活動(dòng),包括學(xué)習(xí)者與平臺(tái)各類學(xué)習(xí)資源、其他學(xué)習(xí)者、教學(xué)者之間的互動(dòng)和結(jié)果?;趯?duì)學(xué)習(xí)過(guò)程中最核心流程的共識(shí),本文選取了三種資源交互形式作為預(yù)測(cè)模型的考察變量:課程講座視頻、學(xué)習(xí)者線上作業(yè)完成進(jìn)度以及學(xué)習(xí)論壇的討論參與??紤]到模型的復(fù)雜性,對(duì)以上三種資源交互的考察僅限于粗粒度水平,忽略了對(duì)單獨(dú)資源再進(jìn)行細(xì)粒度交互的分析。

    (二)通過(guò)學(xué)習(xí)者行為數(shù)據(jù)創(chuàng)建時(shí)間序列特征變量

    大多數(shù)學(xué)習(xí)分析技術(shù)構(gòu)建預(yù)測(cè)模型的研究,一般都會(huì)關(guān)注對(duì)學(xué)習(xí)者與平臺(tái)資源交互數(shù)據(jù)的分析和選取。隨著學(xué)習(xí)平臺(tái)對(duì)學(xué)習(xí)痕跡記錄的完善,這些數(shù)據(jù)可以方便地從平臺(tái)運(yùn)行日志中獲得(如某人某時(shí)間訪問(wèn)了某課程講座視頻資源等)。然而,如何把此類日志數(shù)據(jù)離散轉(zhuǎn)化為可以表達(dá)學(xué)習(xí)者與資源互動(dòng)行為特征的描述,并利用數(shù)據(jù)挖掘進(jìn)行分類是本研究的重點(diǎn)問(wèn)題。

    本文在數(shù)據(jù)準(zhǔn)備過(guò)程中,根據(jù)學(xué)習(xí)者訪問(wèn)資源的時(shí)間范圍來(lái)整合其交互行為特征。從學(xué)習(xí)周期開始的時(shí)間相對(duì)偏移,使用了三種不同的度量:以日為跨度、以周為跨度和以月為跨度的交互行為進(jìn)行觀測(cè)。這樣基于時(shí)間序列的數(shù)據(jù)特征分類可以全面地了解學(xué)習(xí)者與資源交互的節(jié)奏和周期。

    在選定行為數(shù)據(jù)表達(dá)方式后,需要再選擇適合用于預(yù)測(cè)模型的時(shí)間序列特征變量對(duì)象。以交互日志數(shù)據(jù)為基礎(chǔ),確定得到學(xué)習(xí)者在某一具體時(shí)間范圍的全部互動(dòng)行為特征(如在第15個(gè)學(xué)習(xí)日或第6個(gè)學(xué)習(xí)周是否觀看了課程講座的視頻等),并將所有這些特征變量納入到數(shù)據(jù)集中。但這勢(shì)必會(huì)造成模型中特征變量的數(shù)量過(guò)大,進(jìn)而帶來(lái)機(jī)器學(xué)習(xí)模型的過(guò)擬合現(xiàn)象,結(jié)果不僅影響模型在不同課程中的通用性,又會(huì)嚴(yán)重降低模型的解釋性。因此,本文忽略具體到某一時(shí)間范圍的時(shí)間序列特征變量,而將觀測(cè)集中到交互行為的時(shí)間序列前后關(guān)聯(lián)性上來(lái),如考察學(xué)習(xí)者在學(xué)習(xí)周期中連續(xù)三周每周都至少觀看一次課程講座視頻,這樣的行為特征是否對(duì)其課程通過(guò)有影響。學(xué)習(xí)是一個(gè)連續(xù)性過(guò)程,本文假設(shè)以交互行為的時(shí)間序列前后關(guān)聯(lián)情況作為特征變量,更有利于機(jī)器學(xué)習(xí)模型的訓(xùn)練和預(yù)測(cè)性能。

    在表達(dá)時(shí)間序列前后關(guān)聯(lián)的方法上,本文采用N-Gram語(yǔ)言模型技術(shù)對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理(Brooks, et al., 2015)。Gram是一種統(tǒng)計(jì)語(yǔ)言模型,用來(lái)根據(jù)前(n-1)個(gè)Item來(lái)預(yù)測(cè)第n個(gè)Item。本文采用3-gram的時(shí)間序列特征來(lái)表達(dá)學(xué)習(xí)者與資源交互的時(shí)間關(guān)聯(lián)狀態(tài)。仍以觀看課程講座視頻為例,如學(xué)習(xí)者在整個(gè)學(xué)習(xí)周期內(nèi)以連續(xù)三周為一個(gè)時(shí)間序列,出現(xiàn)了2次,第一周和第三周觀看了視頻,而第二周沒有的情況,本文即用“周”標(biāo)簽的3-gram(真,假,真)特征變量的值為2來(lái)表達(dá)這一狀態(tài)。以此類推,本文將設(shè)定一組3-gram的時(shí)間序列特征變量,覆蓋從(假,假,假)到(真,真,真)的所有排列可能。

    (三)數(shù)據(jù)的實(shí)際采集和整理

    本文從筆者所在的網(wǎng)絡(luò)教育學(xué)院學(xué)習(xí)者中抽選了某一學(xué)籍批次的工商管理專業(yè)學(xué)生,并從教學(xué)平臺(tái)中抽取了該批次學(xué)習(xí)者在管理學(xué)課程學(xué)習(xí)過(guò)程中所進(jìn)行的“課程講座視頻觀看、線上作業(yè)完成進(jìn)度以及學(xué)習(xí)論壇的討論參與”三種資源交互的行為記錄。該課程總教學(xué)計(jì)劃時(shí)間為3.5個(gè)月,因此之前選擇的3-gram尺度是較為適宜的。本文設(shè)定coursewareD/coursewareW/coursewareM分別表示以日、周、月時(shí)間跨度記錄學(xué)習(xí)者觀看課程視頻的特征變量。類似地,以homework表示線上作業(yè)完成進(jìn)度,以forums表示學(xué)習(xí)論壇的討論參與等對(duì)應(yīng)特征變量,并在3-gram的排列基礎(chǔ)上展開,總共生成了24個(gè)時(shí)間序列特征變量(如表1所示)。

    本文設(shè)計(jì)了對(duì)平臺(tái)日志記錄數(shù)據(jù)離散的標(biāo)準(zhǔn)化算法,將縱向的學(xué)習(xí)者交互記錄數(shù)據(jù)批量離散轉(zhuǎn)化為對(duì)應(yīng)的時(shí)間序列特征變量值。這一數(shù)據(jù)準(zhǔn)備過(guò)程相對(duì)煩瑣復(fù)雜,特別是在模型驗(yàn)證階段的不同時(shí)間節(jié)點(diǎn)觀測(cè),需要反復(fù)運(yùn)算并整合,這是平臺(tái)缺乏相關(guān)功能造成的缺陷。未來(lái)可以在平臺(tái)設(shè)計(jì)改進(jìn)中加入此算法,以高效、直接地獲得所需特征變量值。

    四、機(jī)器學(xué)習(xí)預(yù)測(cè)模型的建立和驗(yàn)證

    在建立本研究的機(jī)器學(xué)習(xí)和預(yù)測(cè)模型時(shí),首先確定模型需達(dá)成的兩個(gè)目標(biāo):第一,在保證模型高準(zhǔn)確度的前提下,在準(zhǔn)確性和解釋性之間達(dá)成一個(gè)平衡,盡可能兼顧解釋性;第二,體現(xiàn)交互行為時(shí)間序列編排的價(jià)值,在實(shí)現(xiàn)課程實(shí)時(shí)推進(jìn)的同時(shí)保持模型相對(duì)良好的準(zhǔn)確性。特別是在學(xué)習(xí)周期初期缺乏前置學(xué)習(xí)結(jié)果的條件下,如早期模型能具備良好的準(zhǔn)確度,那么對(duì)提供早期預(yù)警干預(yù)將具有現(xiàn)實(shí)意義。

    (一)模型建立的技術(shù)路線

    由于機(jī)器學(xué)習(xí)算法偏向大多數(shù)類,所以在訓(xùn)練數(shù)據(jù)不均衡時(shí),準(zhǔn)確度評(píng)價(jià)指標(biāo)的參考意義就會(huì)顯著下降。基于對(duì)所在網(wǎng)絡(luò)教育學(xué)院的課程進(jìn)行觀察可以發(fā)現(xiàn),一般課程考核通過(guò)率在70%~75%之間,如果不對(duì)數(shù)據(jù)樣本進(jìn)行平衡調(diào)整,那么訓(xùn)練出的模型分類效果會(huì)難以接受。在樣本平衡模式上,本文選擇了欠采樣方法,對(duì)大類(考試通過(guò)的學(xué)習(xí)者)的數(shù)據(jù)樣本進(jìn)行欠采樣來(lái)減少大類的數(shù)據(jù)樣本個(gè)數(shù),使得樣本中通過(guò)與未通過(guò)的學(xué)習(xí)者數(shù)量比例接近1∶1?,F(xiàn)有研究證明,平衡數(shù)據(jù)的訓(xùn)練可以有效提高機(jī)器學(xué)習(xí)模型的預(yù)測(cè)準(zhǔn)確性。

    本研究選擇決策樹機(jī)器學(xué)習(xí)技術(shù)來(lái)建立預(yù)測(cè)模型。線性回歸、邏輯回歸等簡(jiǎn)單技術(shù),過(guò)程清晰明確,但不適用于分析復(fù)雜的問(wèn)題和數(shù)據(jù);相比貝葉斯模型或支持向量機(jī)等其他機(jī)器學(xué)習(xí)技術(shù),決策樹最大的優(yōu)點(diǎn)就是其易用性和較為清晰的解釋性,這對(duì)于教學(xué)設(shè)計(jì)者或教師具有更高的價(jià)值。本文的數(shù)據(jù)處理使用Weka工具包下的J48決策樹分類器(C4.5算法)來(lái)完成,參數(shù)選擇置信水平為0.25,最小葉節(jié)點(diǎn)大小為100。為了保證生成模型的準(zhǔn)確性而不至于出現(xiàn)過(guò)擬合的現(xiàn)象,研究采用10折交叉驗(yàn)證(10-fold cross validation)來(lái)評(píng)估模型。

    (二)模型準(zhǔn)確度和解釋性評(píng)價(jià)

    根據(jù)第3節(jié)進(jìn)行的數(shù)據(jù)準(zhǔn)備,本文利用決策樹進(jìn)行機(jī)器學(xué)習(xí)分類,所生成的預(yù)測(cè)模型的準(zhǔn)確度結(jié)果如表2所示。

    表2列出了模型對(duì)數(shù)據(jù)集正確、不正確分類的數(shù)量,以及kappa值觀察數(shù)據(jù)與預(yù)測(cè)數(shù)據(jù)之間一致性的度量。kappa 值的范圍為-1到+1,值越高,一致性就越強(qiáng)。當(dāng)Kappa為1時(shí)表明完全一致,為0時(shí)一致性與偶然預(yù)期相同,小于0的情況很少發(fā)生。有研究認(rèn)為kappa 值至少為0.75表示一致性強(qiáng),0.8以上表示一致性很強(qiáng)。本文模型的一致性為0.89,結(jié)合94.65%的分類正確率,可以確定此機(jī)器學(xué)習(xí)預(yù)測(cè)模型的準(zhǔn)確度是令人滿意的。

    圖1給出了本研究模型管理學(xué)課程結(jié)果決策樹示例。從樹的結(jié)構(gòu)可以直觀看出,J48決策樹修剪掉了數(shù)據(jù)集中絕大多數(shù)特征變量,只保留了機(jī)器學(xué)習(xí)算法所認(rèn)為最能體現(xiàn)分類效率和準(zhǔn)確性的變量屬性。統(tǒng)計(jì)模型是一種自上而下的數(shù)據(jù)科學(xué)方法,可解釋性是關(guān)鍵,因?yàn)橄嚓P(guān)性往往不等于因果關(guān)系,而機(jī)器學(xué)習(xí)模型的準(zhǔn)確度又與其復(fù)雜程度是相關(guān)的,這就決定了模型的準(zhǔn)確性和解釋性很難兼得,需要研究者取得一個(gè)適當(dāng)?shù)钠胶?。從圖1的樹結(jié)構(gòu)呈現(xiàn)中可以較容易地理解其分類意義,即學(xué)習(xí)者如果連續(xù)三個(gè)月以上能按時(shí)觀看課程講座視頻,并且連續(xù)三個(gè)月以上保持規(guī)律提交作業(yè),考試通過(guò)的概率是相當(dāng)高的,這也符合學(xué)習(xí)過(guò)程連貫性的一般規(guī)律。同時(shí),缺乏規(guī)律學(xué)習(xí)和作業(yè)提交的學(xué)習(xí)者無(wú)法通過(guò)課程的概率較大,而這其中單身學(xué)習(xí)者的通過(guò)率更差一些,已婚學(xué)習(xí)者中男性比女性通過(guò)率又弱一點(diǎn)。這或許與我們主觀認(rèn)知規(guī)律相悖,但實(shí)際上可能與家庭責(zé)任與個(gè)人自律性等社會(huì)現(xiàn)象有關(guān),具體原因不在本文研究范圍內(nèi)。

    根據(jù)以上結(jié)果評(píng)價(jià),本研究所構(gòu)建的預(yù)測(cè)模型在對(duì)某一門課程的學(xué)習(xí)結(jié)果準(zhǔn)確性和解釋性上初步獲得令人滿意的效果。

    (三)預(yù)測(cè)模型隨時(shí)間變化的驗(yàn)證

    基于學(xué)習(xí)者交互行為時(shí)間序列來(lái)建立預(yù)測(cè)模型,一個(gè)重要的目的就是希望此模型可以在學(xué)習(xí)周期的任何階段都能實(shí)時(shí)預(yù)測(cè)學(xué)習(xí)者的學(xué)習(xí)結(jié)果,供教學(xué)人員實(shí)施及時(shí)干預(yù)。為驗(yàn)證模型隨時(shí)間變化的準(zhǔn)確度,本文從所在學(xué)院篩選出與之前實(shí)驗(yàn)數(shù)據(jù)中不同批次修讀管理學(xué)課程的學(xué)習(xí)者,沿用第3節(jié)的數(shù)據(jù)準(zhǔn)備方式,對(duì)學(xué)習(xí)者進(jìn)行以周為單位的交互行為數(shù)據(jù)采集和整合,并將得到的特征變量作為測(cè)試數(shù)據(jù)。將這些數(shù)據(jù)按照時(shí)間節(jié)點(diǎn)分別引入前文所生成的預(yù)測(cè)模型中進(jìn)行驗(yàn)證,得到的準(zhǔn)確度表達(dá)如圖2所示。

    圖2給出了在本輪驗(yàn)證過(guò)程中訓(xùn)練集和測(cè)試集學(xué)習(xí)者考試結(jié)果預(yù)測(cè)準(zhǔn)確度隨時(shí)間變化的趨勢(shì)。在教學(xué)周開始的第4周左右,對(duì)兩個(gè)數(shù)據(jù)集的預(yù)測(cè)準(zhǔn)確度均較快提升到較高水平,證明本文預(yù)測(cè)模型隨時(shí)間積累,較快地具備早期預(yù)警的能力,在教學(xué)周期的絕大部分時(shí)間的預(yù)測(cè)準(zhǔn)確度表現(xiàn)均較為良好。

    為更好地理解時(shí)間變化給預(yù)測(cè)準(zhǔn)確度帶來(lái)的影響,本文繪制了測(cè)試集結(jié)果的混淆矩陣的變化趨勢(shì)(如圖3所示)。混淆矩陣由四個(gè)值組成:真陽(yáng)性、假陽(yáng)性、真陰性和假陰性。與本文所做分析研究對(duì)應(yīng),我們關(guān)注以下幾個(gè)數(shù)據(jù)對(duì)象:預(yù)測(cè)課程通過(guò)且確實(shí)通過(guò)的學(xué)習(xí)者(真陽(yáng)性)、預(yù)測(cè)通過(guò)但未通過(guò)的學(xué)習(xí)者(假陽(yáng)性)、預(yù)測(cè)未通過(guò)且確實(shí)未通過(guò)的學(xué)習(xí)者(真陰性)。對(duì)預(yù)測(cè)未通過(guò)但實(shí)際通過(guò)的(假陰性)學(xué)習(xí)者,由于對(duì)其實(shí)際課程通過(guò)與否沒有產(chǎn)生負(fù)面影響,因而忽略。

    從圖3可以觀察到,在教學(xué)周期的第四周之后,矩陣各分類數(shù)值趨向于各自穩(wěn)定水平,這與預(yù)測(cè)模型對(duì)測(cè)試集的準(zhǔn)確度驗(yàn)證規(guī)律相吻合。同時(shí),假陽(yáng)性數(shù)值,也就是預(yù)測(cè)學(xué)習(xí)者通過(guò)而實(shí)際未通過(guò)的人數(shù),很快下降到一個(gè)較低的水平,證明了本文模型對(duì)需要預(yù)警的學(xué)習(xí)者疏漏的概率不高,且對(duì)時(shí)間變化較敏感,表明本文模型隨時(shí)間積累的性能提升較好。

    (四)本文預(yù)測(cè)模型與其他預(yù)測(cè)模型的比較

    本文預(yù)測(cè)模型的分析對(duì)象是基于時(shí)間序列的平臺(tái)交互行為,探討的是學(xué)習(xí)者在時(shí)間跨度中學(xué)習(xí)行為隨時(shí)間序列前后關(guān)聯(lián)帶來(lái)的結(jié)果影響。這種動(dòng)態(tài)的對(duì)學(xué)習(xí)交互行為時(shí)間關(guān)聯(lián)性的研究,是區(qū)別于其他學(xué)習(xí)分析預(yù)測(cè)模型的主要特點(diǎn)。在此前的相關(guān)研究中,使用邏輯回歸算法建立過(guò)預(yù)測(cè)模型,其優(yōu)點(diǎn)是簡(jiǎn)單、直觀且便于解釋,但不擅長(zhǎng)處理大量特征變量的復(fù)雜數(shù)據(jù)挖掘問(wèn)題。因此,本文研究中眾多的時(shí)間序列特征變量并不適宜使用線性、邏輯回歸算法來(lái)處理。為比較兩種算法的效果差異,本文將延續(xù)此前研究中使用過(guò)的邏輯回歸預(yù)測(cè)模型,并在回歸模型中使用簡(jiǎn)化的學(xué)習(xí)交互行為特征變量,使用同一測(cè)試集數(shù)據(jù)來(lái)比較兩種算法模型的差異性。

    本文為用于比較的邏輯回歸算法預(yù)測(cè)模型,選擇了與時(shí)間序列交互行為決策樹算法預(yù)測(cè)模型同樣的傾向特征變量,在行為特征變量方面也選取了同樣的特征對(duì)象,但簡(jiǎn)化了特征對(duì)象的變量容量以達(dá)成回歸算法的適應(yīng)性,同時(shí)盡可能模擬與本文決策樹算法類似的分析效果。具體變量的選擇如表3所示。

    為確保模型比較的準(zhǔn)確性,在用于對(duì)比的邏輯回歸預(yù)測(cè)模型中本文使用前文同樣批次的學(xué)習(xí)者數(shù)據(jù)集,并繼續(xù)以每個(gè)教學(xué)周作為周期采集測(cè)試集數(shù)據(jù),繼而使用驗(yàn)證集進(jìn)行預(yù)測(cè)結(jié)果檢驗(yàn)。兩種模型的預(yù)測(cè)準(zhǔn)確度隨時(shí)間變化的比較如圖4所示。

    從圖4可以看出,此前研究中所采用的邏輯回歸預(yù)測(cè)模型,在只采集階段性交互行為數(shù)據(jù)的特征變量情況下早期的預(yù)測(cè)準(zhǔn)確度并不十分理想,隨著教學(xué)時(shí)間的推移,學(xué)習(xí)者交互行為數(shù)據(jù)積累增多之后,其預(yù)測(cè)準(zhǔn)確性會(huì)得到提高,在教學(xué)周期接近結(jié)束時(shí)也能達(dá)到較高的預(yù)測(cè)準(zhǔn)確度,這與此前的研究結(jié)果是相符的。相比之下,本文基于時(shí)間序列的行為交互預(yù)測(cè)模型在教學(xué)周期的早期就能達(dá)到較好的準(zhǔn)確度,從而具備早期預(yù)警的能力,這對(duì)于大規(guī)模在線教學(xué)平臺(tái)來(lái)說(shuō)具有較強(qiáng)的實(shí)際應(yīng)用價(jià)值。

    五、結(jié)語(yǔ)

    目前,利用機(jī)器學(xué)習(xí)建立預(yù)測(cè)模型的研究和應(yīng)用已經(jīng)較為普遍,但基于時(shí)間序列考查學(xué)生交互行為相互關(guān)聯(lián)的預(yù)測(cè)模型研究仍較少,跨越平臺(tái)和教學(xué)環(huán)境的數(shù)據(jù)驅(qū)動(dòng)預(yù)測(cè)建模仍然大有潛力。本文的研究正是在對(duì)學(xué)習(xí)者與平臺(tái)資源交互行為的基礎(chǔ)上,創(chuàng)建時(shí)間序列前后關(guān)系的特征變量,建立機(jī)器學(xué)習(xí)預(yù)測(cè)模型,并驗(yàn)證隨時(shí)間推移的模型準(zhǔn)確性和應(yīng)用價(jià)值。通過(guò)數(shù)據(jù)驗(yàn)證和與一般的回歸預(yù)測(cè)模型比較可以得到,該模型具有較好的準(zhǔn)確度(分類準(zhǔn)確率94%以上,kappa一致性0.8以上),并且具有相對(duì)良好的解釋性。在進(jìn)一步對(duì)模型隨時(shí)間變化的性能檢測(cè)中,本決策樹模型在教學(xué)周期的早期就能形成較高準(zhǔn)確度,真陽(yáng)性和假陽(yáng)性分類較快地穩(wěn)定到對(duì)應(yīng)的高和低水平,與此前研究的預(yù)測(cè)模型相比有一定早期和動(dòng)態(tài)預(yù)測(cè)優(yōu)勢(shì),達(dá)成了本研究對(duì)模型設(shè)計(jì)的目標(biāo)。

    本研究尚有許多值得改進(jìn)的方面。首先,由于機(jī)器學(xué)習(xí)的算法性質(zhì),對(duì)于決策樹分類器對(duì)數(shù)據(jù)集特征變量的選擇沒有進(jìn)行干預(yù),因此可能只選擇了與預(yù)測(cè)結(jié)果強(qiáng)烈相關(guān)的特征變量形成模型,而忽略了不同變量對(duì)預(yù)測(cè)能力影響的比較。此外,該模型的通用性在同一教學(xué)環(huán)境中有較好表現(xiàn),但如果課程的教學(xué)模式和資源組成有較大變化,就會(huì)對(duì)模型穩(wěn)定性形成挑戰(zhàn)。這需要后續(xù)研究對(duì)不同課程進(jìn)行分類和概括,形成若干穩(wěn)定的預(yù)測(cè)模型模式,以應(yīng)對(duì)不同特征的課程結(jié)構(gòu)。同時(shí),該機(jī)器學(xué)習(xí)模型對(duì)于傳統(tǒng)教學(xué)領(lǐng)域小規(guī)模線下課程的適用性及其性能效果也是未來(lái)需要探討的內(nèi)容。

    [參考文獻(xiàn)]

    陳子健,朱曉亮. 2017. 基于教育數(shù)據(jù)挖掘的在線學(xué)習(xí)者學(xué)業(yè)成績(jī)預(yù)測(cè)建模研究[J]. 中國(guó)電化教育(12):75-81,89.

    馬杰,趙蔚,張潔. 2014. 基于學(xué)習(xí)分析技術(shù)的預(yù)測(cè)模型構(gòu)建與實(shí)證研究[J]. 現(xiàn)代教育技術(shù)(11):32-40.

    孫力,程玉霞. 2015. 大數(shù)據(jù)時(shí)代網(wǎng)絡(luò)教育學(xué)習(xí)成績(jī)預(yù)測(cè)的研究與實(shí)現(xiàn)——以本科公共課程統(tǒng)考英語(yǔ)為例[J]. 開放教育研究(3):74-80.

    王改花,傅鋼善. 2019. 網(wǎng)絡(luò)學(xué)習(xí)行為與成績(jī)的預(yù)測(cè)及學(xué)習(xí)干預(yù)模型的設(shè)計(jì)[J]. 中國(guó)遠(yuǎn)程教育(2):39-48.

    王亮. 2015. 學(xué)習(xí)分析技術(shù)建立學(xué)習(xí)預(yù)測(cè)模型[J]. 實(shí)驗(yàn)室研究與探索 (1):215-218,246.

    肖巍,倪傳斌,李銳. 2018. 國(guó)外基于數(shù)據(jù)挖掘的學(xué)習(xí)預(yù)警研究:回顧與展望[J]. 中國(guó)遠(yuǎn)程教育(2):70-78.

    Adlin, T., & Pruitt, J. (2010). The Essential Persona Lifecycle: Your Guide to Building and Using Personas. Morgan Kaufmann Publishers, Burlington, MA, USA.

    Anderson, J. R. (1993). Rules of the mind. Cognitive Processes, 320.

    Arnold, K. E., & Pistilli, M. D. (2012). Course signals at Purdue: using learning analytics to increase student success (pp.267-270). Learning Analytics and Knowledge Conference, Vancouver, British Columbia, ACM.

    Barber, R., & Sharkey, M. (2012). Course correction: using analytics to predict course success. Learning Analytics and Knowledge Conference, Vancouver, British Columbia, ACM.

    Brooks, C., Thompson, C., & Teasley, S. (2015). A time series interaction analysis method for building predictive models of learners using log data. [ACM Press the Fifth International Conference - Poughkeepsie, New York] Proceedings of the Fifth International Conference on Learning Analytics And Knowledge - LAK, 126-135.

    Bull, S., Greer, J., McCalla, G., Kettel, L., & Bowes, J. (2001). User modelling in i-help: What, why, when and how. In User Modeling (pp.117-126). Springer.

    Garman, G. (2010). A Logistic Approach to Predicting Student Success in Online Database Courses. American Journal of Business Education, 3(12), 1-5.

    Gergen, K. J. (1985). The social constructionist movement in modern psychology. American psychologist, 40(3), 266.

    Graesser, A. C., Chipman, P., Haynes, B. C., & Olney, A. (2005). Autotutor: An intelligent tutoring system with mixed-initiative dialogue. Education, IEEE Transactions on, 48(4), 612-618.

    Jayaprakash, S. M., Moody, E. W., Lauría, E. J., Regan, J. R., & Baron, J. D.(2014). Early alert of academically at-risk students: An open source analytics initiative. Journal of Learning Analytics, 1(1), 6-47.

    Lauría, E. J. M., Moody, E. W., Jayaprakash, S. M., Jonnalagadda, N., & Baron, J. D. (2013). Open academic analytics initiative: initial research findings (pp.150-154). Learning Analytics and Knowledge Conference, Leuven, Belgium, ACM.

    Martin, B. (1999). Constraint-based modelling: Representing student knowledge. New Zealand Journal of Computing, 7(2), 30-38.

    Moore, R. (2007). Do Students Performances and Behaviors in Supporting Courses Predict Their Performances and Behaviors in Primary Courses? Research and Teaching in Developmental Education, 23(2), 38-48.

    Ohlsson, S. (1996). Learning from performance errors. Psychological Review, 103(2), 241-262.

    收稿日期:2020-03-09

    定稿日期:2020-06-03

    作者簡(jiǎn)介:王亮,碩士,實(shí)驗(yàn)師,南開大學(xué)現(xiàn)代遠(yuǎn)程教育學(xué)院(300071)。

    責(zé)任編輯 韓世梅

    猜你喜歡
    準(zhǔn)確度學(xué)習(xí)者變量
    抓住不變量解題
    也談分離變量
    你是哪種類型的學(xué)習(xí)者
    十二星座是什么類型的學(xué)習(xí)者
    幕墻用掛件安裝準(zhǔn)確度控制技術(shù)
    漢語(yǔ)學(xué)習(xí)自主學(xué)習(xí)者特征初探
    動(dòng)態(tài)汽車衡準(zhǔn)確度等級(jí)的現(xiàn)實(shí)意義
    SL(3,3n)和SU(3,3n)的第一Cartan不變量
    分離變量法:常見的通性通法
    高爐重量布料準(zhǔn)確度的提高
    久久精品熟女亚洲av麻豆精品| 国产xxxxx性猛交| 国产亚洲精品久久久久5区| 三上悠亚av全集在线观看| 免费人妻精品一区二区三区视频| 妹子高潮喷水视频| 各种免费的搞黄视频| 免费观看av网站的网址| 麻豆乱淫一区二区| 黄片播放在线免费| 母亲3免费完整高清在线观看| 99久久人妻综合| 免费一级毛片在线播放高清视频 | 青春草视频在线免费观看| 男女高潮啪啪啪动态图| 国产成人精品久久二区二区91| 啦啦啦啦在线视频资源| 久久精品久久精品一区二区三区| 香蕉国产在线看| 老汉色av国产亚洲站长工具| 欧美日韩黄片免| 50天的宝宝边吃奶边哭怎么回事| 一级毛片黄色毛片免费观看视频| 999久久久国产精品视频| 人妻人人澡人人爽人人| 69精品国产乱码久久久| 国产又色又爽无遮挡免| 亚洲欧美中文字幕日韩二区| www.精华液| 一级,二级,三级黄色视频| 亚洲人成网站在线观看播放| 久久久久久久大尺度免费视频| 欧美日韩视频高清一区二区三区二| 操出白浆在线播放| 久久国产精品大桥未久av| 亚洲五月婷婷丁香| 日韩av不卡免费在线播放| 欧美日韩精品网址| 日韩人妻精品一区2区三区| 免费在线观看影片大全网站 | 国产国语露脸激情在线看| 国产高清视频在线播放一区 | 人人妻人人爽人人添夜夜欢视频| 亚洲精品国产色婷婷电影| 精品少妇黑人巨大在线播放| 国产精品一二三区在线看| 国产日韩一区二区三区精品不卡| 免费女性裸体啪啪无遮挡网站| 美女扒开内裤让男人捅视频| 欧美黑人精品巨大| www日本在线高清视频| 真人做人爱边吃奶动态| 18禁黄网站禁片午夜丰满| 久久国产精品大桥未久av| 女人被躁到高潮嗷嗷叫费观| 久久久久视频综合| 90打野战视频偷拍视频| 在线观看一区二区三区激情| 国产老妇伦熟女老妇高清| 久久 成人 亚洲| 一边亲一边摸免费视频| 最新的欧美精品一区二区| 国产亚洲精品久久久久5区| 午夜福利,免费看| 波多野结衣av一区二区av| 每晚都被弄得嗷嗷叫到高潮| 男人爽女人下面视频在线观看| 国产亚洲午夜精品一区二区久久| 欧美日韩福利视频一区二区| 亚洲精品日韩在线中文字幕| 黄频高清免费视频| 久久精品熟女亚洲av麻豆精品| 丰满饥渴人妻一区二区三| 国产成人a∨麻豆精品| 欧美国产精品一级二级三级| 日韩中文字幕视频在线看片| 一区二区av电影网| 亚洲欧美精品自产自拍| 亚洲,欧美精品.| 国产xxxxx性猛交| 天天影视国产精品| 久久狼人影院| 欧美+亚洲+日韩+国产| 热re99久久精品国产66热6| 国产精品久久久久成人av| av一本久久久久| 大片电影免费在线观看免费| 菩萨蛮人人尽说江南好唐韦庄| 欧美精品人与动牲交sv欧美| 岛国毛片在线播放| 国产一区二区激情短视频 | 人妻人人澡人人爽人人| √禁漫天堂资源中文www| 日本wwww免费看| 久久久亚洲精品成人影院| 亚洲av电影在线进入| 久久亚洲精品不卡| 999精品在线视频| 国产av国产精品国产| 国产精品成人在线| 久久久亚洲精品成人影院| 91精品三级在线观看| 亚洲视频免费观看视频| 精品亚洲乱码少妇综合久久| 一区二区三区激情视频| 大片免费播放器 马上看| 欧美精品av麻豆av| e午夜精品久久久久久久| 大话2 男鬼变身卡| 男女之事视频高清在线观看 | 欧美亚洲日本最大视频资源| 久久 成人 亚洲| 欧美中文综合在线视频| 欧美精品一区二区免费开放| 人人妻人人澡人人爽人人夜夜| 午夜免费男女啪啪视频观看| 韩国精品一区二区三区| 九色亚洲精品在线播放| 国产精品一区二区在线不卡| 日韩中文字幕视频在线看片| 婷婷色综合大香蕉| 亚洲欧美精品自产自拍| 国产有黄有色有爽视频| 欧美 亚洲 国产 日韩一| 人人澡人人妻人| 国产97色在线日韩免费| 久久久久久久久久久久大奶| 肉色欧美久久久久久久蜜桃| 亚洲av日韩精品久久久久久密 | 午夜福利免费观看在线| 久久精品aⅴ一区二区三区四区| 99久久人妻综合| 亚洲国产av影院在线观看| 大香蕉久久成人网| 久久久久国产一级毛片高清牌| 制服诱惑二区| 久久人妻福利社区极品人妻图片 | 精品国产乱码久久久久久小说| 国产成人av教育| 亚洲五月婷婷丁香| 男的添女的下面高潮视频| 一级片免费观看大全| 欧美激情高清一区二区三区| 国产在线免费精品| 久久久久精品人妻al黑| 男人舔女人的私密视频| 国产精品熟女久久久久浪| 亚洲中文日韩欧美视频| 久久综合国产亚洲精品| 搡老乐熟女国产| 国产精品 欧美亚洲| 精品久久蜜臀av无| 国产成人欧美在线观看 | 中文字幕人妻丝袜一区二区| 国产真人三级小视频在线观看| 十八禁高潮呻吟视频| 中文字幕制服av| 狂野欧美激情性bbbbbb| 秋霞在线观看毛片| 精品久久久精品久久久| 国产免费一区二区三区四区乱码| 久久青草综合色| 亚洲欧美日韩高清在线视频 | 精品少妇一区二区三区视频日本电影| 99国产精品99久久久久| 欧美国产精品一级二级三级| 国产成人啪精品午夜网站| 国产成人啪精品午夜网站| 亚洲av男天堂| 亚洲美女黄色视频免费看| 国产一区二区激情短视频 | 免费高清在线观看视频在线观看| 日韩av不卡免费在线播放| 精品熟女少妇八av免费久了| 视频在线观看一区二区三区| 久久久久久久久久久久大奶| 亚洲欧美精品自产自拍| 人成视频在线观看免费观看| 午夜福利,免费看| 亚洲成人国产一区在线观看 | 99香蕉大伊视频| 女警被强在线播放| 午夜老司机福利片| 最新的欧美精品一区二区| 精品国产乱码久久久久久男人| 亚洲第一青青草原| 涩涩av久久男人的天堂| 亚洲专区国产一区二区| 免费在线观看视频国产中文字幕亚洲 | 亚洲情色 制服丝袜| 欧美国产精品一级二级三级| 久久综合国产亚洲精品| 亚洲精品久久午夜乱码| 精品国产国语对白av| 亚洲欧美一区二区三区久久| 人妻人人澡人人爽人人| a级毛片黄视频| 女性被躁到高潮视频| 日韩 亚洲 欧美在线| a 毛片基地| 九色亚洲精品在线播放| 欧美人与性动交α欧美软件| 九色亚洲精品在线播放| 啦啦啦啦在线视频资源| 欧美日韩亚洲高清精品| 亚洲国产成人一精品久久久| 亚洲欧美色中文字幕在线| 午夜福利,免费看| 亚洲,欧美精品.| 看免费成人av毛片| 夫妻性生交免费视频一级片| 日本午夜av视频| 国产成人啪精品午夜网站| 中文字幕高清在线视频| 建设人人有责人人尽责人人享有的| 男人添女人高潮全过程视频| 久久精品熟女亚洲av麻豆精品| 18禁国产床啪视频网站| 国产主播在线观看一区二区 | 嫁个100分男人电影在线观看 | 人人妻人人澡人人爽人人夜夜| 成年动漫av网址| 欧美激情极品国产一区二区三区| 中文字幕人妻丝袜制服| 欧美日韩一级在线毛片| 一级片'在线观看视频| 2021少妇久久久久久久久久久| 另类精品久久| 精品亚洲成a人片在线观看| 国产精品国产av在线观看| 久久天堂一区二区三区四区| 国产午夜精品一二区理论片| 国产在线视频一区二区| 国产亚洲精品久久久久5区| 国产精品国产三级专区第一集| 亚洲欧美成人综合另类久久久| 精品久久蜜臀av无| 亚洲欧洲精品一区二区精品久久久| 国产精品免费大片| 国产日韩一区二区三区精品不卡| 国产男女内射视频| 大码成人一级视频| 中国国产av一级| 久久久久久久精品精品| 色视频在线一区二区三区| 亚洲欧美一区二区三区久久| 丝袜脚勾引网站| 亚洲五月色婷婷综合| 自线自在国产av| 中国国产av一级| 国产成人91sexporn| 桃花免费在线播放| 国产成人啪精品午夜网站| 日本av手机在线免费观看| 亚洲av片天天在线观看| 久久久久国产一级毛片高清牌| 两人在一起打扑克的视频| 熟女少妇亚洲综合色aaa.| 国产精品一国产av| 欧美精品人与动牲交sv欧美| 国产免费福利视频在线观看| 免费人妻精品一区二区三区视频| 操出白浆在线播放| 一本—道久久a久久精品蜜桃钙片| 国产日韩一区二区三区精品不卡| 只有这里有精品99| 在线观看免费午夜福利视频| 国产精品亚洲av一区麻豆| 久久精品久久精品一区二区三区| 日韩免费高清中文字幕av| 国产精品久久久久久精品古装| 欧美+亚洲+日韩+国产| 精品亚洲成a人片在线观看| 亚洲成人国产一区在线观看 | 性色av一级| 午夜两性在线视频| 久久久久久免费高清国产稀缺| 久热爱精品视频在线9| 精品卡一卡二卡四卡免费| 亚洲精品国产av成人精品| 热re99久久精品国产66热6| 亚洲情色 制服丝袜| 久久精品久久精品一区二区三区| 美女国产高潮福利片在线看| 亚洲三区欧美一区| av在线app专区| 在线观看免费视频网站a站| 尾随美女入室| 国产成人精品无人区| 观看av在线不卡| 久久九九热精品免费| 一级毛片 在线播放| 国产精品免费大片| 黄色怎么调成土黄色| 国产精品一区二区精品视频观看| 国产免费一区二区三区四区乱码| 人妻人人澡人人爽人人| 97精品久久久久久久久久精品| 亚洲专区中文字幕在线| 欧美97在线视频| 丝袜美腿诱惑在线| 久久天躁狠狠躁夜夜2o2o | 久久精品久久精品一区二区三区| a级毛片黄视频| 久久精品久久久久久久性| videos熟女内射| 欧美激情极品国产一区二区三区| 啦啦啦 在线观看视频| 精品人妻熟女毛片av久久网站| 成年人免费黄色播放视频| 亚洲成av片中文字幕在线观看| 天堂中文最新版在线下载| 久久精品久久久久久噜噜老黄| 欧美大码av| 国产精品99久久99久久久不卡| av线在线观看网站| 人人妻人人爽人人添夜夜欢视频| 一级毛片黄色毛片免费观看视频| 免费看十八禁软件| 亚洲av成人精品一二三区| 婷婷色综合大香蕉| 国产午夜精品一二区理论片| 亚洲精品美女久久av网站| 日本黄色日本黄色录像| 日韩熟女老妇一区二区性免费视频| 成人免费观看视频高清| 久久精品成人免费网站| 超色免费av| 亚洲美女黄色视频免费看| 国产成人啪精品午夜网站| 欧美人与性动交α欧美软件| 久久久久久人人人人人| 久久亚洲精品不卡| 视频区欧美日本亚洲| 欧美日韩成人在线一区二区| 国产男人的电影天堂91| 50天的宝宝边吃奶边哭怎么回事| 免费日韩欧美在线观看| 久久精品亚洲熟妇少妇任你| 水蜜桃什么品种好| 在线观看免费视频网站a站| 欧美xxⅹ黑人| 国产成人免费观看mmmm| 热re99久久国产66热| 青青草视频在线视频观看| 精品一区在线观看国产| 两个人看的免费小视频| 97精品久久久久久久久久精品| 午夜视频精品福利| www.999成人在线观看| 成人黄色视频免费在线看| 青青草视频在线视频观看| 国产精品免费视频内射| 男人舔女人的私密视频| 亚洲中文av在线| 国产亚洲精品第一综合不卡| 国产精品麻豆人妻色哟哟久久| 国产真人三级小视频在线观看| 99国产精品免费福利视频| 欧美变态另类bdsm刘玥| 国产亚洲欧美在线一区二区| 99久久精品国产亚洲精品| a 毛片基地| 在线精品无人区一区二区三| 美女大奶头黄色视频| 久久人人爽av亚洲精品天堂| 亚洲精品国产av成人精品| www.自偷自拍.com| 久久人妻福利社区极品人妻图片 | 人体艺术视频欧美日本| 一级片'在线观看视频| 手机成人av网站| 欧美97在线视频| 国产黄色免费在线视频| 国产成人啪精品午夜网站| 97人妻天天添夜夜摸| 人人妻,人人澡人人爽秒播 | av网站免费在线观看视频| 中文精品一卡2卡3卡4更新| 欧美成人午夜精品| 亚洲欧美色中文字幕在线| 国产免费现黄频在线看| 中国美女看黄片| 夫妻午夜视频| 国语对白做爰xxxⅹ性视频网站| 午夜激情av网站| 天天躁狠狠躁夜夜躁狠狠躁| 大陆偷拍与自拍| 精品福利永久在线观看| 七月丁香在线播放| 美女福利国产在线| 久久久久网色| 精品人妻一区二区三区麻豆| 成在线人永久免费视频| 99精品久久久久人妻精品| 一边亲一边摸免费视频| 中文乱码字字幕精品一区二区三区| 热99久久久久精品小说推荐| 久久精品亚洲av国产电影网| 欧美少妇被猛烈插入视频| 一本大道久久a久久精品| 久久久久久久国产电影| 午夜福利在线免费观看网站| 91国产中文字幕| 久久久精品国产亚洲av高清涩受| 色播在线永久视频| 亚洲熟女毛片儿| 亚洲精品一卡2卡三卡4卡5卡 | 国产亚洲精品久久久久5区| 久久久久视频综合| 一边摸一边做爽爽视频免费| 久久av网站| 黄色片一级片一级黄色片| 99九九在线精品视频| 涩涩av久久男人的天堂| 人成视频在线观看免费观看| 黄片播放在线免费| 欧美成人精品欧美一级黄| 中文字幕人妻丝袜一区二区| 精品少妇内射三级| 91精品伊人久久大香线蕉| 久久久精品区二区三区| 久久久欧美国产精品| 亚洲人成电影观看| 嫁个100分男人电影在线观看 | 欧美少妇被猛烈插入视频| 亚洲欧美中文字幕日韩二区| 国产午夜精品一二区理论片| 丝袜人妻中文字幕| 亚洲欧美日韩高清在线视频 | 日韩欧美一区视频在线观看| 亚洲天堂av无毛| 91精品国产国语对白视频| 人人妻,人人澡人人爽秒播 | 亚洲激情五月婷婷啪啪| 男女高潮啪啪啪动态图| 国产高清视频在线播放一区 | 精品亚洲成a人片在线观看| 美女高潮到喷水免费观看| 观看av在线不卡| 黄色a级毛片大全视频| 国产又爽黄色视频| www.av在线官网国产| 啦啦啦 在线观看视频| 久久av网站| 91九色精品人成在线观看| 老司机深夜福利视频在线观看 | a级毛片黄视频| 欧美日本中文国产一区发布| 最近中文字幕2019免费版| 国产精品秋霞免费鲁丝片| 人人妻人人添人人爽欧美一区卜| 久久青草综合色| 久久国产精品男人的天堂亚洲| 最近最新中文字幕大全免费视频 | 丝袜人妻中文字幕| 人人澡人人妻人| 男人舔女人的私密视频| 丝袜美腿诱惑在线| 成人影院久久| 一级毛片女人18水好多 | 亚洲五月婷婷丁香| 亚洲欧美一区二区三区久久| 宅男免费午夜| 一级片'在线观看视频| 亚洲欧美中文字幕日韩二区| 亚洲欧美精品综合一区二区三区| 国产亚洲欧美在线一区二区| 欧美亚洲 丝袜 人妻 在线| 中文乱码字字幕精品一区二区三区| 亚洲av电影在线进入| 国产激情久久老熟女| 日韩制服丝袜自拍偷拍| 纵有疾风起免费观看全集完整版| 色播在线永久视频| 国产成人一区二区在线| 日本午夜av视频| 97精品久久久久久久久久精品| 国产精品av久久久久免费| 欧美久久黑人一区二区| 国产深夜福利视频在线观看| 18禁裸乳无遮挡动漫免费视频| 亚洲专区中文字幕在线| 国产女主播在线喷水免费视频网站| 搡老乐熟女国产| 久久狼人影院| 中文字幕人妻熟女乱码| 久久久精品区二区三区| 中国美女看黄片| 我要看黄色一级片免费的| 国产精品 国内视频| 国产1区2区3区精品| 亚洲,欧美,日韩| 成年女人毛片免费观看观看9 | 极品人妻少妇av视频| 亚洲三区欧美一区| 亚洲精品国产av蜜桃| 国产成人系列免费观看| 一区二区日韩欧美中文字幕| cao死你这个sao货| a级毛片在线看网站| 一本色道久久久久久精品综合| 在线观看免费高清a一片| 国产精品久久久久久精品古装| 两个人免费观看高清视频| 伊人久久大香线蕉亚洲五| 岛国毛片在线播放| 后天国语完整版免费观看| 麻豆国产av国片精品| 国产男女内射视频| 亚洲欧美日韩另类电影网站| 欧美97在线视频| 国产精品一区二区在线观看99| 日韩制服骚丝袜av| 亚洲国产欧美一区二区综合| 一级片'在线观看视频| 少妇精品久久久久久久| 观看av在线不卡| 亚洲成国产人片在线观看| 成年av动漫网址| 免费观看人在逋| 亚洲国产av新网站| 天堂俺去俺来也www色官网| 亚洲成人免费电影在线观看 | 人人妻人人爽人人添夜夜欢视频| 亚洲av成人不卡在线观看播放网 | 亚洲国产av影院在线观看| 国产高清视频在线播放一区 | 日韩中文字幕视频在线看片| 亚洲精品一卡2卡三卡4卡5卡 | 久久国产精品大桥未久av| 午夜免费鲁丝| 欧美黄色片欧美黄色片| 在线观看国产h片| 无限看片的www在线观看| 久久精品人人爽人人爽视色| 青青草视频在线视频观看| 美女午夜性视频免费| 男人操女人黄网站| 欧美日韩亚洲国产一区二区在线观看 | 国产男女超爽视频在线观看| 两性夫妻黄色片| 国产成人影院久久av| 每晚都被弄得嗷嗷叫到高潮| 看十八女毛片水多多多| 女性被躁到高潮视频| 精品人妻在线不人妻| 宅男免费午夜| 如日韩欧美国产精品一区二区三区| 午夜日韩欧美国产| 国产日韩欧美在线精品| 亚洲精品久久久久久婷婷小说| 亚洲av国产av综合av卡| 久久人人爽av亚洲精品天堂| 9191精品国产免费久久| 巨乳人妻的诱惑在线观看| 免费在线观看完整版高清| 成年人黄色毛片网站| 国语对白做爰xxxⅹ性视频网站| 51午夜福利影视在线观看| 国产成人免费无遮挡视频| 国产av精品麻豆| 国产成人欧美在线观看 | 国产一区亚洲一区在线观看| 午夜视频精品福利| 99热国产这里只有精品6| 伊人久久大香线蕉亚洲五| 国产精品亚洲av一区麻豆| 日韩电影二区| 50天的宝宝边吃奶边哭怎么回事| 日韩熟女老妇一区二区性免费视频| 一本综合久久免费| 男女下面插进去视频免费观看| 亚洲欧美清纯卡通| 欧美精品人与动牲交sv欧美| 少妇 在线观看| 后天国语完整版免费观看| 嫩草影视91久久| 国产成人91sexporn| 日韩电影二区| 国产精品一区二区免费欧美 | 欧美精品人与动牲交sv欧美| 亚洲五月色婷婷综合| 午夜av观看不卡| 午夜日韩欧美国产| 51午夜福利影视在线观看| 50天的宝宝边吃奶边哭怎么回事| 亚洲国产日韩一区二区| 欧美精品av麻豆av| 中文字幕人妻丝袜一区二区| 国产精品 欧美亚洲| 人妻一区二区av| 久久久久精品国产欧美久久久 | 大香蕉久久网| 亚洲精品乱久久久久久| 亚洲图色成人| 国产高清不卡午夜福利| 国语对白做爰xxxⅹ性视频网站| 一区福利在线观看| svipshipincom国产片| 国产成人系列免费观看| 伦理电影免费视频| av在线app专区| 国产成人免费观看mmmm| 性色av一级| 欧美日韩视频精品一区| 我要看黄色一级片免费的| 深夜精品福利| 首页视频小说图片口味搜索 | 黑人猛操日本美女一级片| 亚洲欧美精品综合一区二区三区| 午夜福利免费观看在线| 热re99久久国产66热| 亚洲第一青青草原| 9色porny在线观看|