• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    量化民族志:一種融合定性與定量的教育研究方法

    2021-05-07 15:40吳忭彭曉玲
    關(guān)鍵詞:專長

    吳忭 彭曉玲

    摘要:數(shù)據(jù)驅(qū)動(dòng)的教育研究范式轉(zhuǎn)型使得質(zhì)性研究與量化研究間的鴻溝日益加深。作為一種融合定性與定量分析的新興教育研究方法,量化民族志有助于構(gòu)建兩種研究范式間的橋梁,從而更好地探究教育境脈中數(shù)據(jù)背后的深層含義。該方法的提出緣于對(duì)體現(xiàn)專長的認(rèn)知框架進(jìn)行建模的需要,融合了民族志、會(huì)話分析、統(tǒng)計(jì)學(xué)、數(shù)據(jù)挖掘等方法和技術(shù),通過分析真實(shí)場(chǎng)域中學(xué)習(xí)者的言行舉止實(shí)現(xiàn)對(duì)其認(rèn)知框架的深描。其實(shí)質(zhì)是構(gòu)建由理論層面的意義和實(shí)證層面的數(shù)據(jù)所構(gòu)成的實(shí)證研究閉環(huán),以消解質(zhì)性研究偏于主觀、量化研究偏于表面的不足,并建立起兩種研究話語間的聯(lián)系。量化民族志注重構(gòu)建“境脈中的理論”和實(shí)現(xiàn)“理論飽和”,并提供了半自動(dòng)編碼軟件nCoder和認(rèn)知網(wǎng)絡(luò)分析兩種研究工具,以確保建模結(jié)果的可靠性和可解釋性。該方法主要被用于學(xué)科教學(xué)和跨學(xué)科學(xué)習(xí)中的高階能力評(píng)估,其應(yīng)用場(chǎng)景呈現(xiàn)出多學(xué)科交叉和多模態(tài)數(shù)據(jù)整合的勢(shì)態(tài),其方法論體系也日趨完善。

    關(guān)鍵詞:量化民族志;教育研究方法;專長;認(rèn)知框架;認(rèn)知網(wǎng)絡(luò)分析

    中圖分類號(hào):G434? ?文獻(xiàn)標(biāo)識(shí)碼:A? ? 文章編號(hào):1009-5195(2021)02-0063-10? doi10.3969/j.issn.1009-5195.2021.02.007

    作者簡介:吳忭,博士,副教授,碩士生導(dǎo)師,華東師范大學(xué)教育信息技術(shù)學(xué)系(上海 200062);彭曉玲,碩士研究生,華東師范大學(xué)教育信息技術(shù)學(xué)系(上海 200062)。

    一、引言

    在數(shù)字化時(shí)代,質(zhì)性研究和量化研究、人文和科學(xué)、意義和數(shù)字的固有區(qū)分方式往往會(huì)限制我們所能提出的問題,甚至有時(shí)會(huì)導(dǎo)致我們接受浮于表面的答案(Shaffer,2017)。量化民族志(Quantitative Ethnography)作為一種融合定性與定量分析的新興教育研究方法,有助于研究者突破固有區(qū)分的藩籬,從而構(gòu)建起跨越質(zhì)性研究和量化研究鴻溝的橋梁。該研究方法由美國威斯康星大學(xué)麥迪遜分校戴維·謝弗(David Shaffer)教授提出,雖然國內(nèi)研究者對(duì)其相對(duì)陌生,但由該方法所衍生出的學(xué)習(xí)分析工具“認(rèn)知網(wǎng)絡(luò)分析”(Epistemic Network Analysis,ENA)已被越來越多的教育研究者熟悉和使用。然而,若僅掌握認(rèn)知網(wǎng)絡(luò)分析技術(shù)而對(duì)其內(nèi)在的量化民族志方法論思想不甚了解,就會(huì)導(dǎo)致在研究過程中知其然而不知其所以然。更為重要的是,大數(shù)據(jù)時(shí)代的到來引發(fā)了數(shù)據(jù)驅(qū)動(dòng)的研究范式轉(zhuǎn)型,這使得數(shù)據(jù)分析和數(shù)據(jù)理解能力對(duì)于教育研究者而言變得尤為重要。而量化民族志作為一種同時(shí)強(qiáng)調(diào)海量數(shù)據(jù)和扎根式研究的方法,其同樣適用于詮釋認(rèn)知網(wǎng)絡(luò)分析以外的其他大數(shù)據(jù)分析技術(shù)。

    量化民族志這一名稱中的“民族志”體現(xiàn)了該方法的研究對(duì)象是文化本身,對(duì)教育領(lǐng)域而言則是強(qiáng)調(diào)以社會(huì)文化視角來研究學(xué)習(xí)。文化是在將數(shù)據(jù)變?yōu)樾畔⒌倪^程中被賦予含義的,因此在將大數(shù)據(jù)轉(zhuǎn)變成深度理解的過程中,“量化”是為了能從浩如煙海的數(shù)據(jù)中挖掘出隱含的模式,而“民族志”才是確保大數(shù)據(jù)分析有意義的關(guān)鍵。為解釋該方法如何實(shí)現(xiàn)定性和定量分析的有機(jī)融合,本文從量化民族志的緣起、方法論和研究進(jìn)展三個(gè)層面出發(fā),回答量化民族志希望解決的問題是什么、試圖通過什么樣的方式解決以及該研究方法的應(yīng)用現(xiàn)狀和趨勢(shì)如何。在我國持續(xù)推進(jìn)教育實(shí)證研究的當(dāng)下,希望本文所引介的這種研究方法能帶給國內(nèi)學(xué)人在教育研究的數(shù)據(jù)和理解、定性和定量、理論和實(shí)證等關(guān)系上的新啟示。

    二、量化民族志的緣起:理解學(xué)習(xí)的本質(zhì)

    1.應(yīng)培養(yǎng)領(lǐng)域?qū)iL之需

    人是如何學(xué)習(xí)的?如何設(shè)計(jì)有效的學(xué)習(xí)環(huán)境以促進(jìn)學(xué)習(xí)?如何研究學(xué)習(xí)?這是學(xué)習(xí)科學(xué)試圖回答的三大核心問題,分別對(duì)應(yīng)于有關(guān)學(xué)習(xí)發(fā)生機(jī)制的描述性理論、學(xué)習(xí)環(huán)境創(chuàng)設(shè)的規(guī)范性理論以及學(xué)習(xí)科學(xué)研究的方法論創(chuàng)新(趙健等,2007)。受建構(gòu)主義、情境認(rèn)知、社會(huì)文化理論等學(xué)習(xí)觀的影響,有別于傳統(tǒng)認(rèn)知科學(xué)的實(shí)驗(yàn)研究,學(xué)習(xí)科學(xué)家致力于研究真實(shí)情境中的學(xué)習(xí),以更好地理解產(chǎn)生有效學(xué)習(xí)的個(gè)體認(rèn)知和社會(huì)交互過程,并注重對(duì)教育實(shí)踐產(chǎn)生實(shí)質(zhì)性影響(Sawyer,2005;焦建利等,2011)。其中,專長(Expertise)研究是從認(rèn)知科學(xué)一直延續(xù)到學(xué)習(xí)科學(xué)的一個(gè)重要領(lǐng)域,其指向的根本問題是學(xué)習(xí)者如何從領(lǐng)域新手成長為領(lǐng)域?qū)<?,以及如何培養(yǎng)其領(lǐng)域?qū)iL。

    傳統(tǒng)的專長研究主要聚焦于成人學(xué)習(xí)領(lǐng)域,如競(jìng)技體育、醫(yī)學(xué)教育、教師專業(yè)發(fā)展等。隨著社會(huì)愈發(fā)需要未來人才具備解決復(fù)雜問題的高階能力,學(xué)校教育特別是中小學(xué)教育開始探索將教育目標(biāo)由知識(shí)導(dǎo)向轉(zhuǎn)變?yōu)槟芰?dǎo)向,即培養(yǎng)學(xué)生具備領(lǐng)域?qū)<业乃季S方式和實(shí)踐能力,如信息素養(yǎng)、計(jì)算思維、科學(xué)探究能力、設(shè)計(jì)思維等(Chesler et al.,2015;秦瑾若等,2017)。然而,專長通常被認(rèn)為是隱含在特定文化境脈中的默會(huì)知識(shí),僅僅通過學(xué)習(xí)從情境中剝離出來的概念性知識(shí),或通過觀察學(xué)習(xí)專家的間接經(jīng)驗(yàn)則遠(yuǎn)遠(yuǎn)不夠。學(xué)習(xí)者需要參與到真實(shí)的專業(yè)實(shí)踐活動(dòng)中,在與學(xué)習(xí)環(huán)境、專家、同伴的互動(dòng)交流中,通過合法的邊緣性參與(Legitimate Peripheral Participation)實(shí)現(xiàn)專業(yè)成長(Lave et al.,1991;任英杰等,2012)??梢?,圍繞專業(yè)實(shí)踐活動(dòng)的學(xué)習(xí)設(shè)計(jì)以及對(duì)學(xué)生專業(yè)實(shí)踐表現(xiàn)中學(xué)習(xí)證據(jù)的識(shí)別和能力的評(píng)價(jià),均離不開對(duì)領(lǐng)域?qū)iL的理解。而不論是當(dāng)前學(xué)習(xí)科學(xué)領(lǐng)域?qū)W習(xí)設(shè)計(jì)和學(xué)習(xí)分析的聯(lián)姻(Lockyer et al.,2013),或是教育測(cè)評(píng)領(lǐng)域所提倡的基于證據(jù)的能力測(cè)評(píng)設(shè)計(jì)(Evidence-Centered Design)(Mislevy et al.,2003),都顯現(xiàn)出面向復(fù)雜問題的學(xué)習(xí)在本體論、認(rèn)識(shí)論和教學(xué)法等層面的理論缺失和建模需求,例如STEM課堂應(yīng)當(dāng)學(xué)什么、怎么教、如何評(píng)。這也預(yù)示著學(xué)習(xí)科學(xué)的三大核心問題之間存在緊密關(guān)聯(lián),尤其是在大數(shù)據(jù)時(shí)代,藉由方法論創(chuàng)新可以促進(jìn)對(duì)真實(shí)學(xué)習(xí)環(huán)境中學(xué)生專長發(fā)展的深度理解。

    2.解真實(shí)情境中專長建模之難

    傳統(tǒng)專長研究聚焦于學(xué)科知識(shí)結(jié)構(gòu)以及解決學(xué)科問題的認(rèn)知技能策略,通過采用認(rèn)知任務(wù)分析、出聲思維、圖示化表征等方法對(duì)專家的知識(shí)結(jié)構(gòu)特征進(jìn)行建模(Bransford et al.,1999),分析新手和專家在知識(shí)結(jié)構(gòu)和問題解決策略上的差異(李麗華等,2010),以及新手成長為專家的發(fā)展軌跡和模式(Lajoie,2003)。有學(xué)者指出,專長所涉及的領(lǐng)域知識(shí)和問題解決技能不是彼此獨(dú)立而是相互促進(jìn)的,即能夠通過回顧已知和建構(gòu)新知尋找問題的解決方案,而在解決問題過程中的反思實(shí)踐又能夠促進(jìn)知識(shí)的升華和知識(shí)結(jié)構(gòu)的更新(Wu et al.,2012)??梢?,在專長發(fā)展過程中,知識(shí)和技能的相互關(guān)聯(lián)才是關(guān)鍵。

    隨著對(duì)學(xué)習(xí)和專長的認(rèn)識(shí)從認(rèn)知層面拓展到社會(huì)文化層面,即重視特定文化境脈對(duì)專長發(fā)展的影響,研究者開始意識(shí)到專長與特定文化中的觀念態(tài)度、行為規(guī)范、符號(hào)制品等密切相關(guān),是超越知識(shí)技能維度的認(rèn)知框架(Epistemic Frame)的建立(Shaffer,2017)。例如,醫(yī)生的專長不僅指醫(yī)學(xué)專業(yè)知識(shí)和臨床技能,還包括對(duì)疾病和臨床診療的認(rèn)識(shí)(如對(duì)待“過度醫(yī)療”的看法)、對(duì)職業(yè)價(jià)值的理解(如對(duì)“救死扶傷”“尊重生命”的態(tài)度)以及專業(yè)實(shí)踐(如與病患間的有效溝通)等。類似地,在科技教育中也越來越重視除知識(shí)技能外,對(duì)學(xué)生的學(xué)科態(tài)度、認(rèn)識(shí)、素養(yǎng)和探究實(shí)踐能力的培養(yǎng)(Wu et al.,2019a)。然而,在個(gè)體的專長發(fā)展過程中,不僅知識(shí)和技能維度是相互影響、協(xié)同發(fā)展的,其他如認(rèn)識(shí)論、專業(yè)態(tài)度和專業(yè)實(shí)踐等維度,也是透過文化境脈中的耳濡目染和審慎練習(xí)(Deliberate Practice),才得以構(gòu)建起各維度間緊密聯(lián)系的認(rèn)知框架。

    為對(duì)體現(xiàn)專長特點(diǎn)和發(fā)展水平的認(rèn)知框架進(jìn)行建模,Shaffer(2017)創(chuàng)新性地提出了“量化民族志”的研究方法,主張采用扎根的方式,通過收集和分析真實(shí)場(chǎng)域中學(xué)習(xí)者的言行舉止,實(shí)現(xiàn)對(duì)學(xué)習(xí)者認(rèn)知框架中各維度要素及其關(guān)聯(lián)結(jié)構(gòu)的建模和深描。該研究方法旨在克服傳統(tǒng)教育研究的不足,即習(xí)慣于將專長解構(gòu)為獨(dú)立發(fā)展的各要素的集合,卻忽視了實(shí)踐活動(dòng)中所建立起來的要素間的關(guān)聯(lián),而這才是刻畫專長的關(guān)鍵;同時(shí),其也試圖將領(lǐng)域?qū)<遥础熬謨?nèi)人”)都難以言狀的專長,透過數(shù)據(jù)可視化的方式進(jìn)行呈現(xiàn)和解讀。

    3.彌質(zhì)性與量化研究之不足

    專家的卓越表現(xiàn)是經(jīng)過特定文化情境的塑造和“一萬小時(shí)”的錘煉精進(jìn)才取得的成果(Ericsson,2008)。換言之,相比知識(shí)技能的獲得,學(xué)生的能力發(fā)展需要在更大的時(shí)間尺度上進(jìn)行分析研究。這就對(duì)扎根式的質(zhì)性研究提出了新的挑戰(zhàn),即如何通過跟蹤收集和分析海量的質(zhì)性數(shù)據(jù),來對(duì)學(xué)習(xí)者的認(rèn)知框架及其發(fā)展軌跡進(jìn)行建模,進(jìn)而構(gòu)建類似階段理論(Dreyfus,2004)但又具有領(lǐng)域特征的學(xué)科思維發(fā)展模式。由于“質(zhì)性大數(shù)據(jù)”無論是在編碼還是分析環(huán)節(jié),都需要耗費(fèi)大量的研究精力,更遑論質(zhì)性研究所依賴的具有明顯主觀性特征的個(gè)人體驗(yàn)、感悟、解讀、分析和理解,因而,其研究結(jié)論的可靠性一直備受爭議(風(fēng)笑天,2017)。

    與質(zhì)性研究不同,量化研究具有系統(tǒng)、客觀、可靠、可泛化的優(yōu)勢(shì)(葉浩生, 2008)。尤其在大數(shù)據(jù)時(shí)代,學(xué)習(xí)者的線上線下學(xué)習(xí)行為都可以被巨細(xì)靡遺地采集、識(shí)別、存儲(chǔ)和分析,這就意味著我們可以從大數(shù)據(jù)中發(fā)現(xiàn)以往難以察覺的關(guān)聯(lián)模式。然而,當(dāng)我們采用機(jī)器學(xué)習(xí)等方法去挖掘規(guī)律和模式時(shí),若脫離了對(duì)數(shù)據(jù)來源和情境的認(rèn)識(shí),忽視了數(shù)據(jù)背后的意義,就可能會(huì)面臨“垃圾輸入、垃圾輸出”(Garbage In Garbage Out)的風(fēng)險(xiǎn),或易受到“統(tǒng)計(jì)相關(guān)”的蒙蔽而做出對(duì)因果關(guān)系的誤讀(凌建勛等, 2003)。

    鑒于定性和定量分析方法各自具有的優(yōu)勢(shì)和局限,量化民族志融合了民族志、會(huì)話分析、統(tǒng)計(jì)學(xué)、數(shù)據(jù)挖掘等研究方法和分析技術(shù)。通過建立質(zhì)性和量化研究話語間的聯(lián)系,如可信度(Trustworthiness)和信效度、理論飽和(Theoretical Saturation)和統(tǒng)計(jì)顯著、編碼和變量,量化民族志試圖構(gòu)建溝通兩種研究范式的話語體系,最終實(shí)現(xiàn)由理論層面的意義和實(shí)證層面的數(shù)據(jù)所構(gòu)成的實(shí)證研究閉環(huán),并使得該閉環(huán)能夠兼具可解釋性和統(tǒng)計(jì)學(xué)保證(見圖1)。

    三、量化民族志的方法論:融質(zhì)性與量化研究為一體

    1.構(gòu)建有效用的模型

    傳統(tǒng)量化研究的一個(gè)重要特征就是假設(shè)檢驗(yàn),即在明確研究問題后,根據(jù)相關(guān)理論和前人研究發(fā)現(xiàn),提出對(duì)所研究問題的預(yù)期假設(shè)(通常用來描述兩至三個(gè)構(gòu)念之間的關(guān)系),再通過抽樣數(shù)據(jù)分析推斷,驗(yàn)證預(yù)期假設(shè)的真?zhèn)危玫接薪y(tǒng)計(jì)證據(jù)作保證的結(jié)論(孫健敏, 2004)。Chavetz(1978)在論述社會(huì)學(xué)理論建構(gòu)和檢驗(yàn)時(shí),闡述了假設(shè)在研究中的作用及假設(shè)檢驗(yàn)的必要性,學(xué)界甚至出現(xiàn)了實(shí)證研究就是驗(yàn)證研究假設(shè)的觀點(diǎn)。然而,教育學(xué)作為一門應(yīng)用科學(xué),其理論價(jià)值在于理解和解決教育實(shí)踐中的問題,促進(jìn)教育的革新。研究假設(shè)只能作為對(duì)教育因素及其聯(lián)系與影響的“淺描”,其對(duì)于真實(shí)教育場(chǎng)域中的規(guī)范性理論創(chuàng)新的貢獻(xiàn)往往是不足的。這也是脫胎于教育心理學(xué)的學(xué)習(xí)科學(xué)選擇與崇尚實(shí)驗(yàn)研究的教育心理學(xué)分道揚(yáng)鑣的原因所在。彼時(shí),學(xué)習(xí)科學(xué)家希望通過設(shè)計(jì)研究(Design-Based Research)的方法論創(chuàng)新,來彌補(bǔ)對(duì)照實(shí)驗(yàn)這一量化方法在效用上的局限性。類似地,采用量化民族志的教育研究并不滿足于淺描式的研究假設(shè),而是希望構(gòu)建可以體現(xiàn)教育情境復(fù)雜性,并能夠反映特定文化境脈中專長發(fā)展的思維模式或?qū)嵺`行為的理論模型。

    模型是基于研究目的和實(shí)踐需要,對(duì)現(xiàn)實(shí)世界在某種程度上的抽象。因此,站在理解和促進(jìn)專長發(fā)展的角度,量化民族志這一方法論的提出,其目的是在大數(shù)據(jù)時(shí)代追求對(duì)教育情境中質(zhì)性數(shù)據(jù)的理解,從而構(gòu)建可解釋和不斷迭代優(yōu)化的理論模型,即深描的認(rèn)知框架模型。實(shí)用主義取向的量化民族志研究雖然以構(gòu)建和完善深描的認(rèn)知框架模型而非驗(yàn)證淺描的研究假設(shè)為目標(biāo),這避免了教育理論研究和教學(xué)實(shí)踐的脫節(jié),也有益于解決創(chuàng)新人才培養(yǎng)和創(chuàng)新教育實(shí)踐缺少理論依據(jù)和有效指導(dǎo)的詬病,然而其同樣難以回避的問題是,通過質(zhì)性研究所獲得的理論缺乏可靠性和泛化能力。對(duì)此,量化民族志引入了“情境內(nèi)泛化”(Contextualized Generalization)的觀點(diǎn),即認(rèn)為模型的泛化能力不是無邊界的,尤其是對(duì)于復(fù)雜多元的教育研究而言,其構(gòu)建的是“境脈中的理論”(Theory-in-Context)。因此,專長所處的特定社會(huì)文化情境即構(gòu)成了研究對(duì)象的總體,而采用量化方法的目的則是確保模型在該情境中具有可靠性保證。具體而言,量化民族志研究的可靠性要在兩個(gè)層面得到保證,一是模型中各編碼的可靠性,二是模型本身即編碼間關(guān)聯(lián)結(jié)構(gòu)的可靠性。換言之,質(zhì)性分析中的編碼和模型需要達(dá)到所謂的“理論飽和”,而不能僅作為“軼事證據(jù)”(Anecdotal Evidence)。

    2.質(zhì)性數(shù)據(jù)的分割

    教育研究中常見的混合方法更多是基于操作化層面的考量,強(qiáng)調(diào)在同一研究中并行分析質(zhì)性和量化兩類數(shù)據(jù),或是采用“先量化后質(zhì)性”或“先質(zhì)性后量化”的雙階段研究,通過定性和定量的獨(dú)立分析以實(shí)現(xiàn)相互印證,這實(shí)際得到的是定性和定量兩個(gè)相互獨(dú)立的理論模型(李剛等,2016)。而量化民族志則希望構(gòu)建一個(gè)兼具可解釋性和統(tǒng)計(jì)保證的融合模型(吳忭等,2019)。然而,要實(shí)現(xiàn)對(duì)質(zhì)性數(shù)據(jù)的量化分析,首先要求數(shù)據(jù)具有整齊的格式,即要保證數(shù)據(jù)行(觀察)和列(變量)的完整性和一致性。要將質(zhì)性數(shù)據(jù)整理成結(jié)構(gòu)良好的可分析數(shù)據(jù),就需要確定分割質(zhì)性數(shù)據(jù)的規(guī)則,即確定話語的結(jié)構(gòu)。

    在量化民族志研究中,質(zhì)性數(shù)據(jù)可以是田野觀察記錄、訪談文本、線下討論文本、論壇發(fā)帖或?qū)W生習(xí)作,在對(duì)其做數(shù)據(jù)分割時(shí)涉及行、節(jié)、會(huì)話三個(gè)層面的粒度。研究者需要根據(jù)特定情境中數(shù)據(jù)意義的關(guān)聯(lián)程度來確定行、節(jié)和會(huì)話的分割粒度。行是質(zhì)性數(shù)據(jù)中研究者所感興趣的連續(xù)行為的最小分析單位,比如訪談中的一句話、討論中每位參與者的一段發(fā)言、論壇中的一個(gè)發(fā)帖或文章作品中的一個(gè)句子。而會(huì)話則是所有相互關(guān)聯(lián)的行的集合,可以是一次訪談、一場(chǎng)討論、一個(gè)主題的所有發(fā)帖或一篇文章。但上述分割方式并非固定不變的,研究者完全可以根據(jù)文本中出現(xiàn)的新觀點(diǎn)來確定“行”的劃分,或是將圍繞某個(gè)主題的多次訪談、多場(chǎng)討論、學(xué)習(xí)檔案袋中體現(xiàn)學(xué)習(xí)歷程的多份習(xí)作作為會(huì)話。

    相較于“行”和“會(huì)話”層面的數(shù)據(jù)分割,更為微妙的是確定“節(jié)”的分割粒度。節(jié)代表了分析單位的上下文情境,是存在內(nèi)容上緊密關(guān)聯(lián)的前后若干行。以討論文本數(shù)據(jù)為例,每位參與者的發(fā)言都是對(duì)之前發(fā)言的回應(yīng),而當(dāng)前發(fā)言行所回應(yīng)的最早一條發(fā)言行與當(dāng)前發(fā)言行之間的所有行就構(gòu)成了節(jié)。由于專長的各個(gè)維度是通過對(duì)行進(jìn)行編碼所體現(xiàn)的,而不同編碼在各行的上下文情境中的共現(xiàn)(Co-occurrence)情況可以反映出編碼之間建立的關(guān)聯(lián),因此,對(duì)節(jié)的劃分是構(gòu)建認(rèn)知框架模型的基礎(chǔ)。由此可見,確定節(jié)的長度是量化民族志研究中進(jìn)行數(shù)據(jù)分割的關(guān)鍵。對(duì)于討論數(shù)據(jù)而言,研究者可以通過分辨討論中話題的轉(zhuǎn)移來確定節(jié);對(duì)于文章數(shù)據(jù)而言,體現(xiàn)文章邏輯結(jié)構(gòu)的段落或者小節(jié)也可以作為節(jié)的劃分方式。此外,對(duì)于質(zhì)性大數(shù)據(jù)而言,還可以采用固定節(jié)長的滑動(dòng)窗(而非整個(gè)會(huì)話)來分析編碼之間關(guān)聯(lián)的建立過程(見圖2),這使得運(yùn)用類似微觀生成分析(Microgenetic Analysis)方法來對(duì)學(xué)生認(rèn)知框架發(fā)展模式進(jìn)行建模成為可能。

    3.從分野到融合何以可能

    為解決學(xué)習(xí)分析面臨的黑盒挑戰(zhàn)(即模型的可解釋性問題)與質(zhì)性分析中模型的可靠性問題,量化民族志提供了兩種操作層面的技術(shù)方法,分別是為編碼提供保證的半自動(dòng)編碼工具nCoder(Shaffer et al.,2015),以及為認(rèn)知框架模型(編碼之間的關(guān)聯(lián)結(jié)構(gòu))提供保證的認(rèn)知網(wǎng)絡(luò)分析方法。

    編碼可靠性是指能否基于既定的編碼規(guī)則,正確識(shí)別不同時(shí)間、情境的會(huì)話數(shù)據(jù)中的特定編碼。為驗(yàn)證編碼可靠性,傳統(tǒng)方法是讓兩位編碼者對(duì)隨機(jī)抽樣數(shù)據(jù)進(jìn)行獨(dú)立編碼,而后計(jì)算編碼結(jié)果的一致性信度。常用的一致性信度檢驗(yàn)方法是Cohens Kappa系數(shù)(簡稱Kappa)分析。在教育學(xué)等社會(huì)科學(xué)領(lǐng)域,一般將0.65作為一致性檢驗(yàn)的閾值,即當(dāng)兩位編碼者的抽樣編碼一致性信度達(dá)到0.65以上,則認(rèn)為選擇其中一位編碼者完成所有數(shù)據(jù)的編碼,其結(jié)果是可靠的。這樣的統(tǒng)計(jì)推斷在針對(duì)小數(shù)據(jù)的分析中雖然可行,但在大數(shù)據(jù)分析中犯“第一類錯(cuò)誤”(即假陰性)的概率卻會(huì)大大增加。也就是雖然抽樣數(shù)據(jù)編碼的一致性信度達(dá)到了0.65,但是總體數(shù)據(jù)編碼的一致性信度可能遠(yuǎn)低于閾值(Eagan et al.,2017)。此外,對(duì)于質(zhì)性大數(shù)據(jù)采用人工手動(dòng)編碼并不現(xiàn)實(shí),因此需要訓(xùn)練一個(gè)可以實(shí)現(xiàn)自動(dòng)編碼的分類器,并且該分類器的編碼要在總體數(shù)據(jù)而非抽樣數(shù)據(jù)上滿足與人工編碼的一致性要求。而半自動(dòng)編碼工具nCoder則可實(shí)現(xiàn)上述功能,其具體編碼過程如圖3所示。在nCoder中提供了檢驗(yàn)總體數(shù)據(jù)一致性的指標(biāo)Shaffers Rho系數(shù)(簡稱Rho),該指標(biāo)類似于統(tǒng)計(jì)檢驗(yàn)中的伴隨概率p,一般將0.05作為閾值?!癛ho<0.05”表示若采用人工方式和自動(dòng)方式對(duì)總體數(shù)據(jù)進(jìn)行編碼的一致性信度達(dá)到0.65以上時(shí),其犯錯(cuò)概率小于5%。因此,編碼本的語義內(nèi)容和一致性檢驗(yàn)中的Rho值分別提供了質(zhì)性數(shù)據(jù)在編碼層面的可解釋性和統(tǒng)計(jì)層面的可靠性保證。

    認(rèn)知網(wǎng)絡(luò)分析為認(rèn)知框架模型的構(gòu)建及表征提供了具體的操作路徑,其建模流程包括:(1)根據(jù)編碼后數(shù)據(jù)創(chuàng)建體現(xiàn)編碼在各個(gè)節(jié)中是否兩兩共現(xiàn)的鄰接矩陣;(2)累加所有指定節(jié)的鄰接矩陣并轉(zhuǎn)換為鄰接向量;(3)將鄰接向量做歸一化處理;(4)通過奇異值分解的降維方法,將高維空間的網(wǎng)絡(luò)模型投影到二維平面;(5)最終形成二維投影面上的認(rèn)知網(wǎng)絡(luò)模型(吳忭等,2018)。

    對(duì)于認(rèn)知網(wǎng)絡(luò)分析有三點(diǎn)值得注意的地方。首先,認(rèn)知網(wǎng)絡(luò)分析提供了可以靈活比較不同個(gè)體與個(gè)體、個(gè)體與群體、群體與群體之間,以及個(gè)體或群體在專長發(fā)展不同階段之間認(rèn)知框架的操作化工具,尤其是為理解協(xié)作環(huán)境中個(gè)體認(rèn)知框架與群體認(rèn)知框架在構(gòu)建上的相互影響提供了可能。例如,當(dāng)累加的鄰接矩陣來自于將同一名學(xué)生的發(fā)言作為參考行所對(duì)應(yīng)的所有節(jié),即計(jì)算與該名學(xué)生所有發(fā)言緊密相關(guān)的上下文情境中的編碼共現(xiàn)情況,則可以得到該名學(xué)生的認(rèn)知網(wǎng)絡(luò);當(dāng)累加的鄰接矩陣來自于將討論小組的全部發(fā)言作為參考行所對(duì)應(yīng)的所有節(jié),則得到的是討論小組的整體認(rèn)知網(wǎng)絡(luò)。

    其次,同編碼的可解釋性有賴于研究者在編碼過程中對(duì)編碼本的迭代更新類似,對(duì)認(rèn)知網(wǎng)絡(luò)的意義詮釋同樣依賴于研究者對(duì)會(huì)話內(nèi)容的理解。熟悉奇異值分解的研究者應(yīng)該清楚,這種數(shù)據(jù)驅(qū)動(dòng)的降維方法是為了能對(duì)模型進(jìn)行可視化表征的同時(shí),確保模型中包含的原始信息量損失最小,但這樣得到的投影后的網(wǎng)絡(luò)結(jié)構(gòu)未必具有可解釋性。這也是大數(shù)據(jù)分析常被詬病的問題,即能夠發(fā)現(xiàn)變量間潛在的關(guān)聯(lián)性,但變量間的關(guān)聯(lián)是否具有意義,則需依靠研究者甚至是“局內(nèi)人”的理解和詮釋。即便如此,所獲得的網(wǎng)絡(luò)結(jié)構(gòu)仍為意義建構(gòu)提供了三方面的線索:一是各個(gè)編碼節(jié)點(diǎn)在投影平面上的相對(duì)位置;二是編碼節(jié)點(diǎn)之間關(guān)聯(lián)的強(qiáng)弱;三是可以通過編碼節(jié)點(diǎn)之間的關(guān)聯(lián)回溯到生成關(guān)聯(lián)的所有節(jié),進(jìn)而進(jìn)行會(huì)話內(nèi)容的質(zhì)性分析。

    最后,我們很自然地會(huì)將認(rèn)知網(wǎng)絡(luò)分析和社會(huì)網(wǎng)絡(luò)分析(Social Network Analysis,SNA)做比較。除了數(shù)據(jù)分割方法、網(wǎng)絡(luò)圖建模方法,以及網(wǎng)絡(luò)圖中節(jié)點(diǎn)和連線的含義存在區(qū)別之外,從對(duì)網(wǎng)絡(luò)模型做量化分析的角度來看,基于圖論的量化指標(biāo)在這兩種建模方法中的適用性不同。這緣于兩種分析方法的不同研究目的和數(shù)據(jù)特性。社會(huì)網(wǎng)絡(luò)分析通常是為了揭示一個(gè)大的社群中不同子群的社交模式,以及個(gè)體在某個(gè)社群中的地位和作用類型。因此,社交網(wǎng)絡(luò)圖中的節(jié)點(diǎn)數(shù)量通常較多,且更關(guān)注節(jié)點(diǎn)間的連線及其方向性,以及與之相關(guān)的圖指標(biāo),如網(wǎng)絡(luò)密度、中心性等。而認(rèn)知網(wǎng)絡(luò)分析是為了對(duì)海量質(zhì)性數(shù)據(jù)中反映出的認(rèn)知框架結(jié)構(gòu)進(jìn)行建模,對(duì)模型的簡約性及其結(jié)構(gòu)上的可解釋性要求決定了其節(jié)點(diǎn)(專長的維度編碼)數(shù)量不宜過多。對(duì)于認(rèn)知網(wǎng)絡(luò)分析而言,節(jié)點(diǎn)之間關(guān)聯(lián)的強(qiáng)弱及其代表的意義則是研究的重點(diǎn),因此其常用的量化指標(biāo)是網(wǎng)絡(luò)的質(zhì)心。質(zhì)心相對(duì)于網(wǎng)絡(luò)中不同節(jié)點(diǎn)的位置遠(yuǎn)近反映認(rèn)知網(wǎng)絡(luò)圖側(cè)重構(gòu)建了哪些編碼間的關(guān)聯(lián);檢驗(yàn)認(rèn)知網(wǎng)絡(luò)圖的質(zhì)心位置差異可以作為判斷認(rèn)知框架差異的統(tǒng)計(jì)學(xué)依據(jù);而用認(rèn)知網(wǎng)絡(luò)圖相減的方法則可以比較編碼間關(guān)聯(lián)在對(duì)應(yīng)網(wǎng)絡(luò)中的差異。通過上述方法,可以對(duì)不同認(rèn)知網(wǎng)絡(luò)圖的結(jié)構(gòu)特征進(jìn)行解釋和分析。

    四、量化民族志的研究實(shí)踐與發(fā)展趨勢(shì)

    1.理論構(gòu)建研究:融合視角下的學(xué)習(xí)理解及理論創(chuàng)新

    采用量化民族志方法的研究通過關(guān)注不同要素之間相互作用的復(fù)雜關(guān)系,驅(qū)動(dòng)學(xué)習(xí)理論的創(chuàng)新,同時(shí)提供了一種融合質(zhì)性和量化研究的視角來理解實(shí)踐環(huán)境中學(xué)習(xí)的發(fā)生過程。具體的研究實(shí)踐包括:理解教師如何在學(xué)生發(fā)生認(rèn)知沖突時(shí),通過行動(dòng)后反思(Reflection on Action)促進(jìn)學(xué)生轉(zhuǎn)變思維模式(Bagley et al.,2015);基于玩家在游戲中自動(dòng)生成的交互日志剖析學(xué)生為何退出教育游戲(Karumbaiah et al.,2019);分析探究社區(qū)理論模型中認(rèn)知存在、社會(huì)存在和教學(xué)存在如何相互關(guān)聯(lián)和發(fā)展(Rolim et al.,2019);洞察全球在線學(xué)習(xí)社區(qū)形成過程中,社區(qū)成員如何從強(qiáng)調(diào)自我意識(shí)和信息共享轉(zhuǎn)向同儕教學(xué)和知識(shí)獲?。‥spino et al.,2020);等等。這種融合的方法論視角還體現(xiàn)在不同研究方法的聯(lián)合運(yùn)用上。例如,Saint等(2020)用簡單頻率分析、認(rèn)知網(wǎng)絡(luò)分析、時(shí)間過程挖掘、隨機(jī)過程挖掘四種方法對(duì)不同自我調(diào)節(jié)行為進(jìn)行分析,以了解自我調(diào)節(jié)的微觀發(fā)生過程并比較不同學(xué)習(xí)群體的自我調(diào)節(jié)表現(xiàn)。研究結(jié)果表明,相較于單獨(dú)的方法,通過融合不同方法可以提供更加豐富和動(dòng)態(tài)化的見解。

    在理論構(gòu)建過程中,量化民族志為研究者深入探究事物的現(xiàn)象和發(fā)展,進(jìn)而獲得全面細(xì)致的理解并形成理論提供了方法支撐。量化民族志研究強(qiáng)調(diào)研究者需要細(xì)致地觀察和分析研究對(duì)象的言行數(shù)據(jù),進(jìn)而審問數(shù)據(jù)背后的意義;同時(shí)要求研究者意識(shí)到在數(shù)據(jù)分割、編碼和建模等操作化過程中所做的一系列決策均可能對(duì)建模結(jié)果產(chǎn)生影響。采用量化民族志方法構(gòu)建理論模型的挑戰(zhàn)在于如何進(jìn)行合理的深描,從而避免分析結(jié)果的表面化和牽強(qiáng)附會(huì)。例如,在詮釋認(rèn)知網(wǎng)絡(luò)的含義時(shí),應(yīng)當(dāng)通過追溯原始數(shù)據(jù)以理解節(jié)點(diǎn)間共現(xiàn)的意義以及影響共現(xiàn)強(qiáng)弱的原因等,而不應(yīng)停留在簡單分析連接的有無和強(qiáng)弱,或僅僅對(duì)網(wǎng)絡(luò)結(jié)構(gòu)做出浮于表面的解釋。

    2.應(yīng)用實(shí)踐研究:從典型場(chǎng)景趨向多元樣態(tài)發(fā)展

    量化民族志目前已被廣泛應(yīng)用于在學(xué)科教學(xué)及跨學(xué)科學(xué)習(xí)中高階能力的評(píng)估(Wu et al.,2019a;Wu et al.,2019b;Espino et al.,2020)。例如,對(duì)學(xué)生在仿真學(xué)習(xí)中的設(shè)計(jì)思維、系統(tǒng)思維等復(fù)雜學(xué)科思維進(jìn)行建模(Nash et al.,2013;Arastoopour et al.,2016),揭示游戲化學(xué)習(xí)環(huán)境中學(xué)生的認(rèn)知發(fā)展軌跡(Nash et al.,2013),探索個(gè)體認(rèn)知對(duì)協(xié)作問題解決的貢獻(xiàn)(Swiecki et al.,2020a),研究教師教育、醫(yī)學(xué)教育等領(lǐng)域的專長發(fā)展(Brown et al.,2016; Ruis et al.,2018;Wu et al.,2019a;Wu et al.,2019b;DAngelo et al.,2020)。

    隨著量化民族志逐漸被更多學(xué)者所了解和熟悉,這種不滿足于簡單“編碼+計(jì)算編碼頻次”,而是關(guān)注編碼之間的連接結(jié)構(gòu)和關(guān)聯(lián)強(qiáng)度、描繪數(shù)據(jù)背后所體現(xiàn)的復(fù)雜認(rèn)知網(wǎng)絡(luò)、表征網(wǎng)絡(luò)結(jié)構(gòu)隨時(shí)間變化的研究方法,其應(yīng)用領(lǐng)域也從學(xué)習(xí)科學(xué)拓展到醫(yī)學(xué)、政治學(xué)、工業(yè)工程等跨學(xué)科研究領(lǐng)域。例如,應(yīng)用認(rèn)知網(wǎng)絡(luò)分析方法對(duì)外科醫(yī)生整合心理運(yùn)動(dòng)技能、程序性技能、認(rèn)知技能來識(shí)別和管理醫(yī)療事故的能力進(jìn)行建模(Ruis et al.,2018);針對(duì)社交媒體上網(wǎng)民的政治話題發(fā)帖,通過認(rèn)知網(wǎng)絡(luò)分析探究數(shù)字社區(qū)的功能性話語模式(Hamilton et al.,2021);通過量化民族志方法分析企業(yè)不同部門領(lǐng)域?qū)<覍?duì)制造業(yè)中應(yīng)用傳統(tǒng)獨(dú)立工作機(jī)器人和新型合作機(jī)器人的觀點(diǎn)和態(tài)度(Siebert-Evenstone et al.,2021)。

    此外,由于言語是人類思維過程最直接的體現(xiàn),因而討論話語、訪談?dòng)涗?、反思日志等文本?shù)據(jù)仍是量化民族志研究主要的數(shù)據(jù)來源,然而動(dòng)作姿勢(shì)、眼動(dòng)軌跡、在線行為等多模態(tài)數(shù)據(jù)也被越來越多地用于量化民族志研究。例如,Andrist等(2018)利用眼動(dòng)數(shù)據(jù)描述了協(xié)作任務(wù)中參與者注視模式的耦合情況;Whitelock-Wainwright 等(2020)基于在線學(xué)習(xí)活動(dòng)數(shù)據(jù)分析了混合學(xué)習(xí)設(shè)計(jì)中的學(xué)科差異;Singh等(2020)探索了如何整合注視識(shí)別(基于眼動(dòng)數(shù)據(jù))和模型識(shí)別(基于在線行為數(shù)據(jù))兩種方法預(yù)測(cè)人的意圖。這種趨勢(shì)也為未來量化民族志方法的改進(jìn)帶來了挑戰(zhàn),即如何整合多模態(tài)數(shù)據(jù),如何使異質(zhì)數(shù)據(jù)融合互補(bǔ),以及如何揭示非言語數(shù)據(jù)在人類學(xué)習(xí)活動(dòng)中所扮演的重要角色。

    3.方法探索研究:從方法對(duì)比走向完善與創(chuàng)新

    針對(duì)量化民族志這一研究方法的創(chuàng)新還遠(yuǎn)未停止,其秉承著一種具有開放性的學(xué)習(xí)分析基因,即通過采用不同的分析方法來審視數(shù)據(jù),以獲得對(duì)數(shù)據(jù)意義和分析方法的深度理解,進(jìn)而不斷完善自身的方法論體系。例如,Csanadi等(2018)比較基于編碼頻率和認(rèn)知網(wǎng)絡(luò)的分析方法,指出認(rèn)知網(wǎng)絡(luò)分析可以更深入地理解學(xué)生的社會(huì)認(rèn)知學(xué)習(xí),更好地解釋群體差異,但并不能代替基于編碼頻率的分析;Matcha等(2019)應(yīng)用序列分析、過程挖掘、認(rèn)知網(wǎng)絡(luò)分析三種方法檢測(cè)學(xué)習(xí)策略,發(fā)現(xiàn)不同方法檢測(cè)到的學(xué)習(xí)策略既存在相似也存在差異,這可以為更準(zhǔn)確地檢測(cè)學(xué)習(xí)策略提供依據(jù)。

    除單獨(dú)采用認(rèn)知網(wǎng)絡(luò)分析方法外,也有研究將其與主題建模、過程挖掘等方法整合應(yīng)用。例如,Ga?evi?等(2019)綜合應(yīng)用認(rèn)知網(wǎng)絡(luò)分析和社會(huì)網(wǎng)絡(luò)分析研究基于MOOC的協(xié)作學(xué)習(xí),發(fā)現(xiàn)社會(huì)網(wǎng)絡(luò)分析能夠預(yù)測(cè)群體和個(gè)體層面的社會(huì)關(guān)系結(jié)構(gòu),認(rèn)知網(wǎng)絡(luò)分析能夠預(yù)測(cè)學(xué)生話語內(nèi)容的差異,而集成兩種分析方法的社會(huì)認(rèn)知網(wǎng)絡(luò)(Social Epistemic Network Signature,SENS)模型比基于單獨(dú)方法的模型能夠更好地預(yù)測(cè)學(xué)生的學(xué)業(yè)表現(xiàn);Swiecki等(2020b)進(jìn)一步研究了SENS的網(wǎng)絡(luò)表征方式,提出了整合型社會(huì)認(rèn)知網(wǎng)絡(luò)(Integrated Social Epistemic Network Signature,iSENS)分析方法,實(shí)證結(jié)果表明iSENS在預(yù)測(cè)團(tuán)隊(duì)協(xié)作表現(xiàn)上相較ENA、SNA和SENS有更好的效果。

    此外,量化民族志方法運(yùn)用過程中對(duì)數(shù)據(jù)分割、自動(dòng)編碼、多模態(tài)數(shù)據(jù)處理等問題的探討也日益受到關(guān)注。例如,Z?rg?等(2021)分析比較了關(guān)于會(huì)話和節(jié)的不同數(shù)據(jù)分割策略對(duì)于模型結(jié)果的影響;Cai等(2019)在半自動(dòng)化編碼工具nCoder基礎(chǔ)上,進(jìn)一步提出了采用潛在語義分析計(jì)算詞相似性的方法以改善編碼本,從而減少犯“第一類錯(cuò)誤”的概率;針對(duì)真實(shí)情境中產(chǎn)生的多模態(tài)數(shù)據(jù),Shum等(2019)提出了多模態(tài)矩陣技術(shù),以整合生理、認(rèn)知、社會(huì)、情感維度的數(shù)據(jù),從而更全面地理解協(xié)作學(xué)習(xí)活動(dòng)。應(yīng)當(dāng)看到的是,運(yùn)用量化民族志的學(xué)者群體正在日益壯大,雖然當(dāng)前大部分研究仍是有關(guān)認(rèn)知網(wǎng)絡(luò)分析方法的探討和應(yīng)用,但未來更多原理可靠、操作可行的基于量化民族志的衍生方法將進(jìn)一步被發(fā)掘。

    五、結(jié)語

    歷史學(xué)家尤瓦爾·赫拉利(Yuval Harari)在《未來簡史》一書中指出,大數(shù)據(jù)時(shí)代催生出一種被稱為“數(shù)據(jù)主義”的理解世界的新方式,即相信數(shù)據(jù)是唯一真正的價(jià)值來源,我們之所以存在是因?yàn)槲覀冋跒榇髷?shù)據(jù)所創(chuàng)建的數(shù)據(jù)挖掘引擎提供原材料(尤瓦爾·赫拉利,2017)。雖然機(jī)器在尋找模式上越來越展現(xiàn)出非凡的本領(lǐng),但尋找模式和理解事物之間存在著本質(zhì)的區(qū)別。而在數(shù)據(jù)驅(qū)動(dòng)的研究范式轉(zhuǎn)型浪潮中,體現(xiàn)研究者思維獨(dú)特性的關(guān)鍵,恰恰在于我們具有不僅能看到人們?cè)谧鍪裁?,還能理解他們?yōu)槭裁催@么做的能力。量化民族志正是這樣一種面向意義闡釋的研究方法,使我們可以理解教育境脈中數(shù)據(jù)背后的深層含義。在大數(shù)據(jù)時(shí)代,我們有機(jī)會(huì)進(jìn)一步發(fā)展這種研究方法,通過使用統(tǒng)計(jì)技術(shù)來拓展我們的學(xué)科思維方式,而不是取代扎根式的理解。量化民族志不是簡單地混合定性和定量的研究方法,而是注重定性和定量分析間的相互支撐,從而建立既體現(xiàn)扎根式的理解又具有理論飽和度的理論模型。從方法論的視角來看,該研究方法也體現(xiàn)出對(duì)大數(shù)據(jù)迷思的憬悟,提醒教育研究者應(yīng)當(dāng)重視基于教育情境中生成的、能夠盡可能還原現(xiàn)實(shí)的“厚數(shù)據(jù)”,通過融合定性和定量分析,追求對(duì)“厚數(shù)據(jù)”背后意義的理解。

    參考文獻(xiàn):

    [1][以色列]尤瓦爾·赫拉利(2017).未來簡史[M].林俊宏.北京:中信出版社.

    [2]風(fēng)笑天(2017).定性研究:本質(zhì)特征與方法論意義[J].東南學(xué)術(shù),(3):56-61.

    [3]焦建利,賈義敏(2011).學(xué)習(xí)科學(xué)研究領(lǐng)域及其新進(jìn)展——“學(xué)習(xí)科學(xué)新進(jìn)展”系列論文引論[J].開放教育研究,17(1):33-41.

    [4]李剛,王紅蕾(2016).混合方法研究的方法論與實(shí)踐嘗試:共識(shí)、爭議與反思[J].華東師范大學(xué)學(xué)報(bào)(教育科學(xué)版),34(4):98-105,121.

    [5]李麗華,譚素群,吳新華(2010).新手教師與專家教師課堂話語比較分析[J].中國教育學(xué)刊(11):76-79.

    [6]凌建勛,凌文輇,方俐洛(2003).深入理解質(zhì)性研究[J].社會(huì)科學(xué)研究,(1):151-153.

    [7]秦瑾若,傅鋼善(2017).STEM教育:基于真實(shí)問題情景的跨學(xué)科式教育[J].中國電化教育(4):67-74.

    [8]任英杰,徐曉東(2012).學(xué)習(xí)科學(xué):研究的重要問題及其方法論[J].遠(yuǎn)程教育雜志,30(1):26-36.

    [9]孫健敏(2004).研究假設(shè)的有效性及其評(píng)價(jià)[J].社會(huì)學(xué)研究,(3):30-35.

    [10]吳忭,胡藝齡,趙玥穎(2019).如何使用數(shù)據(jù):回歸基于理解的深度學(xué)習(xí)和測(cè)評(píng)——訪國際知名學(xué)習(xí)科學(xué)專家戴維·謝弗[J].開放教育研究,25(1):4-12.

    [11]吳忭,王戈,盛海曦(2018).認(rèn)知網(wǎng)絡(luò)分析法:STEM教育中的學(xué)習(xí)評(píng)價(jià)新思路[J].遠(yuǎn)程教育雜志,36(6):3-10.

    [12]葉浩生(2008).量化研究與質(zhì)化研究:對(duì)立及其超越[J].自然辯證法研究,24(9):7-11.

    [13]趙健,鄭太年,任友群等(2007).學(xué)習(xí)科學(xué)研究之發(fā)展綜述[J].開放教育研究,(2):15-20.

    [14]Andrist, S., Ruis, A. R., & Shaffer, D. W. (2018). A Network Analytic Approach to Gaze Coordination During a Collaborative Task[J]. Computers in Human Behavior, 89:339-348.

    [15]Arastoopour, G., Shaffer, D. W., & Swiecki, Z. et al. (2016). Teaching and Assessing Engineering Design Thinking with Virtual Internships and Epistemic Network Analysis[J]. International Journal of Engineering Education, 32(3):1492-1501.

    [16]Bagley, E., & Shaffer, D. W. (2015). Learning in an Urban and Regional Planning Practicum: The View from Educational Ethnography[J]. Journal of Interactive Learning Research, 26(4):369-393.

    [17]Bransford, J. D., & Brown, A. L. (1999). How People Learn: Brain, Mind, Experience, and School[M]. Washington, DC: National Academy Press.

    [18]Brown, R. E., Nagar, G. G., & Orrill, C. H. et al. (2016). Coherency of a Teachers Proportional Reasoning Knowledge In and Out of the Classroom[C]// Proceedings of the 38th Annual Meeting of the North American Chapter of the International Group for the Psychology of Mathematics Education. Arizona: ERIC:450-457.

    [19]Cai, Z., Siebert-Evenstone, A., & Eagan, B. et al. (2019). nCoder+: A Semantic Tool for Improving Recall of nCoder Coding[C]// Proceedings of the 1st International Conference on Quantitative Ethnography. Wisconsin: Springer:41-54.

    [20]Chavetz, J. S. (1978). A Primer on the Construction and Testing of Theories in Sociology[M]. Itasca, Ill:Peacock Publishers.

    [21]Chesler, N. C., Ruis, A. R., & Collier, W. et al. (2015). A Novel Paradigm for Engineering Education: Virtual Internships with Individualized Mentoring and Assessment of Engineering Thinking[J]. Journal of Biomechanical Engineering, 137(2):024701.

    [22]Csanadi, A., Eagan, B., & Kollar, I. et al. (2018). When Coding-and-Counting Is Not Enough: Using Epistemic Network Analysis (ENA) to Analyze Verbal Data in CSCL Research[J]. International Journal of Computer-Supported Collaborative Learning, 13(4):419-438.

    [23]DAngelo, A. L. D., Ruis, A. R., & Collier, W. et al. (2020). Evaluating How Residents Talk and What It Means for Surgical Performance in the Simulation Lab[J]. The American Journal of Surgery, 220(1):37-43.

    [24]Dreyfus, S. E. (2004). The Five-Stage Model of Adult Skill Acquisition[J]. Bulletin of Science, Technology & Society, 24(3):177-181.

    [25]Eagan, B. R., Rogers, B., & Serlin, R. et al. (2017). Can We Rely on IRR? Testing the Assumptions of Inter-Rater Reliability[C]// Proceedings of the 12th International Conference on Computer Supported Collaborative Learning. Philadelphia, PA:529-532.

    [26]Ericsson, K. A. (2008). Deliberate Practice and Acquisition of Expert Performance: A General Overview[J]. Academic Emergency Medicine Official Journal of the Society for Academic Emergency Medicine, 15(11):988-994.

    [27]Espino, D. P., Lee, S. B., & Van Tress, L. et al. (2020). Analysis of US, Kenyan, and Finnish Discourse Patterns in a Cross-Cultural Digital Makerspace Learning Community Through the IBE-UNESCO Global Competences Framework[J]. Research in Social Sciences and Technology, 5(1):86-100.

    [28]Ga?evi?, D., Joksimovi?, S., & Eagan, B. R. et al. (2019). SENS: Network Analytics to Combine Social and Cognitive Perspectives of Collaborative Learning[J]. Computers in Human Behavior, 92:562-577.

    [29]Hamilton, E., & Hobbs, W. (2021). Epistemic Frames and Political Discourse Modeling[C]// Proceedings of the 2nd International Conference on Quantitative Ethnography. (in Press)

    [30]Karumbaiah, S., Baker, R. S., & Barany, A. et al. (2019). Using Epistemic Networks with Automated Codes to Understand Why Players Quit Levels in a Learning Game[C]// Proceedings of the 1st International Conference on Quantitative Ethnography. Wisconsin: Springer:106-116.

    [31]Lajoie, S. P. (2003). Transitions and Trajectories for Studies of Expertise[J]. Educational Researcher, 32(8):21-25.

    [32]Lave, J., & Wenger, E. (1991). Situated Learning: Legitimate Peripheral Participation[M]. Cambridge, UK:Cambridge University Press.

    [33]Lockyer, L., Heathcote, E., & Dawson, S. (2013). Informing Pedagogical Action: Aligning Learning Analytics with Learning Design[J]. American Behavioral Scientist, 57(10):1439-1459.

    [34]Matcha, W., Ga?evi?, D., & Joksimovi?, J. et al. (2019). Detection of Learning Strategies: A Comparison of Process, Sequence and Network Analytic Approaches[C]// Proceedings of the European Conference on Technology Enhanced Learning. Delft: Springer:525-540.

    [35]Mislevy, R. J., Almond, R. G., & Lukas, J. F. (2003). A Brief Introduction to Evidence-Centered Design[J]. ETS Research Report Series, (1):1-29.

    [36]Nash, P., & Shaffer, D. W. (2013). Epistemic Trajectories: Mentoring in a Game Design Practicum[J]. Instructional Science, 41(4):745-771.

    [37]Rolim, V., Ferreira, R., & Lins, R. D. et al. (2019). A Network-Based Analytic Approach to Uncovering the Relationship Between Social and Cognitive Presences in Communities of Inquiry[J]. The Internet and Higher Education, 42:53-65.

    [38]Ruis, A., Rosser, A. A., & Quandt-Walle, C. et al. (2018). The Hands and Head of a Surgeon: Modeling Operative Competency with Multimodal Epistemic Network Analysis[J]. The American Journal of Surgery, 216(5):835-840.

    [39]Saint, J., Ga?evi?, D., & Matcha, W. et al. (2020). Combining Analytic Methods to Unlock Sequential and Temporal Patterns of Self-Regulated Learning[C]// Proceedings of the 10th International Conference on Learning Analytics & Knowledge. Frankfort, Germany: Association for Computing Machinery:402-411.

    [40]Sawyer, R. K. (2005). The Cambridge Handbook of the Learning Sciences[M]. New York, NY: Cambridge University Press.

    [41]Shaffer, D. W. (2017). Quantitative Ethnography[M]. Madison, WI: Cathcart Press.

    [42]Shaffer, D. W. (2018). Big Data for Thick Description of Deep Learning[A]// Millis, K., Long, D., & Magliano, J. et al. (Eds.). Deep Comprehension[M]. New York: Routledge:265-277.

    [43]Shaffer, D. W., Borden, F., & Srinivasan, A. et al. (2015). The nCoder: A Technique for Improving the Utility of Inter-Rater Reliability Statistics[R]. Games and Professional Simulations Technical Report. University of Wisconsin Madison.

    [44]Shum, S. B., Echeverria, V., & Martinez-Maldonado, R. (2019). The Multimodal Matrix as a Quantitative Ethnography Methodology[C]// Proceedings of the 1st International Conference on Quantitative Ethnography. Wisconsin: Springer:26-40.

    [45]Siebert-Evenstone, A., Irgens, G. A., & Collier, W. et al. (2017). In Search of Conversational Grain Size: Modelling Semantic Structure Using Moving Stanza Windows[J]. Journal of Learning Analytics, 4(3):123-139.

    [46]Siebert-Evenstone, A., Michaelis, J. E., & Shaffer, D. W. et al. (2021). Safety First: Developing a Model of Expertise in Collaborative Robotics[C]// Proceedings of the 2nd International Conference on Quantitative Ethnography. (in Press)

    [47]Singh, R., Miller, T., & Newn, J. et al. (2020). Combining Gaze and AI Planning for Online Human Intention Recognition[J]. Artificial Intelligence, 284:103275.

    [48]Swiecki, Z., Ruis, A. R., & Farrell, C. et al. (2020a). Assessing Individual Contributions to Collaborative Problem Solving: A Network Analysis Approach[J]. Computers in Human Behavior, 104:105876.

    [49]Swiecki, Z., & Shaffer, D. W. (2020b). iSENS: An Integrated Approach to Combining Epistemic and Social Network Analyses[C]// Proceedings of the 10th International Conference on Learning Analytics & Knowledge. New York: Association for Computing Machinery:305-313.

    [50]Whitelock-Wainwright, A., Tsai, Y. S., & Lyons, K. et al. (2020). Disciplinary Differences in Blended Learning Design: A Network Analytic Study[C]// Proceedings of the 10th International Conference on Learning Analytics & Knowledge. New York: Association for Computing Machinery:579-588.

    [51]Wu, B., Hu, Y., & Ruis, A. R. et al. (2019a). Analyzing Computational Thinking in Collaborative Programming: A Quantitative Ethnography Approach[J]. Journal of Computer Assisted Learning, 35(3):421-434.

    [52]Wu, B., Hu, Y., & Wang, M. (2019b). Scaffolding Design Thinking in Online STEM Preservice Teacher Training[J]. British Journal of Educational Technology, 50(5):2271-2287.

    [53]Wu, B., & Wang, M. (2012). Integrating Problem Solving and Knowledge Construction Through Dual Mapping[J]. Knowledge Management & E-Learning: An International Journal, 4(3):248-257.

    [54]Z?rg?, S., Swiecki, Z., & Ruis, A. R. (2021). Exploring Effects of Various Forms of Segmentation on Semi-Structured Interview Data with Epistemic Network Analysis[C]// Proceedings of the 2nd International Conference on Quantitative Ethnography. (in Press)

    收稿日期 2020-10-06 責(zé)任編輯 譚明杰

    Abstract: The transformation of data-driven educational research paradigm has deepened the gap between qualitative and quantitative research. As a new educational research method that combines qualitative and quantitative analysis, Quantitative Ethnography (QE) helps to build a bridge between the two research paradigms, which consequently better explores the deep meaning behind the data. This method was proposed based on the need to model the epistemic frame that embodies expertise. It combines ethnography, conversation analysis, statistics, data mining and other methods and technologies to perform thick description of epistemic frame by analyzing the words and deeds of learners in a real field. Its essence is to construct a closed loop of empirical research composed of theoretical-level meaning interpretation and empirical-level data analysis. The iterative closed-loop investigation aims to eliminate subjective bias in qualitative research and superficiality in quantitative research, and to establish a connection between the two research discourses. QE pays special attention to the construction of “theory in context” and the realization of “theoretical saturation”. It provides two research tools, the semi-automatic coding software called nCoder and the modeling tool called epistemic network analysis (ENA), to ensure the reliability and interpretability of the modeling results. QE is mainly used for high-level competence modeling and assessment in both disciplinary and interdisciplinary learning. Its application scenarios show a trend of cross-disciplinary research and multi-modal data integration, and its methodological system has come to fruition.

    Keywords: Quantitative Ethnography; Educational Research Method; Expertise; Epistemic Frame; Epistemic Network Analysis

    猜你喜歡
    專長
    學(xué)校教育研究(2021年19期)2021-12-10
    高中體育組合技能單元教學(xué)策略的優(yōu)化探討
    口譯專長研究:進(jìn)展與反思
    所長無用
    老師比美
    奇貨可居
    學(xué)必求其心得
    尋找“自慢”絕活
    核心競(jìng)爭力的戰(zhàn)略應(yīng)用
    精品少妇黑人巨大在线播放| 2021天堂中文幕一二区在线观| 国产精品.久久久| 黄色欧美视频在线观看| 真实男女啪啪啪动态图| 国产淫语在线视频| 亚洲三级黄色毛片| 人人妻人人看人人澡| 久久精品熟女亚洲av麻豆精品 | av在线老鸭窝| 亚洲精品国产av蜜桃| 久久久久性生活片| 午夜福利视频1000在线观看| 国产成人a∨麻豆精品| 国产成人精品福利久久| 2018国产大陆天天弄谢| 色综合色国产| 国产毛片a区久久久久| 黄色配什么色好看| 我的老师免费观看完整版| 深夜a级毛片| 日日撸夜夜添| 欧美性感艳星| 亚洲欧美一区二区三区国产| 成年av动漫网址| 国产高清三级在线| 亚洲欧美成人精品一区二区| 十八禁网站网址无遮挡 | 老师上课跳d突然被开到最大视频| 晚上一个人看的免费电影| 男女那种视频在线观看| 国产精品人妻久久久久久| 日本一二三区视频观看| 成人鲁丝片一二三区免费| 亚洲精品影视一区二区三区av| 最近视频中文字幕2019在线8| 美女国产视频在线观看| 最近视频中文字幕2019在线8| 国内精品宾馆在线| 亚洲精品久久午夜乱码| 非洲黑人性xxxx精品又粗又长| 在线观看人妻少妇| 国产精品99久久久久久久久| 中文字幕av成人在线电影| 中文字幕av在线有码专区| 九九爱精品视频在线观看| 亚洲经典国产精华液单| 午夜爱爱视频在线播放| 一区二区三区免费毛片| 纵有疾风起免费观看全集完整版 | 亚洲熟女精品中文字幕| 天堂俺去俺来也www色官网 | 少妇猛男粗大的猛烈进出视频 | 国产黄片视频在线免费观看| 丝袜美腿在线中文| 男人和女人高潮做爰伦理| a级毛色黄片| 又黄又爽又刺激的免费视频.| 看黄色毛片网站| av福利片在线观看| 人人妻人人澡欧美一区二区| 草草在线视频免费看| 国产亚洲午夜精品一区二区久久 | 高清欧美精品videossex| 国产精品国产三级国产专区5o| 久久久久久久国产电影| 99久久精品一区二区三区| 久久久久国产网址| 国产精品.久久久| 久久热精品热| 精品久久久久久电影网| 国国产精品蜜臀av免费| 日日干狠狠操夜夜爽| 99久国产av精品国产电影| 99久久中文字幕三级久久日本| 亚洲精品成人久久久久久| 亚洲伊人久久精品综合| 亚洲精品国产成人久久av| 国精品久久久久久国模美| 免费观看的影片在线观看| 青春草国产在线视频| av黄色大香蕉| 国产亚洲av嫩草精品影院| 国产一区亚洲一区在线观看| 男女国产视频网站| 欧美zozozo另类| 国产美女午夜福利| 国产精品一二三区在线看| av线在线观看网站| 在线播放无遮挡| 国产男女超爽视频在线观看| 国产精品国产三级专区第一集| 成人国产麻豆网| 日本免费a在线| 在线 av 中文字幕| 久热久热在线精品观看| 精品久久久噜噜| 婷婷六月久久综合丁香| 国产真实伦视频高清在线观看| www.色视频.com| 少妇裸体淫交视频免费看高清| 午夜福利在线观看吧| 水蜜桃什么品种好| 乱码一卡2卡4卡精品| 80岁老熟妇乱子伦牲交| 日韩欧美一区视频在线观看 | 九草在线视频观看| 男的添女的下面高潮视频| 国产真实伦视频高清在线观看| 中文精品一卡2卡3卡4更新| 啦啦啦中文免费视频观看日本| 久久人人爽人人片av| 久久精品国产亚洲av天美| 熟妇人妻久久中文字幕3abv| 精品不卡国产一区二区三区| 国产黄色免费在线视频| av免费在线看不卡| 超碰av人人做人人爽久久| 午夜精品在线福利| 国产在线一区二区三区精| 国产伦理片在线播放av一区| 纵有疾风起免费观看全集完整版 | 插阴视频在线观看视频| 久久精品夜色国产| 亚洲精品一区蜜桃| 国产成人freesex在线| 91午夜精品亚洲一区二区三区| 精品一区二区免费观看| 久久99热这里只频精品6学生| 亚洲精品第二区| 亚洲人成网站高清观看| 欧美不卡视频在线免费观看| 夫妻性生交免费视频一级片| 日韩伦理黄色片| 欧美日韩视频高清一区二区三区二| 亚洲欧美中文字幕日韩二区| 最近最新中文字幕大全电影3| 免费无遮挡裸体视频| 精品人妻视频免费看| 亚洲欧美日韩无卡精品| 中文精品一卡2卡3卡4更新| 卡戴珊不雅视频在线播放| 人妻系列 视频| 欧美一级a爱片免费观看看| 日本免费在线观看一区| 国产精品av视频在线免费观看| 国产精品三级大全| 亚洲最大成人手机在线| 高清毛片免费看| 91狼人影院| 亚洲av中文av极速乱| 一级片'在线观看视频| 最近手机中文字幕大全| 青青草视频在线视频观看| 久久精品久久精品一区二区三区| 最近2019中文字幕mv第一页| 女的被弄到高潮叫床怎么办| 久久久久免费精品人妻一区二区| 精品人妻偷拍中文字幕| 久久精品国产自在天天线| 亚洲av一区综合| 国产精品久久久久久精品电影小说 | 蜜桃亚洲精品一区二区三区| 成人亚洲精品av一区二区| 国产精品人妻久久久久久| 亚洲精品aⅴ在线观看| 国产一区二区在线观看日韩| 日本免费a在线| 免费在线观看成人毛片| 久热久热在线精品观看| 人妻一区二区av| 三级国产精品欧美在线观看| 91av网一区二区| 综合色av麻豆| 国产中年淑女户外野战色| 免费看不卡的av| 一区二区三区高清视频在线| 中文精品一卡2卡3卡4更新| 亚洲精品国产av成人精品| 亚洲一区高清亚洲精品| 久久久久免费精品人妻一区二区| 日韩人妻高清精品专区| 午夜激情久久久久久久| 高清欧美精品videossex| 天堂网av新在线| 国产成人一区二区在线| 大话2 男鬼变身卡| 久久久久久伊人网av| 久久精品久久精品一区二区三区| 1000部很黄的大片| 少妇丰满av| 搡老妇女老女人老熟妇| 美女高潮的动态| 久久久欧美国产精品| 国产黄色免费在线视频| 国产一区二区亚洲精品在线观看| 婷婷色综合www| 又黄又爽又刺激的免费视频.| 免费观看在线日韩| 久久精品国产自在天天线| 美女xxoo啪啪120秒动态图| 人妻系列 视频| 国产亚洲精品av在线| 边亲边吃奶的免费视频| 少妇的逼好多水| 亚洲精品国产av成人精品| videos熟女内射| 成人亚洲精品一区在线观看 | 天堂俺去俺来也www色官网 | 3wmmmm亚洲av在线观看| 久久99热这里只频精品6学生| 欧美成人精品欧美一级黄| 国产成人一区二区在线| 久久99蜜桃精品久久| 乱人视频在线观看| 国产精品国产三级国产专区5o| 午夜视频国产福利| 精品国产露脸久久av麻豆 | 69人妻影院| 日本黄色片子视频| 国产精品99久久久久久久久| 亚洲国产精品sss在线观看| 噜噜噜噜噜久久久久久91| 色视频www国产| 国产午夜精品论理片| 婷婷色麻豆天堂久久| 精品一区在线观看国产| 三级毛片av免费| 久久久久免费精品人妻一区二区| 亚洲自拍偷在线| 听说在线观看完整版免费高清| 建设人人有责人人尽责人人享有的 | 国产老妇女一区| 在线观看一区二区三区| 国精品久久久久久国模美| 国产69精品久久久久777片| 亚洲人成网站在线观看播放| 22中文网久久字幕| 国产精品爽爽va在线观看网站| 国产精品一二三区在线看| 不卡视频在线观看欧美| 亚洲欧洲国产日韩| 一二三四中文在线观看免费高清| 狠狠精品人妻久久久久久综合| 亚洲av二区三区四区| 免费电影在线观看免费观看| 禁无遮挡网站| 日韩电影二区| 亚洲欧美一区二区三区黑人 | 婷婷色综合大香蕉| 我要看日韩黄色一级片| 亚洲精品第二区| 80岁老熟妇乱子伦牲交| 边亲边吃奶的免费视频| 777米奇影视久久| 简卡轻食公司| 日韩欧美一区视频在线观看 | 2018国产大陆天天弄谢| 最近的中文字幕免费完整| 国产午夜精品一二区理论片| 国产极品天堂在线| 欧美一区二区亚洲| 麻豆精品久久久久久蜜桃| 欧美日本视频| 亚洲乱码一区二区免费版| 日本av手机在线免费观看| 久热久热在线精品观看| 欧美激情久久久久久爽电影| 亚洲av成人精品一二三区| 亚洲aⅴ乱码一区二区在线播放| 高清毛片免费看| 国产av码专区亚洲av| 黑人高潮一二区| 亚洲成人久久爱视频| 免费av观看视频| 亚洲精品视频女| 一级二级三级毛片免费看| 国产69精品久久久久777片| 十八禁网站网址无遮挡 | 国产一区二区亚洲精品在线观看| 在线 av 中文字幕| 天堂av国产一区二区熟女人妻| 男女边摸边吃奶| 久久久精品欧美日韩精品| 如何舔出高潮| 九九在线视频观看精品| 国产高清有码在线观看视频| 国产高清有码在线观看视频| 精品久久久久久久久久久久久| 欧美区成人在线视频| 久久久久久久久大av| 禁无遮挡网站| 亚洲人成网站在线观看播放| 中文欧美无线码| 免费观看无遮挡的男女| 日本三级黄在线观看| 纵有疾风起免费观看全集完整版 | 男人狂女人下面高潮的视频| 国产精品一区二区三区四区免费观看| 日韩不卡一区二区三区视频在线| 亚洲精品国产av成人精品| 亚洲在线自拍视频| 亚洲av国产av综合av卡| 免费观看性生交大片5| 亚洲不卡免费看| 国产精品一区www在线观看| 日日摸夜夜添夜夜添av毛片| 国产一区二区三区av在线| 一个人观看的视频www高清免费观看| 精品亚洲乱码少妇综合久久| 午夜福利网站1000一区二区三区| 亚洲最大成人av| 啦啦啦啦在线视频资源| 国产黄片美女视频| 爱豆传媒免费全集在线观看| 三级毛片av免费| 搞女人的毛片| 一级毛片 在线播放| 中文乱码字字幕精品一区二区三区 | 在线a可以看的网站| 欧美精品国产亚洲| 麻豆精品久久久久久蜜桃| www.av在线官网国产| 免费不卡的大黄色大毛片视频在线观看 | 青春草视频在线免费观看| 日韩av不卡免费在线播放| 在线观看美女被高潮喷水网站| 亚洲天堂国产精品一区在线| 激情五月婷婷亚洲| 久久久久九九精品影院| 99久久精品一区二区三区| 亚洲精品日韩av片在线观看| 插阴视频在线观看视频| 中文字幕av在线有码专区| 日韩制服骚丝袜av| 国产精品爽爽va在线观看网站| 国产v大片淫在线免费观看| 九九在线视频观看精品| 一级毛片电影观看| 久久草成人影院| 大陆偷拍与自拍| 国产视频首页在线观看| 晚上一个人看的免费电影| 日本免费在线观看一区| 激情 狠狠 欧美| av线在线观看网站| 精品少妇黑人巨大在线播放| 亚洲精品久久久久久婷婷小说| 欧美性感艳星| 97精品久久久久久久久久精品| 黄色一级大片看看| 国产精品久久久久久精品电影| 国产片特级美女逼逼视频| 麻豆成人av视频| 日韩不卡一区二区三区视频在线| 国产精品嫩草影院av在线观看| 在线播放无遮挡| 久久久久久伊人网av| 最近的中文字幕免费完整| 国产精品.久久久| 国产一区二区亚洲精品在线观看| 亚洲精品456在线播放app| 美女脱内裤让男人舔精品视频| 一级毛片电影观看| 中文字幕制服av| 欧美精品一区二区大全| 少妇裸体淫交视频免费看高清| 极品少妇高潮喷水抽搐| 精品人妻偷拍中文字幕| 女人十人毛片免费观看3o分钟| 中文在线观看免费www的网站| av在线观看视频网站免费| 高清欧美精品videossex| 尾随美女入室| 成人国产麻豆网| 97精品久久久久久久久久精品| 三级经典国产精品| 亚洲最大成人av| 成人亚洲精品av一区二区| 欧美三级亚洲精品| 午夜亚洲福利在线播放| 久久久a久久爽久久v久久| 2021天堂中文幕一二区在线观| 欧美日韩国产mv在线观看视频 | 亚洲欧美日韩卡通动漫| 国产在线一区二区三区精| 亚洲精品日韩在线中文字幕| 色播亚洲综合网| 天堂av国产一区二区熟女人妻| 精华霜和精华液先用哪个| 亚洲精品日本国产第一区| 黄色配什么色好看| 精品久久国产蜜桃| 亚洲图色成人| 蜜臀久久99精品久久宅男| 日韩欧美精品免费久久| 波多野结衣巨乳人妻| 国产成人免费观看mmmm| 99热全是精品| 一级毛片黄色毛片免费观看视频| 一级毛片久久久久久久久女| 最近最新中文字幕大全电影3| 亚洲成人精品中文字幕电影| videossex国产| 欧美人与善性xxx| 久久久久久久久久黄片| 亚洲人成网站在线播| 2022亚洲国产成人精品| 婷婷色综合www| 国产毛片a区久久久久| av一本久久久久| 久久久久久久亚洲中文字幕| 日本午夜av视频| 亚洲欧美中文字幕日韩二区| 不卡视频在线观看欧美| 色哟哟·www| 99久久人妻综合| 国产精品国产三级专区第一集| 亚洲av免费高清在线观看| 在线播放无遮挡| 高清日韩中文字幕在线| 精品人妻熟女av久视频| av天堂中文字幕网| 少妇裸体淫交视频免费看高清| videos熟女内射| 黄片wwwwww| 在线免费观看不下载黄p国产| 欧美日韩一区二区视频在线观看视频在线 | 日韩视频在线欧美| 日韩不卡一区二区三区视频在线| 在线免费观看不下载黄p国产| 大陆偷拍与自拍| 国产黄色小视频在线观看| 久久这里有精品视频免费| 色吧在线观看| 成年免费大片在线观看| 国产精品1区2区在线观看.| 美女xxoo啪啪120秒动态图| 国产探花在线观看一区二区| 亚洲欧洲国产日韩| 国产亚洲一区二区精品| 国内精品美女久久久久久| 性插视频无遮挡在线免费观看| 欧美97在线视频| 久久久久久伊人网av| 嘟嘟电影网在线观看| 午夜福利在线在线| 国产精品熟女久久久久浪| 又粗又硬又长又爽又黄的视频| 性色avwww在线观看| 看免费成人av毛片| 亚洲av电影在线观看一区二区三区 | 男人爽女人下面视频在线观看| 国产高清不卡午夜福利| 日本免费a在线| 看黄色毛片网站| 亚洲内射少妇av| 国产日韩欧美在线精品| 美女国产视频在线观看| 欧美日韩亚洲高清精品| 街头女战士在线观看网站| 51国产日韩欧美| 大话2 男鬼变身卡| 一区二区三区乱码不卡18| 成年版毛片免费区| 欧美一区二区亚洲| 精品久久久久久久人妻蜜臀av| 搡女人真爽免费视频火全软件| 国产精品蜜桃在线观看| 国产真实伦视频高清在线观看| 天堂俺去俺来也www色官网 | 亚洲乱码一区二区免费版| 麻豆成人午夜福利视频| 亚洲电影在线观看av| 亚洲精品国产av成人精品| 国产黄片美女视频| 色播亚洲综合网| 少妇熟女aⅴ在线视频| 欧美日韩视频高清一区二区三区二| 国产成人午夜福利电影在线观看| 一级毛片电影观看| 可以在线观看毛片的网站| 丰满人妻一区二区三区视频av| 亚洲av不卡在线观看| 亚洲精品,欧美精品| 非洲黑人性xxxx精品又粗又长| 国产永久视频网站| 日韩亚洲欧美综合| 亚洲经典国产精华液单| 久久97久久精品| 国产精品99久久久久久久久| 久久久精品欧美日韩精品| 国产精品不卡视频一区二区| 男女国产视频网站| 亚洲精华国产精华液的使用体验| 国产亚洲午夜精品一区二区久久 | 午夜视频国产福利| xxx大片免费视频| 国产一区有黄有色的免费视频 | 午夜精品在线福利| 精品国产露脸久久av麻豆 | 极品少妇高潮喷水抽搐| 欧美日韩精品成人综合77777| 久久草成人影院| 91av网一区二区| 久久精品国产亚洲网站| 亚洲精品视频女| 久久精品国产亚洲网站| 成人亚洲欧美一区二区av| 六月丁香七月| 亚洲最大成人中文| 嫩草影院新地址| 熟妇人妻久久中文字幕3abv| 青青草视频在线视频观看| 日日摸夜夜添夜夜添av毛片| 听说在线观看完整版免费高清| 人人妻人人看人人澡| 久久久精品欧美日韩精品| 国产午夜精品一二区理论片| 亚洲国产欧美人成| 99久久精品一区二区三区| 日韩三级伦理在线观看| 国产久久久一区二区三区| 亚洲国产av新网站| 极品少妇高潮喷水抽搐| 久久久成人免费电影| 极品教师在线视频| 久久99蜜桃精品久久| 麻豆精品久久久久久蜜桃| 日日啪夜夜撸| 韩国av在线不卡| 国产极品天堂在线| 日本黄色片子视频| 亚洲欧美精品专区久久| 久久99热6这里只有精品| 免费看a级黄色片| 免费看av在线观看网站| 国产真实伦视频高清在线观看| 久热久热在线精品观看| 久久久久精品久久久久真实原创| 免费黄网站久久成人精品| 亚洲欧洲国产日韩| 亚洲久久久久久中文字幕| 黄片wwwwww| 亚洲美女搞黄在线观看| 久久精品国产自在天天线| 内地一区二区视频在线| 日韩不卡一区二区三区视频在线| 18禁动态无遮挡网站| av免费观看日本| 高清毛片免费看| 亚洲av男天堂| 中文字幕久久专区| 日本猛色少妇xxxxx猛交久久| 国产伦精品一区二区三区四那| 噜噜噜噜噜久久久久久91| 伊人久久国产一区二区| 日韩国内少妇激情av| 一级毛片久久久久久久久女| 成人亚洲欧美一区二区av| 国产人妻一区二区三区在| 深夜a级毛片| 国产综合懂色| 夫妻午夜视频| 亚洲欧美日韩东京热| 午夜福利视频1000在线观看| 午夜日本视频在线| 极品教师在线视频| 日日撸夜夜添| 午夜免费观看性视频| 嫩草影院新地址| 精品不卡国产一区二区三区| 日韩亚洲欧美综合| 欧美日韩在线观看h| 高清在线视频一区二区三区| 亚洲国产欧美人成| 18+在线观看网站| av卡一久久| 一区二区三区高清视频在线| 亚洲精品456在线播放app| 国产伦精品一区二区三区视频9| 国产色婷婷99| 男女国产视频网站| h日本视频在线播放| 男人爽女人下面视频在线观看| 日韩精品青青久久久久久| 久热久热在线精品观看| 日日撸夜夜添| 一级黄片播放器| 亚洲欧美成人精品一区二区| 校园人妻丝袜中文字幕| 亚洲av二区三区四区| 免费观看的影片在线观看| 天天躁夜夜躁狠狠久久av| 非洲黑人性xxxx精品又粗又长| 亚洲成人精品中文字幕电影| 欧美极品一区二区三区四区| 亚洲伊人久久精品综合| 午夜精品一区二区三区免费看| 亚洲精品国产成人久久av| kizo精华| 两个人视频免费观看高清| 国产熟女欧美一区二区| av女优亚洲男人天堂| 国产一区二区三区av在线| 99久久人妻综合| 97超视频在线观看视频| 99久久精品一区二区三区| 亚洲av电影在线观看一区二区三区 | 欧美日韩视频高清一区二区三区二| 伦理电影大哥的女人| 春色校园在线视频观看| 男女啪啪激烈高潮av片| 中文字幕亚洲精品专区| 亚洲精品色激情综合|