• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    STEM教育能提高中小學生學業(yè)成就嗎?
    ——基于國內外31項實證研究的元分析

    2021-09-09 06:23:46李小紅
    清華大學教育研究 2021年4期
    關鍵詞:成就學業(yè)異質性

    李 珍 李小紅 陳 晨 王 杉 劉 拓

    (1.北京師范大學 中國基礎教育質量監(jiān)測協(xié)同創(chuàng)新中心,北京 100875;2.教育部人文社會科學重點研究基地天津師范大學心理與行為研究院,天津 300387;3.天津師范大學 心理學部,天津 300387)

    一、引言

    近年來,STEM教育在世界范圍內興起,并迅速成為各國廣泛關注的新型教育范式。(1)Ye-Ping Li et al.,“Learning about Research and Readership Development in STEM Education: a Systematic Analysis of the Journal’s Publications from 2014 to 2018,”International Journal of STEM Education 6,no.1(2019): 1-8;Ye-Ping Li et al.,“Research and Trends in STEM Education: a Systematic Review of Journal Publications,”International Journal of STEM Education 7,no.1(2020): 212-242.STEM教育強調科學、技術、工程和數(shù)學的跨學科整合,重視培養(yǎng)學生實踐能力,以能夠運用多學科知識理解問題、解決現(xiàn)實問題為核心要義。(2)T.J.Kennedy and Michael R.L.Odell,“Engaging Students in STEM Education,”Science Education International 25,no.3(2014): 246-258;楊開城等.STEM教育的困境及出路[J].現(xiàn)代遠程教育研究,2020,(2):20-28.然而,學界關于STEM教育效果的評價褒貶不一,對其影響因素的探討也尚未達成共識。(3)Bevo Wahono et al.,“Evidence of STEM Enactment Effectiveness in Asian Student Learning Outcomes, ”International Journal of STEM Education 7,no.1(2020): 1-18.學業(yè)成就(academic achievement)是衡量教育過程有效性的重要指標(4)胡詠梅,元靜.學校投入與家庭投入哪個更重要?——回應由《科爾曼報告》引起的關于學校與家庭作用之爭[J].華東師范大學學報(教育科學版),2021,(1):1-25.,因此,研究者以學業(yè)成就為標準進行了大量實證研究,以驗證STEM教育的效果。但是,這些研究所采用的研究設計和效應量計算指標各不相同,因此無法進行結果的直接比較,以判斷哪種研究結果更具有參考價值。若能采用恰當?shù)姆椒▽⒉煌难芯拷Y果放在同一量尺上進行比較,再經過整合得出相對客觀的結論,將有助于厘清STEM教育對學業(yè)成就的真實作用。(5)Jeong Heisawn et al.,“Ten Years of Computer-Supported Collaborative Learning: a Meta-Analysis of CSCL in STEM Education during 2005-2014,”Educational Research Review 28,(2019): 1-17.

    元分析正是這樣一種方法,它能夠對多項實證研究進行二次分析,得出一般性的結論。該方法由格拉斯(Glass)于1977年提出,是一種首先應用于臨床心理學的定量文獻分析法。(6)Mark W.Lipsey and David B.Wilson, Practical Meta-Analysis(Thousand Oaks:Sage Publication, 2001), 1-23.其具體步驟如下:先以一定的規(guī)則篩選文獻,再用同一效應量計算指標計算單個研究的效應量,最后將單個效應量通過加權平均計算出合并效應量,即可得到該研究主題下多項研究的預測變量有效性程度。(7)馬志強等.跨學科協(xié)作學習何以有效——STEM教育中CSCL應用效果的元分析[J].現(xiàn)代遠程教育研究,2021,(1):97-104.元分析區(qū)別于傳統(tǒng)主觀性較強的文獻分析法,具有如下兩點優(yōu)勢:一是研究者在難以直接獲得研究數(shù)據的情況下,也可以對存有爭議的實證研究結果進行二次分析。二是可以相對客觀地得出一般性的結論以解決研究爭議,并深入探究引起研究結果差異的原因。

    在元分析的研究過程中,首要任務就是確定研究對象。只有確定了研究對象,才能限定文獻檢索和篩選的范圍。STEM教育的受眾群體極為廣泛,覆蓋了K-12乃至大學和研究生的各個階段。本研究的研究內容是STEM教育對學業(yè)成就的影響,并將標準化測驗成績作為學業(yè)成就的評價指標。而幼兒階段的評價方式并非標準化考試,所以不將學齡前兒童納入研究。同時大學和研究生階段的學習內容和考評方式更加多元,難以橫向比較。綜合來看,小學、初中和高中階段的學習特征相近,具備較大的可比性和規(guī)律性。因此,本研究擬運用元分析,探究STEM教育對中小學生學業(yè)成就的影響及其影響機制。

    二、文獻綜述

    世界各國就STEM教育對中小學生學業(yè)成就的影響問題進行了深入研究。其中,以美國為首的發(fā)達國家(地區(qū))對STEM教育研究較早,在STEM教育對學業(yè)成就的影響方面積累了許多實證研究經驗,但尚未形成一致的結論。(8)*表示同時被納入元分析的實證研究。Pierre Dillenbourg et al.,“The Evolution of Research on Computer-Supported Collaborative Learning,”in Technology-Enhanced Learning, ed. Nicolas Balacheff et al.(Netherland:Springer, 2009), 3-19.部分研究者認為STEM教育能夠對學生學業(yè)成就產生顯著正向影響。李艷燕等發(fā)現(xiàn),與傳統(tǒng)教育相比,STEM教育能夠顯著提升小學生的問題解決能力(R=0.400)(9)Yan-Yan Li et al.,“The Effect on Pupils’ Science Performance and Problem-Solving Ability through Lego: an Engineering Design-Based Modeling Approach,”Journal of Educational Technology & Society 19, no.3(2016): 143-156.,史蒂文(Steven)的研究也表明,STEM教育有助于提高小學科學成績(效應量偏η2=0.752)(10)Steven J.Seage,“The Effects of 5E Blended Learning on the STEM Achievement of Diverse Students” (PhD diss., Barry University, 2020), 17-20.。春蓬(Chumpon)等指出,在實施STEM教育后,學生物理成績明顯提高,效應量R2=0.26。(11)Chumpon Chanthala et al.,“Affecting the Activity-Based on Learning Approaching Management through the STEM Education Instructional Method for Fostering the Creative Thinking Abilities, Learning Achievements and Environmental Perceptions in Physics Laboratory Classes of Secondary Students at the 10th Grade Level,”European Journal of Education Studies 3,no.5(2017): 94-122.類似的研究還有許多(12)Holly Dalby,“STEM Integration and its Impact on Student Learning: a Mixed Methods Study”(EdD diss., Northcentral University, 2020), 67-94;Carol C.Waters,“Exploring K-5 STEM Educators’ Perceptions of a Successful STEM Elementary School” (EdD diss., University of Houston Clear Lake, 2018), 63-77.,這些研究都發(fā)現(xiàn),與未接受STEM教育的學生相比,接受STEM教育的學生學業(yè)成就顯著更高。然而,也有研究認為,STEM教育未能對學業(yè)成就產生作用,或是其效果明顯差于傳統(tǒng)教育。米歇爾(Michelle)采用準實驗研究發(fā)現(xiàn),STEM課程不會對中學生學業(yè)成績產生顯著影響(p>0.01)。(13)Michelle Renee Hammonds,“Science, Technology, Engineering, and Mathematics (STEM) Curriculum and Standardized Test Scores in Middle School Students”(M.Ed diss., University of Houston, 2012), 32-38.杰米(Jamie)的研究也表明,在前測成績相同的情況下,與接受STEM教育的學生相比,接受傳統(tǒng)教育的學生數(shù)學和科學成績顯著更高(p<0.001)(14)Jamie Smith James,“Science, Technology, Engineering, and Mathematics (STEM) Curriculum and Seventh Grade Mathematics and Science Achievement”(EdD diss., Grand Canyon University, 2014), 93-96.。而迪恩(Dean)則發(fā)現(xiàn)STEM教育與科學成就之間存在顯著的負相關關系。(15)Dean Cairns and Shaljan Areepattamannil,“Exploring the Relations of Inquiry-Based Teaching to Science Achievement and Dispositions in 54 Countries,”Research in Science Education 49,no.1(2019):1-23.

    由此可見,學界對STEM教育與學業(yè)成就之間的關系探討仍存在爭議。這或許與STEM教育對學業(yè)成就的影響會受到其他因素的制約有關。已有研究多從課堂實施質量、非智力因素、性別差異等方面來解釋STEM教育對學業(yè)成就的影響。喬納森(Jonathan)等人發(fā)現(xiàn)是否接受長期、高效的STEM課程對STEM教育與學業(yè)成就的關系具有顯著影響。(16)Jonathan Wai et al.,“Accomplishment in Science, Technology, Engineering, and Mathematics (STEM) and its Relation to STEM Educational Dose: A 25-Year Longitudinal Study,”Journal of Educational Psychology 102, no.4(2010): 860-871.馬克(Mark)論證了STEM興趣和態(tài)度在STEM教育與學業(yè)成就關系中的調節(jié)作用,并指出男女生在STEM學習態(tài)度上存在著差異。(17)Mark Patrick Mahoney,“Students' Attitudes toward STEM: Development of an Instrument for High School STEM-Based Programs,”Journal of Technology Studies 36,no.1(2010): 24-34.同樣,敏(Myint)的研究表明男女生的空間能力差異會導致STEM教育對學業(yè)成就影響的不同。(18)Myint Swe Khine, Visual-Spatial Ability in STEM Education(Berlin: Springer International Publication, 2016):195-224.而呂偉妮(2020)的研究表明男女生學習STEM課程的能力差異是由性別刻板印象所致。(19)呂偉妮.中學生STEM學業(yè)成就差異的性別作用機理研究[D].山東:青島大學教育系師范學院,2020.綜上所述,學界對于STEM教育與學業(yè)成就的關系及影響這一關系的調節(jié)變量的解讀各不相同。

    近年來,為了尋求STEM教育與中小學生學業(yè)成就關系的一致性結論,國內外研究者嘗試用元分析方法歸納整合不同實證研究結果(20)許靜等.國外中小學STEM教學影響學生學習效果的元分析[J].當代教育論壇,2020,(5):89-97;馬志強等.跨學科協(xié)作學習何以有效——STEM教育中CSCL應用效果的元分析[J].現(xiàn)代遠程教育研究,2021,(1):97-104;Veli Batdi,“The Success of Students Using the Conceptual Map Technique and the Traditional Learning Method, its Effect on the Persistence and Attitudes of the Knowledge: a Meta-Analysis Study,”Dumlupinar University Journal of Social Sciences 42,no.2(2015): 93-102;Nam Ju Kim et al.,“Effectiveness of Computer-Based Scaffolding in the Context of Problem-Based Learning for STEM Education: Bayesian Meta-Analysis,”Educational Psychology Review 30, no.2(2018): 397-429.,但已有研究都在不同程度上存在一定的問題,一是納入文獻的篩選規(guī)則不明確,無法確定納入文獻與研究內容的適切性。二是所研究的STEM教育方法較為單一,使得研究結果的可推廣性較差。因此,本研究在前人研究的基礎上,擬通過科學的元分析方法解決如下兩個問題:(1)STEM教育是否有助于提升中小學生的學業(yè)成就,其提升程度有多大?(2)哪些調節(jié)變量影響了STEM教育對中小學生學業(yè)成就的影響?

    三、研究設計

    本研究采用元分析方法進行研究。其研究步驟主要包括:文獻檢索、文獻納入標準的制定、文獻篩選、文獻編碼、編碼準確性評估、效應量的計算與合并、異質性分析以及發(fā)表偏倚檢驗。(21)Michael Borenstein et al., Introduction to Meta-Analysis(New Jersey: John Wiley & Sons, 2009), 1-37.本研究采用R 4.0.4軟件中的metafor、meta、dmetar、dplyr、esc統(tǒng)計包進行數(shù)據分析。

    (一)文獻檢索

    元分析研究所納入的文獻應盡量全面,文獻來源應盡可能廣泛。為此,本研究依據布爾檢索規(guī)則在Web of Science Core Collection、ERIC(EBSCO)、ProQuest Dissertations & Theses (PQDT)、Taylor & Francis Online、Wiley Online Library、Science Direct這6個教育學領域常用數(shù)據庫以 (“STEM education”O(jiān)R“STEM” OR “integrated STEM education”) AND (“student achievement”O(jiān)R“student performance”O(jiān)R“teaching effect”O(jiān)R“teaching effectiveness”O(jiān)R“teaching role”O(jiān)R“teaching impact” OR“ academic achievement”O(jiān)R“l(fā)earning outcomes” OR“education evaluation”)為檢索式進行高級檢索,在Google Scholar進行精細檢索,并在中國知網、萬方搜索以關鍵詞“STEM教育”、“整合STEM”并含“學業(yè)成就、評估、學業(yè)表現(xiàn)”,搜索發(fā)表于2002-2021年間(22)根據WoS核心數(shù)據庫統(tǒng)計顯示,真正開始對STEM教育進行研究是以2002年伊萊恩·西摩(Elaine Seymour)在《科學教育》期刊上發(fā)表了一篇題為《美國本科科學、數(shù)學、工程和科技教育變革過程的跟蹤》的文章為標志。的文獻,語種分別為英文和中文。首次檢索獲得的文獻數(shù)量為19627篇。

    (二)文獻納入標準制定

    在制定元分析文獻準入規(guī)則時,應嚴格按照研究目的、研究內容和統(tǒng)計需要來確定,避免個人主觀意愿。結合本研究主題,確定納入文獻需滿足如下4個條件:

    1.研究所使用語言為中文或英文,發(fā)表于2002-2021年間,文獻類型為期刊文獻或碩博學位論文。

    2.研究內容為STEM教育對中小學生學業(yè)成就的影響,不包含學前教育、特殊教育、職業(yè)教育等,不涉及對學生思維水平、非認知能力等的影響。

    3.研究類型為實證研究,排除定性研究,實證研究的研究設計為相關研究、因果推斷研究或實驗研究,實驗研究為隨機實驗或準實驗設計,均設置實驗組(STEM教育)和對照組(傳統(tǒng)教育),便于比較STEM教育和傳統(tǒng)教育對學業(yè)成就的影響。

    4.研究應報告均值、標準差、樣本量或t值、F值、效應量等統(tǒng)計信息,確保能計算或轉換出單個效應量和合并效應量。

    (三)文獻篩選

    根據上述文獻準入規(guī)則,首先通過標題進行第一次文獻篩選得到1696篇相關文獻。然后通過閱讀摘要排除明顯不符合規(guī)則的文獻,剩余60篇。最后進行全文閱讀篩選,得到31篇符合納入標準的文獻,獲得有效效應量42個(23)部分文獻有多個研究,得到多個有效效應值。,總樣本量為12332。篩選過程如圖1:

    (四)文獻編碼

    確定原始文獻后,對原始文獻進行編碼,生成數(shù)據文件,以便進行后續(xù)各項指標的計算。參照馬克(Mark)和大衛(wèi)(David)提出的規(guī)則,文獻編碼至少需要包含作者、出版年份、研究涉及的學科/課程、受教育階段、出版類型等信息。(24)Mark W.Lipsey and David B.Wilson, Practical Meta-Analysis(Thousand Oaks:Sage Publication, 2001), 1-23.本研究的文獻編碼如下:

    1.文獻類型(Litrature type, Lt):碩博論文編碼為D,期刊論文編碼為J。

    2.樣本量(Sample size, Ss):參照艾倫(Alan)和羅伯特(Robert) 提出的標準(25)Alan C.K.Cheung and Robert E.Slavin,“Effects of Educational Technology Applications on Reading Outcomes for Struggling Readers: A Best Evidence Synthesis,”Reading Research Quarterly 48,no.3(2013):277-299.,樣本量大于250為大樣本,編碼為1,小于等于250為小樣本,編碼為2。

    3.性別(Gender, Gen):男性編碼為1,女性編碼為0,男女均有編碼為2,未報告編碼為缺失,編碼表中以“-”代替。

    4.受教育階段(Grade, Gra):樣本學段處于小學階段編碼為E,中學階段編碼為M。

    5.區(qū)域(Region, Re):以文獻中樣本所在地區(qū)為準,具體包括美國(U.S.)、土耳其(TUR)、尼日利亞(NG)、阿拉伯聯(lián)合酋長國(U.A.E.)、中國臺灣和北京。

    6.學科(Subject, Sub):以納入文獻中學業(yè)成就所測試的學科為準,涉及科學、工程、數(shù)學、閱讀和英語學科。

    7.研究設計(Research design, Rd):本研究中的研究設計涉及心理學中常用的研究類型:隨機實驗設計(Random-experimental design, Re)、準實驗設計(Quasi-experimental design, Qe)、相關研究(Comparative design, Cd)和因果推斷設計(Causal-comparative design, Ccd)。

    8.STEM教育方法(STEM education method, Sem):根據美國工程教育學會第120屆學術會議上戴維(David)等人的報告,目前STEM教育主要包括四種典型的教學方法,分別是:問題式學習(Problem-based learning)、 項目式學習(Project-based learning)、設計式學習(Design-based learning)和探究式學習(Inquiry-based learning)。(26)David R.Heil et al.,“Understanding Integrated STEM Education: Report on a National Study, ”ASEE Annual Conference & Exposition, Atlanta, Georgia. 2013: 1-15.通過分析四種教學方法的內涵,將本研究中的具體教育方法分別歸入對應的類別:問題式學習的前提假設是學習是一種能動的、整合的,受社會文化因素影響的建構過程。學生用先驗知識解決真實情境中的復雜問題,同時獲得新知識。其創(chuàng)造力和在現(xiàn)實世界中的問題解決能力在此過程中得到發(fā)展。包含原始文獻中的STEM program、STEM school、STEM approach和Problem-based Learning。項目式學習強調教師在設計項目時,全面衡量教學內容的學科覆蓋程度。不能局限于科學和數(shù)學兩個學科,而工程和技術學科被認為是實現(xiàn)學科整合的基礎和橋梁。STEM項目的合理性和有效性以跨學科性和整合性雙重標準評定。原始文獻中的STEM roles activity 、STEM lesson plan、STEM training、STEM method、ISTEMA method、Project-based Learning、integrated STEM、STEM education和STEM integration符合項目式學習的核心內涵。設計式學習是指教師從一個現(xiàn)實需求出發(fā),引導學生進行概念設計、原型設計和測試的開發(fā),最終創(chuàng)造一個能滿足現(xiàn)實需求的產品。包含原始文獻中的Engineering design-based、Engineering course和Computer-based probeware。探究式學習是一種研究性教學方法。學生通過提出問題,圍繞這一問題設計和進行實驗,再在實驗數(shù)據分析基礎上得出結論。在不斷地總結和修正發(fā)現(xiàn)的過程中逐漸形成對知識的正確理解。包含原始文獻中的Inquiry-based Science Instruction和Inquiry-based Learning。經整理,得到如表1所示的原始文獻信息編碼表:

    (五)編碼準確性評估

    編碼準確性對于元分析至關重要。本研究在進行元分析前,由兩名研究者分別獨立對文獻進行編碼,計算編碼的一致性程度。根據一致性系數(shù)(Cohen kappa)大于0.7的統(tǒng)計要求(27)Ali Yldrm and Hasan Simsek, Sosyal Bilimlerde Nitel Arastirma Yontemleri [Qualitative Research Methods in Social Sciences](Ankara: Seckin Publication, 2011), 237-253.,本研究的編碼一致性為0.9,證明本研究編碼結果是可靠的。

    四、研究結果

    (一)效應量的計算與合并

    計算與合并效應量是元分析的核心環(huán)節(jié)。西烏(Siu)認為,效應量不但能揭示預測變量作用的大小,而且可作為統(tǒng)一的度量標準用以比較包含相同變量的系列研究結果(28)Siu L.Chow,“Significance Test or Effect Size,”Psychological Bulletin 103, no.1(1988): 105-110.②Gulcan Sarican and Devrim Akgunduz,“The Impact of Integrated STEM Education on Academic Achievement, Reflective Thinking Skills towards Problem Solving and Permanence in Learning in Science Education,”Cypriot Journal of Educational Sciences 13, no.1(2018): 94-107.③Müzdelife Kurt and Semraanl Benzer,“An Investigation on the Effect of STEM Practices on Sixth Grade Students’ Academic Achievement, Problem Solving Skills, and Attitudes towards STEM,”Journal of Science Learning 3, no.2(2020): 79-88.④Dilber Acar et al.,“The Effects of STEM Training on the Academic Achievement of 4th Graders in Science and Mathematics and Their Views on STEM Training,”International Electronic Journal of Elementary Education 10,no.4(2018): 505-513.⑤John F.Moyer,“Probeware in 8th Grade Science: A Quasi-Experimental Study on Attitude and Achievement”(EdD diss., Wilmington University, 2013), 35-76.⑥Norma Olivarez,“The Impact of a STEM Program on Academic Achievement of Eighth Grade Students in a South Texas Middle School”(EdD diss., TEXAS A&M University Corpus Christi, 2012), 29-47.⑦Chemisi Asha Kogo-Masila,“A Comparative Study of Two Graduation Pathways: Traditional vs. STEM at a Southeastern High School”(EdD diss., Gardner Webb University, 2017), 38-86.⑧Cotabish Alicia et al.,“The Effects of a STEM Intervention on Elementary Students' Science Knowledge and Skills,”School Science and Mathematics 113, no.5(2013): 215-226.⑨Kyung Hee Kim et al.,“Project Clarion: Three Years of Science Instruction in Title I Schools among K-Third Grade Students,”Research in Science Education 42, no.5(2012): 813-829. Melanie Megias Eileen,“The Impact of High School Science, Technology, Engineering, and Mathematics (STEM) Magnet Programs on the Academic Performance of Students”(EdD Diss., The College of William and Mary, 2020), 47-98.Hind Gergi Abou Nasr Kassir,“The Effectiveness of the Science-Inquiry Teaching Approach on the Students’ Achievement and Engagement in the UAE Public Schools”(EdD Diss., The British University in Dubai, 2013), 22-47.Omotayo Ojaleye and Adeneye O.A.Awofala,“Blended Learning and Problem-Based Learning Instructional Strategies as Determinants of Senior Secondary School Students’ Achievement in Algebra,”International Journal of Research in Education and Science 4, no.2(2018): 486-501.。更為重要的是,人們可以通過元分析等技術手段,對效應量進行加權平均以獲得研究的整體效應大小。

    本研究通過提取42項研究的樣本量、均值、標準差、統(tǒng)計量等信息,采用標準化平均差異(Standardized mean difference,SMD)公式計算單個研究效應量和合并效應量。教育研究中常用的SMD有Cohen’s d、Glass’s Δ、Hedges’s g等,在單次研究中計算SMD的常用指標是 Cohen’ d。(29)Jacob Cohen,Statistical Power Analysis for the Behavioral Sciences(New York: Lawrence Erlbaum Associates, 1988), 19-66.②Ann Robinson et al.,“The Effects of a Science-Focused STEM Intervention on Gifted Elementary Students’ Science Knowledge and Skills,”Journal of Advanced Academics 25, no.3(2014): 189-213.③Alfred Olufemi Fatade et al.,“Effect of Problem-Based Learning on Senior Secondary School Students Achievements in Further Mathematics,”Acta Didactica Napocensia 6, no.3(2013): 27-44. ④Abeera Parvaiz Rehmat,“Engineering the Path to Higher-Order Thinking in Elementary Education: a Problem-Based Learning Approach for STEM Integration”(PhD diss., University of Nevada, 2015), 69-110.⑤Deborah O.Maxwell et al.,“Effects of Using Inquiry-Based Learning on Science Achievement for Fifth-Grade Students,”Asia-Pacific Forum on Science Learning and Teaching 16, no.1(2015): 1-31.⑥Szu-Chun Fan and Kuang-Chao Yu,“How an Integrative STEM Curriculum can Benefit Students in Engineering Design Practices,”International Journal of Technology & Design Education 27,no.1(2015): 107-129. ⑦Akawo Angwal Yaki, “Enhancing Science Achievement Utilising an Integrated STEM Approach,”Malaysian Journal of Learning and Instruction 16, no.1(2019): 181-205.⑧Salih Gülen,“The Effect of STEM Roles on the Solution of Daily Life Problems,”Participatory Educational Research 6, no.2(2019): 37-50.⑨Salih Gülen and Süleyman Yaman,“The Effect of Integration of STEM Disciplines into Toulmin’s Argumentation Model on Students’Academic Achievement, Reflective Thinking, and Psychomotor Skills,” Journal of Turkish Science Education 16, no.2(2019): 216-230.David Proudfoot et al.,“STEM Certification in Georgia’s Schools: a Causal Comparative Study Using the Georgia Student Growth Model,”Georgia Educational Researcher 15,no.1(2018): 16-39.Meltem Alemdar,“The Impact of a Middle School Engineering Course on Students’ Academic Achievement and Non-Cognitive Skills,”International Journal of Education in Mathematics, Science and Technology 6, no.4(2018): 363-380.Hasan ?zcan and Esra Koca,“The Impact of Teaching the Subject ‘Pressure’ with STEM Approach on the Academic Achievements of the Secondary School 7th Grade Students and Their Attitudes towards STEM,”Education and Science 44, no.198(2019): 201-227.Evelyn R.Tolliver,“The Effects of Science, Technology, Engineering and Mathematics (STEM) Education on Elementary Student Achievement in Urban Schools”(EdD diss., Grand Canyon University, 2016), 70-111.Angela Anita Wade-Shepherd,“The Effect of Middle School STEM Curriculum on Science and Math Achievement Scores”(EdD diss., Union University, 2016), 54-98.Gülsüm Araz, “The Effect of Problem-Based Learning on the Elementary School Students’ Achievement in Genetics”(M.Ed diss., Middle East Technical University, 2007), 44-90. Susan E.Holveck, “Teaching for Conceptual Change in a Density Unit Taught to 7th Graders: Comparing Two Teaching Methodologies-Scientific Inquiry and a Traditional Approach” (EdD diss., University of Oregon, 2012), 64-218.Barth Katie Nicole, “An Investigation of the Effects of Integrating Science and Engineering Content and Pedagogy in an Elementary School Classroom”(MA diss., Brigham Young University, 2013), 25-45.但是,在計算整體效應時,采用這種方式計算小樣本研究的SMD會導致效應量被高估??紤]到本研究中有不少研究是小樣本,為降低計算偏差本研究采用Hedges’s g(以下簡稱g值)作為效應量估計指標。

    在估計合并效應量時,如果樣本間存在異質性,需要采用隨機效應模型進行分析,反之可采用固定效應模型。經檢驗,本研究存在異質性(Q=253.38,p<0.001),故采用隨機效應模型進行估計(30)Noel A.Card, Applied Meta-Analysis for Social Science Research(New York: Guilford Press, 2011), 107-257.。 效應量計算結果見表2:

    根據雅各布(Jacob)的標準,0.2-0.49為小效應,0.50-0.79為中等效應,0.8及以上為大效應。由表2可知,從單個研究的效應量來看,報告大效應的研究有11篇,約占總研究的26%。報告中等程度效應量的研究有8篇,約占總研究的19%,其結果都顯著。報告小效應的研究有9篇,約占總研究的21%,只有4篇具有統(tǒng)計意義。呈現(xiàn)負效應的研究有4篇,約占總研究的10%,其中有1篇研究結果不顯著。效應量小于0.2的研究忽略不計。從所有研究的合并效應量來看,STEM教育組與傳統(tǒng)教育組的標準化平均差異為0.616(p<0.001),95%置信區(qū)間為[0.291, 0.941],說明STEM教育對學業(yè)成就的影響顯著。本研究的合并效應量屬于中等效應范圍。

    (二)異質性分析

    1.異質性檢驗

    異質性檢驗(Heterogeneity test),也叫效應量的齊性檢驗,是指對每個效應量的波動變化程度進行檢驗。如果各效應量之間的差異顯著就表明研究之間存在真實差異,而非抽樣誤差。如果研究間是異質的,則需要進一步探究是否存在極端值(outliers),即個別研究的效應量極大或極小,這些極端值都可能會影響總體效應量,甚至扭曲研究結果。評估異質性的常用指標有:Higgin’ s & Thompson’ s I2和Cochran’ s Q。本研究的異質性檢驗結果如下:

    異質性檢驗結果表明,本研究納入的研究之間具有強異質性(I2>80%,表示強異質性,且Q值顯著)。在檢出研究之間存在異質性后,需繼續(xù)檢測是否存在極端值。檢測極端值的常用方法是觀察某個研究效應量的置信區(qū)間與合并效應量的置信區(qū)間是否有重合,沒有則認為該效應量是極端值。從表2可以得出7個極端值(研究2、8、11、17、21、23和24),其中,研究8和21是極端小的效應,其置信區(qū)間的上限明顯低于合并效應值置信區(qū)間的下限,研究11、17、21、23和24是極端大的效應,其置信區(qū)間的下限明顯高于合并效應值置信區(qū)間的上限。

    在剔除7個極端值后重新計算合并效應量,查看剔除前后研究結果的變化,以此判斷極端值對綜合效應量的影響。更新后的研究結果如表4所示:

    由表4可知,剔除極端值后,合并效應量由0.616變?yōu)?.499,Q值也由817.33變?yōu)?53.38。說明這7篇原始文獻對總效應量的影響較大。

    2.亞組分析與元回歸

    亞組分析(Subgroup analysis),又稱調節(jié)變量分析,是探索異質性來源的又一重要途徑。元回歸 (meta-regression)與亞組分析并沒有本質區(qū)別,但兩者在分析的數(shù)據類型上存在一定差異,元回歸適用于調節(jié)變量是連續(xù)型數(shù)據的研究,亞組分析適用于調節(jié)變量是分類數(shù)據的研究。

    調節(jié)變量的選取可以采用兩種方式,一方面可以采用前人研究中揭示的STEM教育效果的影響因素,包括性別、家庭社會經濟地位、種族、地域等。(31)Christopher S.Rozek et al.,“Reducing Socioeconomic Disparities in the STEM Pipeline through Student Emotion Regulation,”Proceedings of the National Academy of Sciences 116, no.5(2019): 1553-1558.另一方面可以參照以往元分析文獻的經驗,采用文獻來源、樣本量、研究設計類型、區(qū)域、學段和STEM教育方法等。(32)Nur Choiro Siregaret al., “The Effect of Science, Technology, Engineering and Mathematics (STEM) Program on Students’ Achievement in Mathematics: a Meta-Analysis,”International Electronic Journal of Mathematics Education 15, no.1(2019): 1-12.本研究綜合考慮兩種調節(jié)變量選取策略,采用樣本量、學段、文獻類型、學科、研究設計、教育方法和研究地區(qū)等變量為調節(jié)變量做亞組分析。分析結果如表5所示:

    由表5可知,在樣本量、學段、文獻類型和研究設計中都沒有發(fā)現(xiàn)明顯的組間差異,表明這些變量并不調節(jié)綜合效應的結果。而學科、STEM教育方法和研究地區(qū)組間差異顯著,可以證明這些變量的不同亞組對綜合效應的影響不同。就學科而言,科學和閱讀都呈現(xiàn)中等程度的效應量(均大于0.5),其他學科對學業(yè)成就的影響都是小效應量。就教育方法而言,項目式、問題式和探究式教學法的效應量較大。其中項目式教學法的效應量為0.722,接近高效應0.8。問題式和探究式教學法呈現(xiàn)中等效應。設計式教學法表現(xiàn)為較小的效應。就研究地區(qū)而言,土耳其、尼日利亞和中國臺灣的效應量較大,分別為0.828、0.796和0.869。值得注意的是美國納入研究量最多,但其效應量相對較小(g=0.318)。

    元回歸分析將研究發(fā)表年份作為預測變量,考察其對STEM教育與學業(yè)成就關系的影響,由表6可知,研究發(fā)表年份的調節(jié)效應并不顯著,說明研究發(fā)表年份的不同,不會影響STEM教育與學業(yè)成就的關系。

    (三)發(fā)表偏倚檢驗與效應量修正1.發(fā)表偏倚檢驗

    發(fā)表偏倚也稱出版偏差,是指在同類研究中,具有統(tǒng)計學意義的研究比不具有統(tǒng)計學意義的研究更容易被接收和發(fā)表,或者高效應量的研究比低效應量的研究更有可能被發(fā)表。(33)Michael Borenstein et al., Introduction to Meta-Analysis(New Jersey: John Wiley & Sons, 2009), 352-360.理想的元分析情境是能夠得到所有符合納入標準的研究,但這是不現(xiàn)實的,因為元分析研究者很難收集到相關領域的所有文獻,比如沒有公開發(fā)表的文章。在元分析中,直觀地評定發(fā)表偏倚的方法是漏斗圖,統(tǒng)計方法常用Egger檢驗。(34)Noel A.Card, Applied Meta-Analysis for Social Science Research(New York: Guilford Press, 2011), 107-257.如圖2所示的漏斗圖中,標準線左右分布的研究樣本點明顯不對稱,說明存在一定的發(fā)表偏倚。繼續(xù)采用定量的方法進行Egger檢驗,結果如表7所示,Egger檢驗的結果顯著(t=3.669,p<0.01)。這也證明本研究存在發(fā)表偏倚。但研究者可以通過剪補法(trim and fill)(35)Sue Duval and Richard Tweedie,“Trim and Fill: a Simple Funnel-Plot-Based Method of Testing and Adjusting for Publication Bias in Meta-Analysis,”Biometrics 56, no.2(2000): 455-463.修正發(fā)表偏倚。

    2.效應量修正

    本研究運用剪補法,對效應量進行修正。該方法確定并修剪了13項研究。修剪后的總體效應量估計為 g = 0.216 (即SMD=0.216,p=0.045)。與原始結果g=0.499相比,修剪填充后的結果小于原始結果,這表明發(fā)表偏差使得效應量被高估,效應量放大了28.3%。將修剪后的結果保存下來,可以得到包含了推測的研究(即缺失的研究)在內的新的漏斗圖。如圖3所示,白色圓點為推測的缺失研究,灰色圓點為發(fā)表的研究。

    以上分析結果表明,本研究修正后的效應量,已經在一定程度上消除了發(fā)表偏倚對分析結果的影響,研究結果較為穩(wěn)健,即0.216更為接近STEM教育對中小學生學業(yè)成就影響的真實效應量。

    五、結論與討論

    本研究運用元分析方法,探究了STEM教育對國內外中小學生學業(yè)成就的影響,并分析了影響STEM教育與學業(yè)成就關系的主要因素,得出如下兩點結論。

    (一)STEM教育有助于提升中小學生學業(yè)成就

    研究結果表明,STEM教育比傳統(tǒng)教育更有助于提升中小學生的學業(yè)成就,但提升程度較小(g=0.216)。通過分析發(fā)現(xiàn),單個研究效應量和納入文獻的范圍都對綜合效應量有影響。

    單個研究效應量直接影響綜合效應量。本研究的綜合效應量與許多相同主題的元分析一致(36)Nur Choiro Siregar et al.,“The Effect of Science, Technology, Engineering and Mathematics (STEM) Program on Students’ Achievement in Mathematics: a Meta-Analysis,”International Electronic Journal of Mathematics Education 15, no.1(2019): 1-12;Hakan Sara?, “The Effect of Science, Technology, Engineering and Mathematics-STEM Educational Practices on Students’ Learning Outcomes: a Meta-Analysis Study,”Turkish Online Journal of Educational Technology-TOJET 17, no.2(2018): 125-142;曾昭炳,姚繼軍.尋找“最佳證據”:如何運用元分析進行文獻綜述——以STEM教育對學生成績的影響研究為例[J].華東師范大學學報(教育科學版),2020,(6):70-85.,這些研究的效應量分別是0.242、0.442和0.410,都是較小的效應量。本研究中,呈現(xiàn)大效應的研究占總研究量的26%,中等效應量有19%,報告小效應量、負效應和不具有統(tǒng)計學意義的研究占納入文獻的55%。可見,原始文獻中呈現(xiàn)中等程度以下效應量的研究比例大于中等及以上效應量的比例。同時,在計算綜合效應量過程中,一部分研究的負效應與正效應相互抵消,導致總效應量偏小。在賽瑞格(Siregar)的研究中,也體現(xiàn)出類似的特點。但整體而言,本研究結果仍具有統(tǒng)計意義。

    納入文獻的范圍對綜合效應量有一定影響。首先,本研究納入的文獻,其研究區(qū)域覆蓋了國內外。其次,本研究將采用實驗研究、相關研究或因果推斷設計的文獻都囊括在內。同時,所納入文獻涵蓋了所有目前最典型的STEM教育方法。最后,本研究考察了STEM教育對多門學科學業(yè)成就的影響。既有元分析幾乎沒有同時滿足上述四種條件的研究。本研究認為在綜合考慮不同類型研究的基礎上得出的綜合效應值相對客觀,且更為接近STEM教育對學業(yè)成就的真實影響。

    (二)學科、STEM教育方法和地區(qū)變量調節(jié)STEM教育與中小學生學業(yè)成就的關系

    本研究發(fā)現(xiàn),所評估的學科、實施的STEM教育方法和研究地區(qū)的不同,是造成STEM教育對學生學業(yè)成就影響差異的關鍵因素。

    就研究所評估的學科而言,組間異質性結果顯著,這與已有研究結果相反。有研究者認為STEM學科之間有很高的融通性(37)Ali Bicer et al.,“Integrated STEM Assessment Model,”Eurasia Journal of Mathematics, Science and Technology Education 13, no.7 (2017): 3959-3968.,不同學科下,STEM教育對學業(yè)成就產生的影響相似。但本研究的結果恰恰證明了目前的STEM教育實踐中,有效整合STEM學科的案例并不普遍(38)David R.Heil et al.,“Understanding Integrated STEM Education: Report on a National Study,”ASEE Annual Conference & Exposition, Atlanta, Georgia. 2013: 1-15.,學科壁壘現(xiàn)象依然存在。然而,本研究所體現(xiàn)出的差異p=0.048,與臨界值0.05極為接近,說明學科間并沒有極大的差異。隨著STEM教育實踐的深化和完善,大力發(fā)展學科融合和協(xié)同教學,能夠有效打破學科壁壘,為提升學業(yè)成就助力。

    就STEM教育方法而言,項目式、問題式、探究式教學法的效應均顯著,這與以往研究結果基本一致。(39)Becker Kurt Henry and Kyungsuk Park, “Integrative Approaches among Science, Technology, Engineering, and Mathematics (STEM) Subjects on Students’ Learning: a Meta-Analysis,”Journal of STEM Education 12,no.5,(2011),23-37;Zhao-Bing Zeng et al., “A Meta-Analysis on the Effects of STEM Education on Students’ Abilities,”Science Insights Education Frontiers 1, no.1(2018): 3-16.表明世界各國在大力推行STEM教育過程中,開發(fā)出了許多行之有效的STEM教育方法。這些方法雖具有各自的特征,但都體現(xiàn)了STEM教育的核心要義:融合多學科,解決現(xiàn)實問題。因此對學生的學業(yè)成就都起到了促進作用。值得注意的是,設計式教學法的效應量較小。本研究中這類教學法包括探索式計算機環(huán)境教學法和工程式教學法。該方法的效應量較小一方面是由于本研究納入采用此類方法的文獻數(shù)量較少,另一方面反映出這類方法運用的學科知識較為單一,對學業(yè)成就的提升效果有限。因此,在STEM教育實踐中應注重選擇恰當?shù)姆椒ㄟM行教學,達到教學效果最大化。

    就研究地區(qū)而言,土耳其的效應量達到0.8的高效應水平,土耳其STEM教育對中小學生學業(yè)成就的影響較其他國家更加明顯。但是,作為STEM教育發(fā)源地的美國,其STEM教育對中小學生學業(yè)成就的作用只達到了中等偏上水平。毋庸置疑,地區(qū)差異是各類研究中最常被探討的問題。大到各個國家政府對STEM的重視和投入程度存在差異,小到各國學生和家長對STEM教育的態(tài)度和動機不同,都會對STEM教育與學業(yè)成就的關系產生影響。地區(qū)差異帶來的影響提示我們,在提升STEM教育水平和效果時,要根據本國國情采取適當?shù)膶Σ?,不可急于求成,照搬別國經驗。

    猜你喜歡
    成就學業(yè)異質性
    艱苦的學業(yè)
    了不起的成就
    基于可持續(xù)發(fā)展的異質性債務治理與制度完善
    音樂提升學生學業(yè)表現(xiàn)
    樹起學業(yè)擔當之心
    中學語文(2019年34期)2019-12-27 08:03:46
    失戀“成就”的CEO
    華人時刊(2017年13期)2017-11-09 05:39:16
    回顧五年成就
    現(xiàn)代社區(qū)異質性的變遷與啟示
    35
    1949年前譯本的民族性和異質性追考
    国产成人一区二区三区免费视频网站| 老司机在亚洲福利影院| 男女下面插进去视频免费观看| 日本免费a在线| 亚洲熟妇中文字幕五十中出| 亚洲视频免费观看视频| 88av欧美| 国产欧美日韩精品亚洲av| 亚洲成av片中文字幕在线观看| 亚洲自拍偷在线| av中文乱码字幕在线| 日韩免费av在线播放| 欧美不卡视频在线免费观看 | 悠悠久久av| 悠悠久久av| 国产亚洲av高清不卡| 欧美成人午夜精品| 亚洲欧美日韩另类电影网站| 国产乱人伦免费视频| 免费在线观看视频国产中文字幕亚洲| 不卡av一区二区三区| 麻豆一二三区av精品| 99国产精品99久久久久| 麻豆一二三区av精品| 国产熟女xx| 日韩国内少妇激情av| 两个人看的免费小视频| 欧洲精品卡2卡3卡4卡5卡区| 国产亚洲欧美98| www.精华液| 校园春色视频在线观看| 久久久久国产一级毛片高清牌| 国产激情久久老熟女| 中文字幕最新亚洲高清| 午夜久久久久精精品| 国产片内射在线| 日韩欧美在线二视频| 午夜福利成人在线免费观看| 亚洲免费av在线视频| 亚洲第一欧美日韩一区二区三区| 亚洲免费av在线视频| 久久伊人香网站| 成人亚洲精品av一区二区| 国产亚洲欧美98| 成年女人毛片免费观看观看9| 在线av久久热| 国产激情久久老熟女| 成人18禁在线播放| 国产在线精品亚洲第一网站| 99国产精品99久久久久| 中文字幕色久视频| 黄色视频不卡| 久久精品国产清高在天天线| 亚洲久久久国产精品| 国产欧美日韩精品亚洲av| www.999成人在线观看| 久久香蕉国产精品| 日本a在线网址| 亚洲五月天丁香| 青草久久国产| 无人区码免费观看不卡| 嫩草影视91久久| 亚洲国产欧美日韩在线播放| 久久人人精品亚洲av| 国产一区二区三区在线臀色熟女| 人妻久久中文字幕网| 欧美性长视频在线观看| 欧美黑人精品巨大| 在线观看免费日韩欧美大片| 色综合婷婷激情| 免费在线观看影片大全网站| 久久久精品欧美日韩精品| 国产成人av教育| 一级毛片高清免费大全| 欧美av亚洲av综合av国产av| 亚洲五月天丁香| 亚洲精品国产色婷婷电影| 在线观看免费视频日本深夜| 宅男免费午夜| 精品熟女少妇八av免费久了| 啦啦啦韩国在线观看视频| 麻豆久久精品国产亚洲av| 深夜精品福利| 性少妇av在线| 欧美国产精品va在线观看不卡| 男人舔女人下体高潮全视频| 亚洲精品久久国产高清桃花| 精品国产乱子伦一区二区三区| 麻豆久久精品国产亚洲av| 欧美激情极品国产一区二区三区| 欧美成狂野欧美在线观看| 欧美最黄视频在线播放免费| 国产av在哪里看| 叶爱在线成人免费视频播放| 精品久久久久久成人av| 国产精品免费视频内射| 国产成人系列免费观看| av视频在线观看入口| 女人被狂操c到高潮| 岛国在线观看网站| 久久精品国产亚洲av香蕉五月| 日韩高清综合在线| 人人澡人人妻人| 国产亚洲av高清不卡| 亚洲久久久国产精品| 久99久视频精品免费| 男男h啪啪无遮挡| 此物有八面人人有两片| 国产高清有码在线观看视频 | 在线免费观看的www视频| 两性夫妻黄色片| 制服人妻中文乱码| 午夜两性在线视频| 久久香蕉国产精品| 精品欧美一区二区三区在线| 激情视频va一区二区三区| 亚洲av成人av| 国产成人一区二区三区免费视频网站| 亚洲一区中文字幕在线| 日本精品一区二区三区蜜桃| 欧美色欧美亚洲另类二区 | 亚洲人成电影观看| 国产成人精品久久二区二区免费| 亚洲第一av免费看| 国产精品久久视频播放| 91老司机精品| 国产欧美日韩一区二区三区在线| 视频区欧美日本亚洲| 99久久精品国产亚洲精品| 国产精品亚洲美女久久久| 一a级毛片在线观看| 一级,二级,三级黄色视频| 精品第一国产精品| 涩涩av久久男人的天堂| 老鸭窝网址在线观看| 国产人伦9x9x在线观看| 好男人电影高清在线观看| 亚洲熟妇熟女久久| 日本vs欧美在线观看视频| 好看av亚洲va欧美ⅴa在| 欧美在线黄色| 十八禁人妻一区二区| 日韩大尺度精品在线看网址 | 校园春色视频在线观看| ponron亚洲| 天天添夜夜摸| 成年女人毛片免费观看观看9| 手机成人av网站| 亚洲视频免费观看视频| 亚洲免费av在线视频| 可以在线观看毛片的网站| 国产av在哪里看| 啪啪无遮挡十八禁网站| 国产激情欧美一区二区| 精品国产一区二区三区四区第35| 久久午夜亚洲精品久久| 又黄又粗又硬又大视频| 免费高清视频大片| 色综合欧美亚洲国产小说| 国产精品98久久久久久宅男小说| 久久久国产精品麻豆| 中文字幕色久视频| 每晚都被弄得嗷嗷叫到高潮| 俄罗斯特黄特色一大片| 最近最新中文字幕大全电影3 | 巨乳人妻的诱惑在线观看| 午夜免费激情av| 久久久久久久久中文| 人人妻,人人澡人人爽秒播| 日本a在线网址| xxx96com| 成人av一区二区三区在线看| 99国产精品免费福利视频| 亚洲av第一区精品v没综合| 中文字幕人妻熟女乱码| 国产精品永久免费网站| 黑人操中国人逼视频| 欧美激情久久久久久爽电影 | 国产av又大| 久久人妻av系列| 日韩精品中文字幕看吧| 国产真人三级小视频在线观看| 香蕉丝袜av| 国产成人av教育| 国产精品野战在线观看| 国产亚洲精品久久久久久毛片| 亚洲伊人色综图| 黄色视频不卡| 别揉我奶头~嗯~啊~动态视频| 国产在线精品亚洲第一网站| 久热爱精品视频在线9| 搡老岳熟女国产| 露出奶头的视频| 如日韩欧美国产精品一区二区三区| 免费人成视频x8x8入口观看| 日韩一卡2卡3卡4卡2021年| 国产精品亚洲美女久久久| 久久久国产欧美日韩av| 亚洲欧美一区二区三区黑人| 大码成人一级视频| 老司机在亚洲福利影院| 18禁国产床啪视频网站| tocl精华| 男男h啪啪无遮挡| 国产男靠女视频免费网站| av在线天堂中文字幕| 久久久久久亚洲精品国产蜜桃av| 亚洲va日本ⅴa欧美va伊人久久| 一区福利在线观看| av超薄肉色丝袜交足视频| 亚洲精品国产色婷婷电影| 动漫黄色视频在线观看| www.999成人在线观看| av福利片在线| 久久 成人 亚洲| 在线观看免费视频日本深夜| 男女做爰动态图高潮gif福利片 | 国产单亲对白刺激| 国产精品电影一区二区三区| 国产成人欧美| 亚洲激情在线av| 这个男人来自地球电影免费观看| www.精华液| 国产免费男女视频| 日韩精品青青久久久久久| 亚洲精品美女久久av网站| 麻豆国产av国片精品| 中文字幕高清在线视频| 久久人人精品亚洲av| 午夜福利在线观看吧| 精品国产国语对白av| 91麻豆精品激情在线观看国产| 美女 人体艺术 gogo| 国产精品1区2区在线观看.| 国产三级黄色录像| 精品久久久久久久久久免费视频| 男人舔女人下体高潮全视频| 在线av久久热| 黄色 视频免费看| av视频在线观看入口| 黄色毛片三级朝国网站| 在线观看免费视频网站a站| 欧美日韩一级在线毛片| 中文亚洲av片在线观看爽| 极品教师在线免费播放| 国产1区2区3区精品| 日本 av在线| 人人妻人人澡人人看| 亚洲专区国产一区二区| 国产成人精品无人区| 精品高清国产在线一区| 18禁国产床啪视频网站| 久久伊人香网站| 亚洲精品一区av在线观看| 午夜免费激情av| 日韩国内少妇激情av| 亚洲精品国产精品久久久不卡| 自拍欧美九色日韩亚洲蝌蚪91| 老司机靠b影院| 国产精品 国内视频| 女人爽到高潮嗷嗷叫在线视频| 91麻豆精品激情在线观看国产| 欧美中文日本在线观看视频| 嫩草影视91久久| 桃红色精品国产亚洲av| 变态另类成人亚洲欧美熟女 | 国产精品1区2区在线观看.| 日韩视频一区二区在线观看| 日韩大尺度精品在线看网址 | 国产激情欧美一区二区| 男女床上黄色一级片免费看| 国产成人啪精品午夜网站| 伊人久久大香线蕉亚洲五| 男人的好看免费观看在线视频 | 91精品国产国语对白视频| 国产蜜桃级精品一区二区三区| x7x7x7水蜜桃| 欧美亚洲日本最大视频资源| 禁无遮挡网站| 9热在线视频观看99| 国产一区二区三区在线臀色熟女| 真人做人爱边吃奶动态| 亚洲精品粉嫩美女一区| 久久久久久久久免费视频了| 宅男免费午夜| 美女扒开内裤让男人捅视频| 欧美av亚洲av综合av国产av| 欧美丝袜亚洲另类 | 精品无人区乱码1区二区| 国产精品亚洲一级av第二区| 国产精品久久久久久人妻精品电影| 亚洲国产日韩欧美精品在线观看 | 桃红色精品国产亚洲av| 一级黄色大片毛片| 最近最新免费中文字幕在线| 欧美日韩瑟瑟在线播放| 俄罗斯特黄特色一大片| 欧美日本视频| 中文字幕人妻丝袜一区二区| 黄片播放在线免费| 国产私拍福利视频在线观看| 日本三级黄在线观看| 亚洲国产精品999在线| 日韩有码中文字幕| 麻豆久久精品国产亚洲av| 久久久久国内视频| 欧美精品亚洲一区二区| 日韩视频一区二区在线观看| 亚洲av片天天在线观看| 女性生殖器流出的白浆| 91精品国产国语对白视频| www.999成人在线观看| 亚洲精品国产色婷婷电影| 午夜福利欧美成人| 成人亚洲精品av一区二区| 自线自在国产av| 久久人妻熟女aⅴ| 亚洲精品国产一区二区精华液| 一本大道久久a久久精品| 18禁观看日本| 国产午夜精品久久久久久| 亚洲欧美激情综合另类| 又黄又爽又免费观看的视频| 欧美老熟妇乱子伦牲交| 18禁黄网站禁片午夜丰满| 黑人操中国人逼视频| 精品人妻在线不人妻| 中国美女看黄片| 亚洲色图综合在线观看| 乱人伦中国视频| 日韩av在线大香蕉| 国产av一区在线观看免费| 免费在线观看影片大全网站| 免费看美女性在线毛片视频| 在线播放国产精品三级| 亚洲精品国产区一区二| 国产一区二区在线av高清观看| 性少妇av在线| 麻豆久久精品国产亚洲av| 男女下面插进去视频免费观看| 久久国产亚洲av麻豆专区| 在线免费观看的www视频| 亚洲精品国产色婷婷电影| 欧美乱码精品一区二区三区| 成人亚洲精品一区在线观看| netflix在线观看网站| 琪琪午夜伦伦电影理论片6080| 淫妇啪啪啪对白视频| 国产精品免费一区二区三区在线| 成人18禁高潮啪啪吃奶动态图| 啦啦啦免费观看视频1| 久久久国产成人精品二区| 波多野结衣高清无吗| 一区在线观看完整版| 国产一级毛片七仙女欲春2 | 精品第一国产精品| www.999成人在线观看| 人人澡人人妻人| 午夜福利,免费看| 午夜久久久久精精品| 丰满的人妻完整版| 国产人伦9x9x在线观看| 欧美黄色片欧美黄色片| 高潮久久久久久久久久久不卡| 岛国视频午夜一区免费看| 久久人妻av系列| 18禁国产床啪视频网站| 50天的宝宝边吃奶边哭怎么回事| 欧美日本中文国产一区发布| 啦啦啦韩国在线观看视频| 欧美日本中文国产一区发布| 99国产精品99久久久久| 99国产综合亚洲精品| 午夜福利影视在线免费观看| 两个人视频免费观看高清| 久久精品亚洲熟妇少妇任你| 高清黄色对白视频在线免费看| 女性被躁到高潮视频| 男女之事视频高清在线观看| www日本在线高清视频| 国产精品av久久久久免费| 色综合婷婷激情| 国产精品日韩av在线免费观看 | 亚洲无线在线观看| 午夜日韩欧美国产| 欧美午夜高清在线| 这个男人来自地球电影免费观看| 色播在线永久视频| 久久中文看片网| 成人三级做爰电影| 亚洲精品久久成人aⅴ小说| 人妻久久中文字幕网| 国产精品久久久av美女十八| 成人三级做爰电影| 中文字幕人成人乱码亚洲影| 可以免费在线观看a视频的电影网站| 久久欧美精品欧美久久欧美| 夜夜夜夜夜久久久久| 波多野结衣高清无吗| 无人区码免费观看不卡| 国产欧美日韩一区二区三区在线| 国产麻豆69| 自线自在国产av| 无人区码免费观看不卡| av天堂在线播放| 三级毛片av免费| 嫩草影视91久久| 国产欧美日韩综合在线一区二区| 亚洲av成人不卡在线观看播放网| 精品一区二区三区四区五区乱码| 黑人巨大精品欧美一区二区蜜桃| 很黄的视频免费| 国产欧美日韩一区二区三区在线| 精品无人区乱码1区二区| 波多野结衣高清无吗| 亚洲人成伊人成综合网2020| 婷婷精品国产亚洲av在线| 三级毛片av免费| 嫩草影视91久久| 美女 人体艺术 gogo| 亚洲av成人不卡在线观看播放网| 十分钟在线观看高清视频www| 午夜免费成人在线视频| 老司机午夜十八禁免费视频| 精品久久久久久,| 日本vs欧美在线观看视频| 国产男靠女视频免费网站| av片东京热男人的天堂| 97人妻精品一区二区三区麻豆 | 日韩一卡2卡3卡4卡2021年| av中文乱码字幕在线| 亚洲欧美激情综合另类| 巨乳人妻的诱惑在线观看| 国产亚洲欧美精品永久| 两个人免费观看高清视频| 日本在线视频免费播放| 国产精品免费一区二区三区在线| 国内精品久久久久精免费| 在线天堂中文资源库| 国产1区2区3区精品| 久久久国产精品麻豆| 热re99久久国产66热| 久久久久久大精品| av电影中文网址| 亚洲欧美一区二区三区黑人| 欧美日韩福利视频一区二区| 色哟哟哟哟哟哟| 欧美日韩福利视频一区二区| 精品久久久久久,| 亚洲国产中文字幕在线视频| 免费在线观看完整版高清| 夜夜躁狠狠躁天天躁| 久久久国产精品麻豆| 一本大道久久a久久精品| 久久久久久久久久久久大奶| 亚洲精品中文字幕在线视频| 非洲黑人性xxxx精品又粗又长| 亚洲国产毛片av蜜桃av| 日本在线视频免费播放| 日韩三级视频一区二区三区| 国产熟女xx| 69av精品久久久久久| 久久香蕉精品热| 欧美日韩一级在线毛片| 亚洲国产毛片av蜜桃av| 午夜久久久久精精品| 黄色视频不卡| 中文字幕精品免费在线观看视频| 视频在线观看一区二区三区| 老熟妇仑乱视频hdxx| 首页视频小说图片口味搜索| 一区二区日韩欧美中文字幕| 啦啦啦韩国在线观看视频| 丝袜美腿诱惑在线| 亚洲五月色婷婷综合| 好男人在线观看高清免费视频 | 国产一区二区三区在线臀色熟女| 一边摸一边抽搐一进一出视频| 男人的好看免费观看在线视频 | 亚洲 欧美 日韩 在线 免费| 国产麻豆69| 久久狼人影院| xxx96com| 国产精品av久久久久免费| 国产精品一区二区精品视频观看| tocl精华| 天天躁狠狠躁夜夜躁狠狠躁| 国产高清videossex| 国产一卡二卡三卡精品| 免费观看精品视频网站| 欧美日韩乱码在线| 麻豆成人av在线观看| 麻豆国产av国片精品| 午夜福利18| 亚洲国产精品久久男人天堂| 欧美激情极品国产一区二区三区| 少妇熟女aⅴ在线视频| 在线观看免费日韩欧美大片| av天堂在线播放| svipshipincom国产片| 啦啦啦 在线观看视频| 日韩国内少妇激情av| 桃红色精品国产亚洲av| 亚洲精品一区av在线观看| 欧美国产日韩亚洲一区| 日韩三级视频一区二区三区| 亚洲国产精品合色在线| 波多野结衣一区麻豆| 午夜福利18| 最新美女视频免费是黄的| 国产精品爽爽va在线观看网站 | 成人av一区二区三区在线看| 亚洲第一欧美日韩一区二区三区| 亚洲av美国av| 咕卡用的链子| 视频在线观看一区二区三区| 欧美+亚洲+日韩+国产| 亚洲男人的天堂狠狠| 国产精品一区二区三区四区久久 | 国产精品98久久久久久宅男小说| av福利片在线| 日韩精品免费视频一区二区三区| 可以在线观看毛片的网站| 日日干狠狠操夜夜爽| 亚洲一区二区三区色噜噜| av片东京热男人的天堂| 国产精品,欧美在线| 亚洲性夜色夜夜综合| 一级a爱视频在线免费观看| 99在线视频只有这里精品首页| 国产成人系列免费观看| 黄色a级毛片大全视频| 叶爱在线成人免费视频播放| 夜夜看夜夜爽夜夜摸| 国产区一区二久久| 亚洲av美国av| 欧美性长视频在线观看| 好男人在线观看高清免费视频 | 最近最新中文字幕大全免费视频| 久久久久久免费高清国产稀缺| 国产成人一区二区三区免费视频网站| 亚洲片人在线观看| 成人欧美大片| 99国产精品一区二区蜜桃av| 午夜精品国产一区二区电影| 国产精品 欧美亚洲| 久久久久久大精品| 精品少妇一区二区三区视频日本电影| aaaaa片日本免费| 18禁国产床啪视频网站| 午夜福利影视在线免费观看| 久久九九热精品免费| 久久人人精品亚洲av| 久久人人爽av亚洲精品天堂| 欧美激情高清一区二区三区| 亚洲三区欧美一区| 中文字幕色久视频| 亚洲熟妇熟女久久| 午夜激情av网站| 久久这里只有精品19| 亚洲视频免费观看视频| 一本综合久久免费| 国产色视频综合| 波多野结衣av一区二区av| 9色porny在线观看| 免费女性裸体啪啪无遮挡网站| 999久久久精品免费观看国产| 大码成人一级视频| 亚洲精品粉嫩美女一区| 亚洲欧美精品综合一区二区三区| 久久久精品国产亚洲av高清涩受| 国产私拍福利视频在线观看| 国产免费男女视频| 午夜精品久久久久久毛片777| 在线观看一区二区三区| 久久久久久久久中文| 一本久久中文字幕| 免费少妇av软件| 脱女人内裤的视频| 最近最新免费中文字幕在线| 国产三级在线视频| 黑人欧美特级aaaaaa片| 高清黄色对白视频在线免费看| 男人舔女人的私密视频| 日本在线视频免费播放| 亚洲九九香蕉| 精品国产超薄肉色丝袜足j| 色综合欧美亚洲国产小说| 女性生殖器流出的白浆| 久久香蕉精品热| 精品欧美一区二区三区在线| 亚洲中文av在线| 精品少妇一区二区三区视频日本电影| 国产精品亚洲av一区麻豆| 变态另类丝袜制服| 九色亚洲精品在线播放| 国产区一区二久久| 变态另类丝袜制服| 在线观看66精品国产| 欧美中文日本在线观看视频| 亚洲精品粉嫩美女一区| 精品不卡国产一区二区三区| 狂野欧美激情性xxxx| 变态另类丝袜制服| 亚洲欧美日韩另类电影网站| 少妇的丰满在线观看| 国产精品日韩av在线免费观看 | 很黄的视频免费| 国产精品二区激情视频| 欧美精品亚洲一区二区| 国产97色在线日韩免费| 天堂√8在线中文| 少妇 在线观看| 欧美丝袜亚洲另类 | 成人永久免费在线观看视频|