• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)指標(biāo)體系構(gòu)建研究

    2020-10-20 05:15秦小燕初景利
    圖書與情報(bào) 2020年4期
    關(guān)鍵詞:德爾菲法層次分析指標(biāo)體系

    秦小燕 初景利

    摘?? 要:構(gòu)建定性描述與定量評價(jià)相結(jié)合的科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系,為開展全方位、有針對性的科學(xué)數(shù)據(jù)素養(yǎng)能力調(diào)查提供科學(xué)的評價(jià)標(biāo)準(zhǔn)和量化測評工具。基于文獻(xiàn)調(diào)研與科學(xué)數(shù)據(jù)素養(yǎng)本土化特征研究,初步擬定指標(biāo)體系;運(yùn)用德爾菲方法,進(jìn)行兩輪專家咨詢,通過評議各項(xiàng)指標(biāo)的必要性和明確性確定各級指標(biāo)內(nèi)容;利用層次分析法通過計(jì)算專家評分從而確定指標(biāo)權(quán)重。最終構(gòu)建了由3個(gè)維度、18個(gè)一級指標(biāo)、47個(gè)二級指標(biāo)共同構(gòu)成的“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系”,并為各維度和一級指標(biāo)賦予權(quán)重值,從而保證了指標(biāo)體系的科學(xué)性、通用性、前瞻性和可操作性。

    關(guān)鍵詞:科學(xué)數(shù)據(jù)素養(yǎng);能力;指標(biāo)體系;德爾菲法;層次分析

    中圖分類號:G252.7?? 文獻(xiàn)標(biāo)識碼:A?? DOI:10.11968/tsyqb.1003-6938.2020062

    Research on the Construction of the Evaluation Index System of Scientific Data Literacy

    Abstract The scientific data literacy competency index system combining qualitative description and quantitative evaluation were constructed to provide scientific evaluation standards and quantitative evaluation tools for conducting all-round and targeted scientific data literacy survey. Based on the literature research and the study on the localization characteristics of scientific data literacy, the index system was initially constructed, and Delphi method was used to carry out two rounds of expert consultation, and the content of each index was determined by evaluating the necessity and clarity of each index, then AHP was used to determine the index weight by calculating the expert score. Finally, the scientific data literacy competency index system composed of 3 dimensions, 18 first-level indexes and 47 second-level indexes were constructed, and the weight values were given to the dimensions and first-level indicators, so as to ensure the scientificity, universality, foresight and operability of the index system.

    Key words scientific data literacy; competency; index system; Delphi method; analytic hierarchy process (AHP)

    1?? 引言

    科學(xué)數(shù)據(jù)是知識發(fā)現(xiàn)與科技創(chuàng)新的重要基礎(chǔ)。在數(shù)據(jù)密集型科研時(shí)代,對科學(xué)數(shù)據(jù)的管理和利用能力成為科研人員的必備素養(yǎng),科學(xué)數(shù)據(jù)素養(yǎng)教育的重要性受到日益廣泛的關(guān)注??茖W(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系,是科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)的依據(jù),是科學(xué)數(shù)據(jù)素養(yǎng)教育體系的重要組成部分,對于保證大數(shù)據(jù)時(shí)代人才培養(yǎng)的有效性和評估的科學(xué)性具有重要意義。

    關(guān)于數(shù)據(jù)素養(yǎng)所應(yīng)該包含的核心能力,國內(nèi)外不同領(lǐng)域的專家學(xué)者,都開展了一定的研究,然而,由于具體應(yīng)用情境和研究角度的不同,其對數(shù)據(jù)素養(yǎng)的觀點(diǎn)和看法也不盡相同。國外主要從數(shù)據(jù)管理的角度出發(fā),探討面向不同領(lǐng)域或群體的數(shù)據(jù)素養(yǎng)能力評價(jià)。J.Carlson等[1]在普渡大學(xué)、明尼蘇達(dá)大學(xué)、康奈爾大學(xué)和俄勒岡大學(xué)圖書館共同開展的數(shù)據(jù)信息素養(yǎng)項(xiàng)目的基礎(chǔ)上,為地理信息學(xué)科開展數(shù)據(jù)信息素養(yǎng)教育,通過對教師的訪談以及對學(xué)生學(xué)習(xí)成績的評估,構(gòu)建了由12項(xiàng)核心能力構(gòu)成的“數(shù)據(jù)信息素養(yǎng)核心能力集”;弗吉尼亞理工大學(xué)圖書館成立了數(shù)據(jù)素養(yǎng)咨詢組,開發(fā)了“數(shù)據(jù)素養(yǎng)技能模型”,包括8個(gè)能力維度的初級、中級、高級3個(gè)層次的核心技能,為學(xué)生、教師和科研人員提供科研和數(shù)據(jù)相關(guān)的制度框架[2];J.C. Prado和M.?魣.Marzal[3]構(gòu)建了信息素養(yǎng)視域下的數(shù)據(jù)素養(yǎng)課程核心能力和內(nèi)容體系,并將其轉(zhuǎn)化為教學(xué)主題或單元,旨在促進(jìn)圖書館以此作為基本參考框架、廣泛開展數(shù)據(jù)素養(yǎng)教育;R.Schneider[4]構(gòu)建了由8個(gè)維度和若干數(shù)據(jù)管理技能構(gòu)成的“研究數(shù)據(jù)素養(yǎng)能力體系”。A.Grillenberger和ROMEIKE[5]圍繞計(jì)算機(jī)科學(xué)專業(yè)教育,從理論上推導(dǎo)出數(shù)據(jù)素養(yǎng)的核心內(nèi)容和過程領(lǐng)域,從而開發(fā)了由4個(gè)數(shù)據(jù)主題領(lǐng)域和4個(gè)相應(yīng)的數(shù)據(jù)處理模塊構(gòu)成的數(shù)據(jù)素養(yǎng)能力模型;C.Ridsdale等[6]構(gòu)建的數(shù)據(jù)素養(yǎng)能力矩陣,包含5大知識領(lǐng)域22個(gè)能力指標(biāo)以及相應(yīng)的技能要求。Databilities研究團(tuán)隊(duì)則從數(shù)據(jù)的獲取、操作和應(yīng)用3個(gè)方面,為15項(xiàng)數(shù)據(jù)能力劃分了6個(gè)進(jìn)階層級,構(gòu)建了“數(shù)據(jù)素養(yǎng)能力框架”[7]。

    我國學(xué)者近幾年也從不同的角度探討了數(shù)據(jù)素養(yǎng)的核心能力構(gòu)成與評價(jià)體系。如王維佳等[8]利用因子分析法研究科研人員數(shù)據(jù)素養(yǎng)能力綜合評價(jià)方法;劉愛琴等[9]基于MOOC環(huán)境下構(gòu)建了高校大學(xué)生數(shù)據(jù)素養(yǎng)能力評價(jià)系統(tǒng);董薇等[10]基于灰色理論建立數(shù)據(jù)素養(yǎng)能力評價(jià)多層次模型;周兵[11]面向高校教師構(gòu)建數(shù)據(jù)素養(yǎng)能力評價(jià)指標(biāo)集合,并通過模糊綜合評價(jià)法設(shè)計(jì)數(shù)據(jù)素養(yǎng)評價(jià)數(shù)學(xué)模型;潘雪和陳雅[12]從教育主體、對象、形式、內(nèi)容和效果5個(gè)角度構(gòu)建高校數(shù)據(jù)素養(yǎng)教育評價(jià)指標(biāo)體系等。

    縱觀已有研究,大多側(cè)重于科學(xué)數(shù)據(jù)素養(yǎng)能力的定性描述,而結(jié)合我國科研工作實(shí)際的定量化研究較為缺乏。隨著數(shù)據(jù)密集型科學(xué)的發(fā)展,科研人員亟需一個(gè)具備通用性、本土化以及系統(tǒng)性的能力參考框架,用來指導(dǎo)提升數(shù)據(jù)素養(yǎng)水平、勝任日益復(fù)雜的數(shù)據(jù)領(lǐng)域工作。本文通過大量的文獻(xiàn)分析,結(jié)合充分的本土化調(diào)研,采用德爾菲法和層次分析等方法,構(gòu)建了一套定性與定量相結(jié)合的科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系,為引導(dǎo)科研人員應(yīng)對數(shù)據(jù)管理與利用中的嚴(yán)峻挑戰(zhàn)、推進(jìn)我國科學(xué)數(shù)據(jù)素養(yǎng)教育及評估提供參考依據(jù)。

    2?? 科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)指標(biāo)的擬定與篩選

    為了保證指標(biāo)體系的有效性、合理性,保障評估過程和結(jié)果的科學(xué)性,本文在廣泛研讀國內(nèi)外相關(guān)文獻(xiàn)的基礎(chǔ)上,結(jié)合面向我國科研人員的科學(xué)數(shù)據(jù)素養(yǎng)能力特征研究結(jié)果,初步擬定了我國科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)指標(biāo),運(yùn)用德爾菲法,通過問卷調(diào)查進(jìn)行專家意見的征詢與整合,從而得到專家對科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)指標(biāo)較為一致的意見。

    2.1??? 研究方法與實(shí)施步驟

    德爾菲法,又名專家意見法,是一種重要的專家評價(jià)及預(yù)測方法[13]。其本質(zhì)上是一種利用函詢形式進(jìn)行的集體匿名思想交流過程。即針對所要預(yù)測的問題進(jìn)行多輪專家意見征詢,對每一輪收集到的意見進(jìn)行梳理、匯總和統(tǒng)計(jì),并將集中意見后的修訂稿作為參考材料,再匿名反饋給各位專家,以供分析判斷,進(jìn)而提出新的論證意見,直至專家意見趨于一致,得到一個(gè)較為一致且可靠的結(jié)論或方案。

    本文采用德爾菲法進(jìn)行科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系的專家評議(具體步驟見圖1)。通過充分吸收不同專家的經(jīng)驗(yàn)和學(xué)識,保證指標(biāo)預(yù)測與評價(jià)結(jié)論的可靠性、客觀性。

    2.2??? 評價(jià)指標(biāo)的初步擬定

    建立評價(jià)指標(biāo)體系的目的就是用一種能夠獲得公眾認(rèn)可的價(jià)值標(biāo)準(zhǔn)來衡量和判斷事物的價(jià)值[14]??茖W(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系是將科研人員從事科學(xué)研究過程中應(yīng)該具備的數(shù)據(jù)能力科學(xué)化、具體化、細(xì)化為一系列相互聯(lián)系的指標(biāo)集合,從而更為客觀和公正地分析和評價(jià)科研人員的科學(xué)數(shù)據(jù)素養(yǎng)水平。

    在大量閱讀國內(nèi)外相關(guān)領(lǐng)域?qū)W者對科學(xué)數(shù)據(jù)素養(yǎng)能力研究文獻(xiàn)的基礎(chǔ)之上,提取關(guān)鍵性能力表征要素,并結(jié)合筆者對我國科研人員科學(xué)數(shù)據(jù)素養(yǎng)能力的本土化特征研究結(jié)果[15],從“個(gè)人”“團(tuán)隊(duì)”“數(shù)據(jù)生態(tài)”3個(gè)維度出發(fā),以科學(xué)數(shù)據(jù)生命周期和科研生命周期為主線,初步設(shè)置了18個(gè)一級指標(biāo)能力域,以及表征每個(gè)能力域中具體能力要素的51個(gè)二級指標(biāo)(見表1)。同時(shí),結(jié)合教育目標(biāo)評價(jià)理論,從認(rèn)知、技能、情感三大領(lǐng)域目標(biāo)入手,對各二級指標(biāo)進(jìn)行了詳細(xì)地描述,最終完成“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系”的初步擬定[16]。

    2.3??? 專家評議過程

    2.3.1?? 第一輪評議程序與內(nèi)容

    第一輪評議程序?yàn)?,通過電子郵件或遞送紙質(zhì)版的方式將問卷發(fā)放給各位評議專家。為了達(dá)到最佳的評議效果,隨附一封簡要的說明信,針對課題研究背景與主要研究目標(biāo),向?qū)<以敿?xì)介紹了指標(biāo)體系的構(gòu)建思路與方法,同時(shí)說明了所采取的德爾菲法的具體實(shí)施步驟,使專家清楚地了解研究內(nèi)容,掌握指標(biāo)體系的評議基礎(chǔ)。

    “科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系專家評議問卷(第一輪)”的評議內(nèi)容主要包括5個(gè)方面:(1)各項(xiàng)指標(biāo)的“必要性”;(2)各項(xiàng)指標(biāo)描述的“明確性”;(3)針對每項(xiàng)指標(biāo)提出修改意見;(4)補(bǔ)充各個(gè)維度中需要補(bǔ)充的指標(biāo);(5)采用開放式問題的方式,請專家提出對整個(gè)指標(biāo)體系的意見或建議。

    為了方便結(jié)果分析與統(tǒng)計(jì),分別對各項(xiàng)指標(biāo)做了編碼,維度分別表示為“個(gè)人”(I)、“團(tuán)隊(duì)”(T)、“數(shù)據(jù)生態(tài)”(E);一級指標(biāo)分別表示為“I1、I2……I10,T1……T3,E1……E5”;二級指標(biāo)由一級指標(biāo)代碼加順序號構(gòu)成,如“I11、I12……T11、T12……E11……E51”。

    2.3.2?? 第二輪評議程序與內(nèi)容

    第二輪評議程序?yàn)椋ㄟ^電子郵件或遞送紙質(zhì)版的方式將第二輪評議問卷發(fā)放給各位專家,此次的評議專家全部為已經(jīng)參加過第一輪指標(biāo)評議的專家,因此對指標(biāo)研究的內(nèi)容和方法已基本了解,無需做出特別說明。

    除了“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系專家評議問卷(第二輪)”以外,同時(shí)將第一輪指標(biāo)評議結(jié)果反饋給專家,包括“必要性”和“明確性”分析結(jié)果。第二輪評議內(nèi)容主要包括4個(gè)方面:(1)指標(biāo)的“必要性”評議,對第一輪評議中未達(dá)成共識的指標(biāo)以及經(jīng)合并修改后的指標(biāo)進(jìn)行“必要性”評議;(2)指標(biāo)的“明確性”評議,對第一輪評議中“明確性”未滿足要求的指標(biāo)和其他修改過的指標(biāo)進(jìn)行“明確性”評議;(3)請專家對每項(xiàng)指標(biāo)提出修改意見;(4)請專家提出對整個(gè)指標(biāo)體系的意見或建議。

    2.4??? 數(shù)據(jù)分析方法

    2.4.1?? 指標(biāo)“必要性”評議數(shù)據(jù)的分析方法

    (1)李克特五點(diǎn)量表法。將第一輪評議問卷中“必要性”一欄的專家評議選項(xiàng)劃分為5個(gè)等級,并分別賦值,即:5 非常必要—計(jì)5分;4 必要—計(jì)4分;3 一般—計(jì)3分;2 不太必要—計(jì)2分;1 不必要—計(jì)1分。

    (2)眾數(shù)法。“眾數(shù)”是指一組數(shù)據(jù)中出現(xiàn)次數(shù)最多的那個(gè)數(shù)據(jù)。本論文采用眾數(shù)法判斷專家意見的集中趨勢,專家意見中出現(xiàn)比例最高的選項(xiàng),即作為指標(biāo)的“必要性”等級。對于一組數(shù)據(jù),眾數(shù)可能是唯一,也可能多于一個(gè)。在本文“必要性”的評議數(shù)據(jù)中,21位專家對“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系”中各項(xiàng)指標(biāo)的“必要性”等級進(jìn)行了判定,形成一個(gè)由21個(gè)數(shù)據(jù)構(gòu)成的數(shù)據(jù)組,眾數(shù)最少1個(gè),最多4個(gè),因此,專家意見有可能集中在一個(gè)或幾個(gè)選項(xiàng)上。

    (3)四分位差法?!八姆治粩?shù)”是指在統(tǒng)計(jì)學(xué)中把所有數(shù)值由小到大排列成一個(gè)數(shù)列,并分成四等份,處于三個(gè)分割點(diǎn)位置的數(shù)值。四分位數(shù)共有3個(gè),第1個(gè)四分位數(shù)稱為下四分位數(shù),通常用Q1表示,表示位于數(shù)列中第25%位置的數(shù)字,第2個(gè)四分位數(shù)稱為中位數(shù),用Q2表示,表示位于數(shù)列中第50%的數(shù)字,第3個(gè)四分位數(shù)稱為上四分位數(shù),用Q3表示,表示位于數(shù)列中第75%的數(shù)字。

    “四分位差”表示第3個(gè)四分位數(shù)(Q3)與第1個(gè)四分位數(shù)(Q1)的差距,用Q.D.表示。計(jì)算公式為:

    Q.D.=Q3-Q1????????????????????????????????????? (式1)

    針對本文的“必要性”評議數(shù)據(jù),Q.D.的取值區(qū)間為{0,0.5,1,1.5,2,2.5,3,3.5,4}。經(jīng)分析,可以認(rèn)為當(dāng)Q.D.=0或者Q.D.=0.5時(shí),該項(xiàng)指標(biāo)的專家評議意見基本達(dá)成共識。

    (4)“必要性”判定。針對某項(xiàng)指標(biāo)“必要性”的專家評議結(jié)果,共有5個(gè)選項(xiàng),即:“5 非常必要;4 必要;3 一般;2 不太必要;1 不必要”;通過計(jì)算某個(gè)選項(xiàng)的專家數(shù)在專家總數(shù)中所占的百分?jǐn)?shù),可以看出該項(xiàng)指標(biāo)專家意見的分布情況。將“5 非常必要”和“4 必要”兩個(gè)選項(xiàng)的專家百分?jǐn)?shù)相加,即得出該項(xiàng)指標(biāo)的“必要性”百分?jǐn)?shù)。按照本文的研究要求,當(dāng)“必要性”百分?jǐn)?shù)<60%,則認(rèn)為該指標(biāo)不必要,可以從指標(biāo)體系中剔除。

    綜合采用李克特五點(diǎn)量表、眾數(shù)法、四分位差和“必要性”判定法,進(jìn)行“必要性”評議數(shù)據(jù)的分析。對于任一項(xiàng)指標(biāo)而言:當(dāng)指標(biāo)只有1個(gè)眾數(shù)的時(shí)候,則采用四分位差判斷該眾數(shù)是否是專家組達(dá)成的共識意見;當(dāng)指標(biāo)有2個(gè)、3個(gè)或4個(gè)眾數(shù)的時(shí)候,說明專家組意見未達(dá)成共識。

    根據(jù)以上分析結(jié)果,結(jié)合專家評議的“必要性”比重,判斷指標(biāo)的取舍;并且按照專家意見修改指標(biāo)內(nèi)容,在下一輪調(diào)查問卷中請專家再次評議該指標(biāo)的“必要性”。

    2.4.2?? 指標(biāo)“明確性”評議數(shù)據(jù)的分析方法

    采用李克特五點(diǎn)量表、算數(shù)平均值分析方法來判斷指標(biāo)的“明確性”。

    (1)李克特五點(diǎn)量表法。將第一輪評議問卷中“明確性”一欄的專家評議選項(xiàng)劃分為5個(gè)等級,并分別賦值,即:5 非常明確—計(jì)5分;4 明確—計(jì)4分;3 一般—計(jì)3分;2 模糊—計(jì)2分;1 非常模糊—計(jì)1分。

    (2)算術(shù)平均值。算術(shù)平均值可以用來表征一組數(shù)據(jù)的集中趨勢。本文以“明確性”評議數(shù)據(jù)組的平均值作為全體專家對該項(xiàng)指標(biāo)“明確性”的集中意見。計(jì)算公式為:

    (式2)

    其中,n=21,xi∈{1,2,3,4,5}

    當(dāng)■>4時(shí),則認(rèn)為該項(xiàng)指標(biāo)的“明確性”達(dá)到本論文的研究要求[17]。

    2.5??? 結(jié)果分析

    2.5.1?? 專家評議結(jié)果概況

    (1)專家評議的基本情況。選擇專家是德爾菲法成敗的關(guān)鍵。德爾菲法所選取的專家應(yīng)該是對研究問題有一定的了解程度、并能夠從同一個(gè)角度去理解項(xiàng)目分類和有關(guān)定義的人。專家的權(quán)威程度要高,具備較高的理論水平和豐富的實(shí)踐經(jīng)驗(yàn),能夠提出獨(dú)到見解和有價(jià)值的判斷。專家人數(shù)需根據(jù)研究項(xiàng)目涉及的知識范圍、專家意見表的回收率等綜合確定,既要保證專家所屬學(xué)科的代表性、又要有利于評議組織和實(shí)施、數(shù)據(jù)分析與處理的順利進(jìn)行。根據(jù)有關(guān)文獻(xiàn)報(bào)道,因研究課題的規(guī)模大小以及涉及面的寬窄,專家人數(shù)一般以15-50人為宜[18]。

    本文評議的內(nèi)容是科研人員的科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系,所需要的評議人員由從事數(shù)據(jù)素養(yǎng)教育的專家以及科研第一線的專家學(xué)者共同組成。通過與所邀請專家的溝通聯(lián)絡(luò),確定參加項(xiàng)目評議的專家有足夠的熱情與時(shí)間進(jìn)行評議。第一輪共邀請了23位專家構(gòu)成評議專家組。在所有參加評議的專家成員中,表示對項(xiàng)目主題很熟悉的有15位,占65.2%;表示熟悉的有8位,占34.8%,沒有人員表示不熟悉(評議專家組的基本情況見表2)。

    (2)專家評議表的回收情況。專家評議表的回收率(回收率=完成咨詢的專家數(shù)/全部專家數(shù)),也稱為專家積極系數(shù),通常用來反映評議專家對研究問題的關(guān)心程度。本研究共進(jìn)行了兩輪德爾菲專家咨詢,第一輪發(fā)放問卷23份,收回21份,第二輪發(fā)放21份,收回21份,且均為有效問卷,其積極系數(shù)分別為91.3%、100%(見表3),這表明專家對本研究的主題非常關(guān)心,參與程度很高。

    2.5.2?? 第一輪專家評議結(jié)果分析

    (1)“必要性”和“明確性”評議結(jié)果。經(jīng)分析第一輪各指標(biāo)的“必要性”和“明確性”評議結(jié)果數(shù)據(jù)可知:

    在第一輪“必要性”專家評議中,“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系(初稿)”中的51項(xiàng)二級指標(biāo),共有39項(xiàng)指標(biāo)達(dá)成共識,成為必要的指標(biāo);另有12項(xiàng)指標(biāo)未達(dá)成共識,需要根據(jù)專家意見進(jìn)行相應(yīng)修改,然后進(jìn)入下一輪“必要性”評議;其中有2項(xiàng)指標(biāo)的“必要性”百分比小于60%,分別為:“了解所有數(shù)據(jù)保存都有成本”“認(rèn)識到元數(shù)據(jù)遵循一定標(biāo)準(zhǔn),并按照學(xué)科規(guī)范將其應(yīng)用于數(shù)據(jù)集,解讀外部數(shù)據(jù)源的元數(shù)據(jù)”。

    因此,可將這2項(xiàng)指標(biāo)從指標(biāo)體系中剔除,根據(jù)專家意見,將相關(guān)內(nèi)容合并到其他指標(biāo)中去。

    在第一輪“明確性”專家評議的51項(xiàng)指標(biāo)中,共有33項(xiàng)的“明確性”達(dá)到本文研究的要求,另外19項(xiàng)指標(biāo)的“明確性”還有待提高;即使在39項(xiàng)達(dá)成共識的指標(biāo)中,也有9項(xiàng)指標(biāo)“明確性”未達(dá)標(biāo)。需要結(jié)合指標(biāo)的“必要性”判定,對“明確性”未達(dá)標(biāo)的指標(biāo)進(jìn)行相應(yīng)修改,然后進(jìn)入下一輪“明確性”專家評議。

    (2)第一輪專家修改意見。專家組對指標(biāo)體系的整體框架表示認(rèn)可,對“維度”和“一級指標(biāo)”的設(shè)置均未提出任何異議,認(rèn)為整個(gè)指標(biāo)體系設(shè)計(jì)的較為系統(tǒng)而且全面,內(nèi)容也很詳實(shí)。有專家指出其中部分指標(biāo)所涉及的內(nèi)容專業(yè)性較強(qiáng),如“數(shù)據(jù)管理”部分的相關(guān)術(shù)語,非專業(yè)人士理解起來會(huì)存在一定困難,將影響到評價(jià)結(jié)果的可靠性;還有專家表示不同學(xué)科領(lǐng)域的科學(xué)數(shù)據(jù)素養(yǎng)能力側(cè)重點(diǎn)不同,期望能夠按照學(xué)科特性設(shè)計(jì)出更有針對性的指標(biāo)體系;有專家建議在定性評估的基礎(chǔ)上,增加定量評估的指標(biāo),使評估更加科學(xué)有效;有專家指出如果針對指標(biāo)體系擬定一些潛在的應(yīng)用者,實(shí)施評價(jià)和考核會(huì)具有更強(qiáng)的指導(dǎo)意義。另外,專家對每項(xiàng)指標(biāo)給出了詳細(xì)的修改意見,限于篇幅,此處不做詳述。

    (3)第一輪修改后的指標(biāo)體系。根據(jù)第一輪專家評議的結(jié)果,綜合考慮專家對指標(biāo)“必要性”和“明確性”的判定,以及專家的修改建議,我們對初步設(shè)計(jì)的“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系”進(jìn)行了相應(yīng)的修改,形成第二輪專家評議問卷。

    2.5.3?? 第二輪專家評議結(jié)果分析

    (1)數(shù)據(jù)分析方法。第二輪專家評議的數(shù)據(jù)分析方法與第一輪相同。

    (2)數(shù)據(jù)分析結(jié)果。①“必要性”和“明確性”評議結(jié)果。經(jīng)分析第二輪各指標(biāo)的“必要性”和“明確性”評議結(jié)果數(shù)據(jù)可知:在第二輪“必要性”專家評議中,對第一輪評議中未達(dá)成共識的12項(xiàng)指標(biāo),專家意見已全部達(dá)成共識,且“必要性”百分比均大于80%。第一輪評議中“明確性”未滿足要求的指標(biāo)和其他修改過的指標(biāo)共計(jì)35條,在第二輪的專家評議中,“明確性”均已達(dá)標(biāo),而且大多數(shù)指標(biāo)的“明確性”比第一輪指標(biāo)描述有明顯提升;②第二輪專家修改意見。專家普遍認(rèn)為與第一輪指標(biāo)體系相比,經(jīng)修改后的指標(biāo)體系,其指標(biāo)設(shè)置更為清晰合理,而且重要性和可操作性都有所增強(qiáng)。此外,專家對各二級指標(biāo)的邏輯性提出了一些改進(jìn)建議,如I12與I14,I23與I25,I33與I35,建議互換排列順序,以使指標(biāo)更好地反映數(shù)據(jù)操作的流程。

    經(jīng)過兩輪德爾菲專家評議,充分綜合了各學(xué)科領(lǐng)域?qū)<业闹腔酆徒?jīng)驗(yàn),對指標(biāo)體系進(jìn)行了全面細(xì)致的修改。經(jīng)指標(biāo)刪減、增加、合并、順序調(diào)整、以及指標(biāo)表述方式的修改,最終形成由3個(gè)維度、18個(gè)一級指標(biāo)、47個(gè)二級指標(biāo)共同構(gòu)成的“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系”[19],保證了指標(biāo)體系的科學(xué)性、通用性、前瞻性和可操作性。

    3?? 科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)權(quán)重的確定

    采用德爾菲方法對科學(xué)數(shù)據(jù)素養(yǎng)指標(biāo)體系進(jìn)行了兩輪專家評議與分析研究,形成了針對科研人員科學(xué)數(shù)據(jù)素養(yǎng)的較為全面的能力指標(biāo)體系。然而,作為一個(gè)完整的評價(jià)指標(biāo)體系,除了需要具備定性指標(biāo)之外,還需要通過定量評價(jià)來反映被研究群體的科學(xué)數(shù)據(jù)素養(yǎng)水平,即確定各項(xiàng)指標(biāo)在科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)指標(biāo)體系中的權(quán)重。

    權(quán)重是能力指標(biāo)體系的重要組成部分,科學(xué)合理地確定各級指標(biāo)的權(quán)重,是量化評價(jià)質(zhì)量的根本保證。目前計(jì)算指標(biāo)權(quán)重較為有效的量化方法中最常用的是層次分析法(The Analytical Hierarchy Process,AHP),是將價(jià)值和判斷結(jié)合為一個(gè)邏輯整體,依賴于想象、經(jīng)驗(yàn)和知識去構(gòu)造問題所處的遞階層次,并根據(jù)邏輯、直覺和經(jīng)驗(yàn)去給出判斷[20]。本文采用層次分析法確定指標(biāo)體系中各級指標(biāo)權(quán)重的基本步驟如下:

    3.1??? 建立層次結(jié)構(gòu)

    基于“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系”,建立遞階層次結(jié)構(gòu)(見圖2)。將指標(biāo)體系分為四個(gè)層次,最上層為“科學(xué)數(shù)據(jù)素養(yǎng)能力評估”目標(biāo)層,以下依次為維度層、一、二級指標(biāo)層。

    3.2??? 構(gòu)造判斷矩陣

    判斷矩陣表示針對上一層次某元素,本層次與之有關(guān)元素之間相互重要性的比較。在圖2中,目標(biāo)層與維度層有關(guān)聯(lián),可以構(gòu)造判斷矩陣(見表4),其中,Cit表示對于目標(biāo)層而言,I與T兩元素之間的相對重要性比較數(shù)值標(biāo)度(兩兩比較矩陣中使用的重要性標(biāo)度及其含義參見表5)。

    在專家評議問卷中,設(shè)計(jì)了“目標(biāo)—維度層(W—維度)”“個(gè)人維度—一級指標(biāo)層(I—I)”“團(tuán)隊(duì)維度—一級指標(biāo)層(T—T)”“數(shù)據(jù)生態(tài)維度—一級指標(biāo)層(E—E)”4個(gè)判斷矩陣表,請專家對 “一級指標(biāo)”和“指標(biāo)維度”的重要性等級進(jìn)行評定。

    3.3??? 單層次排序及一致性檢驗(yàn)

    3.3.1?? 原始數(shù)據(jù)分析

    共21位專家參與了評議,對判斷矩陣中的數(shù)據(jù)進(jìn)行統(tǒng)計(jì)分析(具體均值和方差見表6、表7、表8、表9)。

    3.3.2?? 單層次權(quán)重計(jì)算

    以上數(shù)據(jù)是對21位專家評議數(shù)據(jù)的統(tǒng)計(jì),使用層次分析法需要量值為1,3,5,7,9(中間值為2,4,6,8),與之對稱矩陣的量值是1/3,1/5,1/7,1/9(1/2,1/4,1/6,1/8)。因此將上面表格中的數(shù)據(jù)圓整到與層次分析法相對應(yīng)的量值(見表10、表11、表12、表13)。

    按照權(quán)重的計(jì)算方法,計(jì)算各指標(biāo)權(quán)重,并進(jìn)行一致性檢驗(yàn)。

    由以上分析可見,“目標(biāo)—維度層(W—維度)”“個(gè)人維度—一級指標(biāo)層(I—I)”“團(tuán)隊(duì)維度—一級指標(biāo)層(T—T)”“數(shù)據(jù)生態(tài)維度—一級指標(biāo)層(E—E)”4個(gè)判斷矩陣都具有滿意的一致性。

    3.4??? 層次總排序

    確定出上述各項(xiàng)具體指標(biāo)的排序權(quán)重后,乘以100再圓整,即得出指標(biāo)體系中各項(xiàng)評價(jià)指標(biāo)的初始加權(quán)值(見表14)。

    由于二級指標(biāo)是根據(jù)一級指標(biāo)的內(nèi)涵要求而進(jìn)行的能力細(xì)分,而且每個(gè)二級指標(biāo)在整個(gè)指標(biāo)體系中所占的絕對比重不大,因此,在本研究中,未對二級指標(biāo)進(jìn)行層次分析法權(quán)重分配,將在以后的研究中進(jìn)一步探討。

    4?? 討論

    4.1??? 指標(biāo)篩選的嚴(yán)謹(jǐn)性

    本研究在指標(biāo)篩選時(shí)采用了德爾菲法,所咨詢的專家不僅有從事數(shù)據(jù)素養(yǎng)教育的教師,還有在科研一線工作的學(xué)者。為了保證指標(biāo)體系的科學(xué)性與導(dǎo)向性、超前性與可持續(xù)性,特選取了副教授職稱以上的專家,他們對調(diào)查內(nèi)容的熟悉程度和權(quán)威性較高,確保了本次德爾菲專家咨詢的可信度??紤]到調(diào)查的普遍性和學(xué)科的綜合性,專家的學(xué)科背景既有理科、工科、又有人文、經(jīng)管、社會(huì)科學(xué)等,保證了最終評議產(chǎn)生的科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系是通用層次的。在分析評議結(jié)果時(shí),除了對各指標(biāo)的“必要性”和“明確性”進(jìn)行了科學(xué)計(jì)算,同時(shí)在指標(biāo)的表述和篩選中充分參考了專家反饋的修改意見,以及在訪談中提到的實(shí)際情況,避免了片面依靠評分的弊端。

    4.2??? 指標(biāo)體系的初步建立

    本文依據(jù)指標(biāo)體系的構(gòu)建原則,經(jīng)過兩輪德爾菲專家評議,最終形成由3個(gè)維度,18個(gè)一級指標(biāo)和47個(gè)二級指標(biāo)共同構(gòu)成的“科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系”。同時(shí),采用簡潔實(shí)用而且系統(tǒng)性較強(qiáng)的層次分析法進(jìn)行指標(biāo)權(quán)重的確定,基于21位學(xué)科領(lǐng)域?qū)<覍χ笜?biāo)體系中3個(gè)維度和18個(gè)一級指標(biāo)進(jìn)行了重要性標(biāo)度,經(jīng)數(shù)據(jù)統(tǒng)計(jì)與分析,分別計(jì)算出指標(biāo)層次單排序和總排序的權(quán)重值,從而完成了定性描述與定量評價(jià)相結(jié)合的科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系,為開展全方位、針對性的科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)與教育方案設(shè)計(jì)提供了科學(xué)的評價(jià)標(biāo)準(zhǔn)和量化測評工具。此外,在指標(biāo)體系構(gòu)建過程中,請專家對每個(gè)指標(biāo)的知識、技能和態(tài)度層面進(jìn)行了相對重要性判定,形成集眾專家判斷意見的“科學(xué)數(shù)據(jù)素養(yǎng)指標(biāo)體系‘知識-技能-態(tài)度重要性測度表”[16],可供科學(xué)數(shù)據(jù)素養(yǎng)教學(xué)內(nèi)容設(shè)計(jì)時(shí)做參考,以利于在整個(gè)教育過程中有重點(diǎn)有步驟、循序漸進(jìn)地實(shí)現(xiàn)能力培養(yǎng)。

    4.3??? 指標(biāo)體系的可操作性

    科學(xué)數(shù)據(jù)素養(yǎng)能力培養(yǎng)的實(shí)踐和成效都需要一定的標(biāo)準(zhǔn)進(jìn)行指導(dǎo)和衡量。本文所構(gòu)建的科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系,正是從數(shù)據(jù)密集型科研時(shí)代個(gè)體所應(yīng)該具備的數(shù)據(jù)能力出發(fā),通過多維度的指標(biāo)表征,對每個(gè)指標(biāo)進(jìn)行了知識、技能和態(tài)度層面的細(xì)致描述,包括能力說明、行為方式、情境示例等,綜合反映具體能力要求與行為結(jié)果,具有良好的可測性,為科學(xué)數(shù)據(jù)素養(yǎng)教育內(nèi)容設(shè)計(jì)提供了切實(shí)的指導(dǎo)。利用科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系,首先,學(xué)生可以評估自身的科學(xué)數(shù)據(jù)素養(yǎng)能力,了解自己在科學(xué)數(shù)據(jù)領(lǐng)域所缺乏的知識或技能,并按照指標(biāo)體系的具體要求有針對性地提高相應(yīng)的能力;其次,院系教師和圖書館員能夠根據(jù)科學(xué)數(shù)據(jù)素養(yǎng)指標(biāo)體系,開發(fā)和設(shè)計(jì)適合不同層級學(xué)習(xí)者的科學(xué)數(shù)據(jù)素養(yǎng)教育項(xiàng)目;第三,學(xué)校教學(xué)管理部門通過了解學(xué)生的科學(xué)數(shù)據(jù)素養(yǎng)能力和教育需求,從而協(xié)調(diào)各方資源,支持圖書館等相關(guān)機(jī)構(gòu)制定科學(xué)數(shù)據(jù)素養(yǎng)培養(yǎng)方案、開設(shè)課程或培訓(xùn)。

    4.4??? 指標(biāo)體系的適用性

    本文設(shè)計(jì)科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系的出發(fā)點(diǎn)是學(xué)科通用型,而對于不同的學(xué)科,其數(shù)據(jù)的范圍、類型、格式和標(biāo)準(zhǔn)各不相同,即使在宏觀范圍內(nèi)的同一領(lǐng)域,或者在單個(gè)科研團(tuán)隊(duì)或?qū)嶒?yàn)室小組的微觀領(lǐng)域內(nèi),不同的研究目的和研究類型所創(chuàng)建或利用的數(shù)據(jù)集屬性也各不相同。因此,為了更有針對性地評價(jià)具體學(xué)科領(lǐng)域的科學(xué)數(shù)據(jù)素養(yǎng)能力水平,需要進(jìn)一步加強(qiáng)針對特定學(xué)科屬性的科學(xué)數(shù)據(jù)素養(yǎng)指標(biāo)體系構(gòu)建。另外,隨著數(shù)據(jù)環(huán)境與信息技術(shù)的發(fā)展,指標(biāo)內(nèi)容及其在教育評價(jià)工作中的應(yīng)用效果還需在后期研究中繼續(xù)完善。

    5?? 結(jié)語

    科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系反映了數(shù)據(jù)密集型科研時(shí)代下,從事科學(xué)研究的相關(guān)人員所應(yīng)該具備的數(shù)據(jù)利用與管理能力。調(diào)研結(jié)果顯示,我國科研人員在科學(xué)數(shù)據(jù)利用與管理的過程中所表現(xiàn)的科學(xué)數(shù)據(jù)素養(yǎng)核心能力基本與國外保持一致,但也存在一定差異,如在數(shù)據(jù)管理計(jì)劃制定與實(shí)施、數(shù)據(jù)共享平臺應(yīng)用等方面與國外相比仍有較大差距,對數(shù)據(jù)意識、數(shù)據(jù)安全、數(shù)據(jù)交流等方面的能力給予了特別關(guān)注[15],這些都為構(gòu)建符合我國國情的科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系提供了基礎(chǔ)。隨著現(xiàn)代科研的團(tuán)隊(duì)合作與協(xié)作特征日益明顯,數(shù)據(jù)和學(xué)術(shù)更加密不可分,共存于知識基礎(chǔ)設(shè)施的復(fù)雜生態(tài)系統(tǒng)中。在架構(gòu)指標(biāo)體系維度時(shí),不僅要考慮以個(gè)人數(shù)據(jù)管理和利用為核心的能力,同時(shí)要將個(gè)人在科研團(tuán)隊(duì)與數(shù)據(jù)生態(tài)中的能力構(gòu)成納入其中,以全面反映大數(shù)據(jù)時(shí)代個(gè)體的科學(xué)數(shù)據(jù)素養(yǎng)能力。構(gòu)建過程中進(jìn)行了廣泛的學(xué)科專家評議與論證,保證了指標(biāo)體系的科學(xué)性,這種定性描述與定量評價(jià)相結(jié)合的指標(biāo)體系,使其在指導(dǎo)科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)、相關(guān)課程開發(fā)與教育實(shí)踐等方面具有很強(qiáng)的實(shí)用性和可操作性,為科研人員數(shù)據(jù)素養(yǎng)能力評價(jià)提供了理論框架與行為指導(dǎo)。

    參考文獻(xiàn):

    [1]? CARLSON J,F(xiàn)OSMIRE M,MILLER C C,et al.Determining data information literacy needs:A study of students and research faculty[J].portal:Libraries and the Academy,2011,11(2):629-657.

    [2]? OGIER A L,LENER E,MILLER R K.The data literacy advisory team at virginia tech:Developing a content model for data literacy instruction[EB/OL].[2019-01-19].http://docs.lib.purdue.edu/cgi/viewcontent.cgi?article=1054&context=dilsymposium.

    [3]? PRADO J C,MARZAL M?魣.Incorporating data literacy into information literacy programs:Core competencies and contents[J].Libri,2013,63(2):123-134.

    [4]? SCHNEIDER R.Research data literacy[C].European conference on information literacy.Springer International Publishing,2013,397:134-140.

    [5]? GRILLENBERGER A,ROMEIKE R.Developing a theoretically founded data literacy competency model[C/OL].WIPSCE '18:Proceedings of the 13th Workshop in Primary and Secondary Computing Education,2018,9:1-10.[2019-02-24].https://doi.org/10.1145/3265757.3265766.

    [6]? RIDSDALE C,ROTHWELL J,SMIT M,et al.Strategies and best practices for data literacy education knowledge synthesis report[J].Journal De Physique IV,2015,105(3):11-18.

    [7]? Databilities:a data literacy competency framework[R/OL].[2019-03-17].https://docs.wixstatic.com/ugd/1ff4ae_14805e0c8e

    f14b54bdafd38e44d5de23.pdf.

    [8]? 王維佳,曹樹金,廖昀赟.數(shù)據(jù)素養(yǎng)能力評價(jià)與大學(xué)圖書館數(shù)據(jù)素養(yǎng)教育的思考[J].圖書館雜志,2016,35(8):96-102.

    [9]? 劉愛琴,劉蕾蕾,尚珊.MOOC環(huán)境下數(shù)據(jù)素養(yǎng)能力評價(jià)模型構(gòu)建與度量[J].圖書館理論與實(shí)踐,2018(3):104-109.

    [10]? 董薇,姜宇飛,張明昊.基于灰色多層次評價(jià)模型的數(shù)據(jù)素養(yǎng)能力評價(jià)研究[J].圖書館學(xué)刊,2017,39(11):22-29.

    [11]? 周兵.大數(shù)據(jù)時(shí)代高校教師數(shù)據(jù)素養(yǎng)的內(nèi)涵及評價(jià)體系探析[J].圖書館研究與工作,2018(1):51-54.

    [12]? 潘雪,陳雅.我國高校數(shù)據(jù)素養(yǎng)教育評價(jià)指標(biāo)體系探析[J].新世紀(jì)圖書館,2018(7):31-34.

    [13]? GRAHAM B,REGEHR G,WRIGHT J G,et al.Delphi as a method to establish consensus for diagnostic criteria[J].Journal of Clinical Epidemiology,2003,56(12):1150-1156.

    [14]? 邱璇,丁韌.高校學(xué)生信息素養(yǎng)評價(jià)指標(biāo)體系構(gòu)建及啟示[J].圖書情報(bào)知識,2009(6):75-80.

    [15]? 秦小燕,初景利.面向我國科研人員的科學(xué)數(shù)據(jù)素養(yǎng)能力評價(jià)研究[J/OL].[2019-09-17].https://kns-cnki-net.e.buaa.edu.cn/kcms/detail/11.1762.G3.20190917.0923.002.html.

    [16]? 秦小燕.科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系構(gòu)建與實(shí)證研究[D].北京:中國科學(xué)院大學(xué),2018.

    [17]? 宋化民,肖佑恩.科學(xué)技術(shù)統(tǒng)計(jì)學(xué)[M].北京:中國石化出版社,1990:117-176.

    [18]? 孫振球,徐勇勇.醫(yī)學(xué)統(tǒng)計(jì)學(xué)[M].北京:人民衛(wèi)生出版社,2002.

    [19]? 秦小燕,初景利.基于ITE-KSA結(jié)構(gòu)的科學(xué)數(shù)據(jù)素養(yǎng)能力指標(biāo)體系研究[J].圖書與情報(bào),2019(1):115-124.

    [20]? 孫建軍.定量分析方法[M].南京:南京大學(xué)出版社,2005.

    [21]? 楊良斌.信息分析方法與實(shí)踐[M].長春:東北師范大學(xué)出版社,2017:23-35.

    作者簡介:秦小燕,北京航空航天大學(xué)圖書館館員,博士;初景利,中國科學(xué)院文獻(xiàn)情報(bào)中心期刊出版運(yùn)營總監(jiān),中國科學(xué)院大學(xué)圖書情報(bào)與檔案管理系教授,博士生導(dǎo)師。

    收稿日期:2020-01-20;責(zé)任編輯:魏志鵬;通訊作者:初景利(chujl@mail.las.ac.cn)

    猜你喜歡
    德爾菲法層次分析指標(biāo)體系
    2022城市商業(yè)魅力指標(biāo)體系
    自助圖書館選址評價(jià)指標(biāo)體系研究
    應(yīng)用技術(shù)大學(xué)教師評價(jià)指標(biāo)體系構(gòu)建與應(yīng)用
    交通強(qiáng)國建設(shè)評價(jià)指標(biāo)體系
    沈陽市農(nóng)業(yè)補(bǔ)貼改革現(xiàn)狀評價(jià)及對策研究
    智能電網(wǎng)風(fēng)險(xiǎn)評價(jià)研究
    淺析聚類分析在郫縣煙草卷煙營銷方面的應(yīng)用
    基于德爾菲法的高校學(xué)生黨員質(zhì)量考核指標(biāo)體系的構(gòu)建
    中國煤層氣產(chǎn)業(yè)發(fā)展影響因素分析
    51国产日韩欧美| 国产精品三级大全| 乱人视频在线观看| 午夜福利视频1000在线观看| 最近手机中文字幕大全| 99国产精品一区二区蜜桃av| 久久久久久国产a免费观看| 少妇的逼好多水| 亚洲国产欧洲综合997久久,| 婷婷色综合大香蕉| 人人妻人人澡欧美一区二区| 97人妻精品一区二区三区麻豆| 麻豆久久精品国产亚洲av| 欧美日韩一区二区视频在线观看视频在线 | 亚洲国产精品成人综合色| 国产亚洲最大av| av免费观看日本| 欧美三级亚洲精品| 国产精品一区二区三区四区免费观看| 日韩成人伦理影院| 免费一级毛片在线播放高清视频| 麻豆一二三区av精品| 中文字幕久久专区| 成年女人看的毛片在线观看| 91av网一区二区| АⅤ资源中文在线天堂| 嫩草影院入口| 超碰97精品在线观看| 大又大粗又爽又黄少妇毛片口| 国产av码专区亚洲av| 亚洲精品乱码久久久久久按摩| 欧美日本亚洲视频在线播放| 日本猛色少妇xxxxx猛交久久| 听说在线观看完整版免费高清| 国内精品宾馆在线| 中文在线观看免费www的网站| 岛国毛片在线播放| 日本wwww免费看| 69人妻影院| 国产69精品久久久久777片| 国产在线男女| 亚洲乱码一区二区免费版| or卡值多少钱| 成人鲁丝片一二三区免费| 中文资源天堂在线| 91午夜精品亚洲一区二区三区| 亚洲国产欧美人成| 日韩一区二区三区影片| 内射极品少妇av片p| 国产 一区精品| 一级毛片久久久久久久久女| 国产中年淑女户外野战色| av在线老鸭窝| 高清午夜精品一区二区三区| 亚洲综合色惰| av女优亚洲男人天堂| 十八禁国产超污无遮挡网站| 国产av码专区亚洲av| 亚洲怡红院男人天堂| 亚洲欧美日韩卡通动漫| 中文字幕亚洲精品专区| 特级一级黄色大片| 久久久久精品久久久久真实原创| 青春草亚洲视频在线观看| 狂野欧美白嫩少妇大欣赏| 国产探花在线观看一区二区| 内地一区二区视频在线| 欧美成人免费av一区二区三区| 欧美另类亚洲清纯唯美| a级一级毛片免费在线观看| 人妻制服诱惑在线中文字幕| av福利片在线观看| h日本视频在线播放| 中文字幕av成人在线电影| 你懂的网址亚洲精品在线观看 | 久久久成人免费电影| 亚洲18禁久久av| 激情 狠狠 欧美| 一区二区三区四区激情视频| 亚洲综合精品二区| 别揉我奶头 嗯啊视频| 国产黄片美女视频| 国产精品国产三级国产av玫瑰| videossex国产| 亚洲国产精品久久男人天堂| 亚洲经典国产精华液单| 色吧在线观看| 一本久久精品| 日韩一区二区视频免费看| 国产高潮美女av| 变态另类丝袜制服| 熟女人妻精品中文字幕| 国产成人一区二区在线| 97人妻精品一区二区三区麻豆| 成人午夜高清在线视频| 久久久久久久久久久丰满| 国产精品1区2区在线观看.| 色综合亚洲欧美另类图片| 成人无遮挡网站| 又爽又黄a免费视频| 人体艺术视频欧美日本| 爱豆传媒免费全集在线观看| 成人av在线播放网站| 日韩一区二区视频免费看| 91午夜精品亚洲一区二区三区| 狂野欧美激情性xxxx在线观看| 韩国av在线不卡| 久久久久免费精品人妻一区二区| 国产真实伦视频高清在线观看| 久久99热这里只频精品6学生 | 中文天堂在线官网| 听说在线观看完整版免费高清| 成人鲁丝片一二三区免费| 日韩,欧美,国产一区二区三区 | 国产日韩欧美在线精品| 波多野结衣高清无吗| 在线观看美女被高潮喷水网站| 久久精品国产99精品国产亚洲性色| 伦精品一区二区三区| www日本黄色视频网| 一二三四中文在线观看免费高清| 日韩欧美国产在线观看| 久久精品人妻少妇| av在线天堂中文字幕| 亚洲一区高清亚洲精品| 夫妻性生交免费视频一级片| 久久亚洲精品不卡| 亚洲自偷自拍三级| 我要搜黄色片| 亚洲精品国产av成人精品| 午夜爱爱视频在线播放| 人妻系列 视频| 欧美成人免费av一区二区三区| 久久久久久久亚洲中文字幕| 国产精品乱码一区二三区的特点| 国产av码专区亚洲av| 午夜福利在线在线| 国产亚洲91精品色在线| 岛国在线免费视频观看| 免费在线观看成人毛片| av专区在线播放| 国产老妇女一区| 欧美日本亚洲视频在线播放| 国产成年人精品一区二区| 一级毛片电影观看 | 久久精品国产亚洲网站| 99久久人妻综合| 亚洲欧美成人精品一区二区| 日本-黄色视频高清免费观看| 国产精品福利在线免费观看| 国产精品一区二区三区四区久久| 久久6这里有精品| 免费在线观看成人毛片| 可以在线观看毛片的网站| 天美传媒精品一区二区| 一区二区三区免费毛片| 18禁在线无遮挡免费观看视频| 一本一本综合久久| 国产精品久久久久久av不卡| 国产精品一区www在线观看| 日本黄色片子视频| 99久久精品一区二区三区| 亚洲电影在线观看av| 成人鲁丝片一二三区免费| 最近中文字幕高清免费大全6| 色综合站精品国产| 久久精品综合一区二区三区| 亚洲国产最新在线播放| 久久精品国产99精品国产亚洲性色| 免费人成在线观看视频色| 三级经典国产精品| 中文字幕av成人在线电影| 91久久精品国产一区二区三区| 欧美成人精品欧美一级黄| h日本视频在线播放| 国产精品一及| 国产精品国产三级国产专区5o | 美女xxoo啪啪120秒动态图| 国产精品久久电影中文字幕| 午夜福利网站1000一区二区三区| 一级毛片久久久久久久久女| 天堂影院成人在线观看| 中文欧美无线码| 六月丁香七月| a级一级毛片免费在线观看| 91aial.com中文字幕在线观看| 一个人观看的视频www高清免费观看| a级毛色黄片| 中文字幕av在线有码专区| 亚洲成人中文字幕在线播放| 午夜福利视频1000在线观看| av在线亚洲专区| 亚洲av成人精品一二三区| 18禁裸乳无遮挡免费网站照片| 亚洲人成网站在线播| 一级毛片aaaaaa免费看小| 在线天堂最新版资源| 亚洲精品,欧美精品| 国产av不卡久久| 大香蕉97超碰在线| 91精品国产九色| 亚洲欧美成人精品一区二区| 女人久久www免费人成看片 | 久久久久久大精品| 亚洲高清免费不卡视频| 久久久国产成人精品二区| 成人午夜精彩视频在线观看| 天堂中文最新版在线下载 | 建设人人有责人人尽责人人享有的 | 国产熟女欧美一区二区| 超碰av人人做人人爽久久| 高清在线视频一区二区三区 | 大香蕉97超碰在线| 国内精品一区二区在线观看| 99在线人妻在线中文字幕| 青春草国产在线视频| 在线a可以看的网站| 九九热线精品视视频播放| 一卡2卡三卡四卡精品乱码亚洲| 寂寞人妻少妇视频99o| 91久久精品国产一区二区三区| 成人性生交大片免费视频hd| 国产毛片a区久久久久| 国产高清视频在线观看网站| 亚洲国产成人一精品久久久| 边亲边吃奶的免费视频| 69av精品久久久久久| 黄色欧美视频在线观看| 日韩制服骚丝袜av| 久久99热6这里只有精品| 99视频精品全部免费 在线| 舔av片在线| 尤物成人国产欧美一区二区三区| 2021天堂中文幕一二区在线观| 精品久久久久久久末码| 亚洲无线观看免费| 久久人人爽人人爽人人片va| 婷婷色av中文字幕| 天天躁夜夜躁狠狠久久av| 免费观看性生交大片5| 国产综合懂色| 亚洲欧美精品专区久久| 18禁在线无遮挡免费观看视频| 国产激情偷乱视频一区二区| 美女国产视频在线观看| 久久久久性生活片| 成人毛片60女人毛片免费| 久久精品影院6| 欧美成人免费av一区二区三区| 边亲边吃奶的免费视频| 插阴视频在线观看视频| 久久久久免费精品人妻一区二区| 国产亚洲91精品色在线| 中文字幕人妻熟人妻熟丝袜美| 国产av在哪里看| 日本欧美国产在线视频| 成人亚洲欧美一区二区av| 国产精品女同一区二区软件| av专区在线播放| 日日撸夜夜添| 蜜桃久久精品国产亚洲av| 久久精品人妻少妇| 一个人免费在线观看电影| 插阴视频在线观看视频| 高清在线视频一区二区三区 | 亚洲精品亚洲一区二区| 少妇被粗大猛烈的视频| 亚洲精品乱久久久久久| 久久久久九九精品影院| 亚洲av成人精品一区久久| 欧美最新免费一区二区三区| 日韩精品有码人妻一区| 午夜福利在线观看吧| 亚洲精品一区蜜桃| 中文亚洲av片在线观看爽| av又黄又爽大尺度在线免费看 | 九九爱精品视频在线观看| 久久久欧美国产精品| 国产高潮美女av| 国产精品日韩av在线免费观看| 男人的好看免费观看在线视频| 日本一本二区三区精品| 美女脱内裤让男人舔精品视频| 看非洲黑人一级黄片| 国产黄色小视频在线观看| 能在线免费观看的黄片| 免费观看精品视频网站| 亚洲精品日韩在线中文字幕| 淫秽高清视频在线观看| 亚洲四区av| 精品久久久久久久久久久久久| 欧美变态另类bdsm刘玥| 午夜福利在线在线| 国国产精品蜜臀av免费| 大香蕉97超碰在线| 赤兔流量卡办理| 欧美又色又爽又黄视频| 成人性生交大片免费视频hd| 亚洲欧美精品自产自拍| 国产精品久久视频播放| 欧美日韩国产亚洲二区| 久久久精品欧美日韩精品| 联通29元200g的流量卡| 美女黄网站色视频| 真实男女啪啪啪动态图| 亚洲国产精品专区欧美| 99热这里只有精品一区| 精品人妻视频免费看| 欧美xxxx性猛交bbbb| 三级国产精品欧美在线观看| 男人的好看免费观看在线视频| 少妇高潮的动态图| 狠狠狠狠99中文字幕| 成人午夜精彩视频在线观看| 亚洲自偷自拍三级| 国产免费又黄又爽又色| 在线免费观看的www视频| 成人亚洲精品av一区二区| 日本五十路高清| 国产人妻一区二区三区在| 插逼视频在线观看| 亚洲综合精品二区| 插逼视频在线观看| 18禁裸乳无遮挡免费网站照片| 亚洲色图av天堂| 一个人免费在线观看电影| 人人妻人人看人人澡| 亚洲av成人av| 亚洲丝袜综合中文字幕| 久久久久久久午夜电影| 成人美女网站在线观看视频| 国产精品国产三级国产av玫瑰| 直男gayav资源| 日韩中字成人| 亚洲av不卡在线观看| av在线观看视频网站免费| 热99re8久久精品国产| 午夜福利在线观看免费完整高清在| 精品久久久久久久末码| 人体艺术视频欧美日本| 日韩高清综合在线| 精品国产露脸久久av麻豆 | 国产精华一区二区三区| 成年女人看的毛片在线观看| 一区二区三区四区激情视频| 天天一区二区日本电影三级| 日本爱情动作片www.在线观看| 国产伦在线观看视频一区| 国产视频首页在线观看| 最近最新中文字幕大全电影3| 日韩一本色道免费dvd| 综合色丁香网| 内地一区二区视频在线| 午夜福利网站1000一区二区三区| 久久精品久久精品一区二区三区| 国产亚洲av片在线观看秒播厂 | 国产日韩欧美在线精品| 在线观看av片永久免费下载| 久久精品久久精品一区二区三区| 成年av动漫网址| 高清午夜精品一区二区三区| 一级毛片电影观看 | av福利片在线观看| 麻豆国产97在线/欧美| 晚上一个人看的免费电影| 纵有疾风起免费观看全集完整版 | 啦啦啦啦在线视频资源| 国产一区二区三区av在线| 婷婷色av中文字幕| 3wmmmm亚洲av在线观看| 中文字幕亚洲精品专区| 婷婷色综合大香蕉| 久久久久久久久久久丰满| 亚洲av成人精品一二三区| 亚洲精品乱码久久久v下载方式| 日本午夜av视频| 超碰97精品在线观看| 亚洲国产精品sss在线观看| 国产精品一二三区在线看| 日产精品乱码卡一卡2卡三| 亚洲人与动物交配视频| 久久99精品国语久久久| 干丝袜人妻中文字幕| 亚洲乱码一区二区免费版| 日韩一区二区三区影片| 国产真实伦视频高清在线观看| 国产精品国产三级国产专区5o | 国产精品永久免费网站| 我的女老师完整版在线观看| 国产色爽女视频免费观看| 色综合亚洲欧美另类图片| 在线播放国产精品三级| 亚洲av成人精品一二三区| 中文字幕亚洲精品专区| 久久精品夜夜夜夜夜久久蜜豆| 午夜福利成人在线免费观看| 婷婷色综合大香蕉| 女人被狂操c到高潮| 只有这里有精品99| 久久精品夜色国产| 国产三级中文精品| 日韩强制内射视频| 成人美女网站在线观看视频| 亚洲av免费在线观看| 久久人妻av系列| 亚洲精品色激情综合| 天堂网av新在线| 国内揄拍国产精品人妻在线| 日韩欧美国产在线观看| 欧美精品国产亚洲| 观看免费一级毛片| 变态另类丝袜制服| 精品久久久久久久人妻蜜臀av| 最近最新中文字幕免费大全7| av在线老鸭窝| 九九久久精品国产亚洲av麻豆| 亚洲人成网站在线播| 亚洲怡红院男人天堂| 国产一级毛片在线| 亚洲欧美成人综合另类久久久 | 日本与韩国留学比较| 建设人人有责人人尽责人人享有的 | 日本免费一区二区三区高清不卡| 九九爱精品视频在线观看| 亚洲成av人片在线播放无| 亚洲欧美成人综合另类久久久 | 国产伦在线观看视频一区| 亚洲精品日韩在线中文字幕| 舔av片在线| 最近最新中文字幕大全电影3| 国产午夜精品久久久久久一区二区三区| 日韩av在线大香蕉| 亚洲欧美成人精品一区二区| 色噜噜av男人的天堂激情| 精品久久久久久久末码| 午夜久久久久精精品| 三级国产精品欧美在线观看| 91在线精品国自产拍蜜月| 国产精品伦人一区二区| 日本黄色视频三级网站网址| 九九久久精品国产亚洲av麻豆| 人妻系列 视频| 亚洲色图av天堂| 中国国产av一级| 亚洲美女搞黄在线观看| 亚洲激情五月婷婷啪啪| 亚洲国产欧美人成| 青春草国产在线视频| av专区在线播放| 亚洲国产高清在线一区二区三| 99热网站在线观看| 欧美xxxx性猛交bbbb| 小说图片视频综合网站| 九九久久精品国产亚洲av麻豆| 美女xxoo啪啪120秒动态图| 蜜桃亚洲精品一区二区三区| 九草在线视频观看| 亚洲精品国产成人久久av| 色视频www国产| 一区二区三区高清视频在线| 国语对白做爰xxxⅹ性视频网站| 国产一区有黄有色的免费视频 | 黄片wwwwww| 99热6这里只有精品| 国产午夜精品久久久久久一区二区三区| 国产一级毛片在线| 国产午夜精品久久久久久一区二区三区| 午夜精品国产一区二区电影 | 中文字幕免费在线视频6| 亚洲怡红院男人天堂| 国产 一区 欧美 日韩| 久久亚洲精品不卡| 女人被狂操c到高潮| 午夜激情福利司机影院| 夜夜看夜夜爽夜夜摸| 亚洲欧美日韩卡通动漫| 欧美区成人在线视频| 日韩欧美精品免费久久| 人体艺术视频欧美日本| 国产成人aa在线观看| 日本与韩国留学比较| 成人鲁丝片一二三区免费| 亚洲美女视频黄频| 午夜久久久久精精品| 亚洲欧美成人综合另类久久久 | 欧美日韩国产亚洲二区| 国产免费视频播放在线视频 | 国内少妇人妻偷人精品xxx网站| 国产亚洲一区二区精品| 国产精品一区二区性色av| 三级国产精品片| 国产av在哪里看| 日韩一区二区三区影片| 热99在线观看视频| 欧美极品一区二区三区四区| 亚洲一级一片aⅴ在线观看| a级一级毛片免费在线观看| 国产黄a三级三级三级人| 尾随美女入室| 性插视频无遮挡在线免费观看| h日本视频在线播放| 禁无遮挡网站| 神马国产精品三级电影在线观看| 久久久久性生活片| 免费播放大片免费观看视频在线观看 | or卡值多少钱| 欧美97在线视频| 五月伊人婷婷丁香| 麻豆精品久久久久久蜜桃| 精品国产一区二区三区久久久樱花 | 久久国内精品自在自线图片| 国产精品野战在线观看| 亚洲av免费在线观看| 免费看日本二区| 亚洲精品成人久久久久久| 亚洲国产色片| 午夜福利网站1000一区二区三区| 毛片女人毛片| 久久鲁丝午夜福利片| 日本爱情动作片www.在线观看| 亚洲人成网站在线观看播放| 久久人人爽人人爽人人片va| 成人二区视频| 在线观看av片永久免费下载| 禁无遮挡网站| 精品一区二区三区人妻视频| 国产成人a∨麻豆精品| www.av在线官网国产| 有码 亚洲区| 国产淫语在线视频| 黄片wwwwww| 女人被狂操c到高潮| 日本黄大片高清| 国产真实乱freesex| 人体艺术视频欧美日本| 欧美xxxx黑人xx丫x性爽| 成人亚洲欧美一区二区av| 精品免费久久久久久久清纯| 亚洲人成网站在线观看播放| 免费电影在线观看免费观看| 观看免费一级毛片| 欧美日韩精品成人综合77777| 国产一级毛片在线| 日韩av不卡免费在线播放| 亚洲av中文av极速乱| 中国国产av一级| 蜜桃久久精品国产亚洲av| 村上凉子中文字幕在线| 2021少妇久久久久久久久久久| 国产女主播在线喷水免费视频网站 | 国产探花极品一区二区| 国产欧美另类精品又又久久亚洲欧美| 午夜激情欧美在线| 亚洲精品日韩在线中文字幕| 久久久久久久午夜电影| 美女被艹到高潮喷水动态| 国产黄a三级三级三级人| 国产在线一区二区三区精 | 亚洲av福利一区| 极品教师在线视频| 国产成人精品婷婷| 亚洲最大成人中文| 69人妻影院| 永久免费av网站大全| 国产片特级美女逼逼视频| 久久精品人妻少妇| 色尼玛亚洲综合影院| 亚洲伊人久久精品综合 | 国产午夜福利久久久久久| a级毛色黄片| 五月玫瑰六月丁香| 国产免费男女视频| 好男人视频免费观看在线| 2022亚洲国产成人精品| 国产精品麻豆人妻色哟哟久久 | 性色avwww在线观看| 寂寞人妻少妇视频99o| 亚洲欧美精品综合久久99| 一边亲一边摸免费视频| 91精品一卡2卡3卡4卡| 男插女下体视频免费在线播放| 久久国产乱子免费精品| 亚洲av不卡在线观看| 欧美性猛交黑人性爽| 色网站视频免费| 亚洲av免费高清在线观看| 亚洲国产精品sss在线观看| 国产欧美日韩精品一区二区| 国产一区二区亚洲精品在线观看| 人人妻人人澡人人爽人人夜夜 | 久久午夜福利片| 亚洲真实伦在线观看| 蜜桃亚洲精品一区二区三区| 97在线视频观看| 精品不卡国产一区二区三区| 在线免费十八禁| 一区二区三区高清视频在线| 午夜激情福利司机影院| 精华霜和精华液先用哪个| 日韩一区二区三区影片| 久久精品国产自在天天线| 免费av观看视频| 国产亚洲精品久久久com| 久久精品夜夜夜夜夜久久蜜豆| 国产综合懂色| 狠狠狠狠99中文字幕| 欧美又色又爽又黄视频| 欧美成人免费av一区二区三区| 国产亚洲最大av| 亚洲电影在线观看av| 亚洲国产成人一精品久久久| 亚洲精品乱久久久久久| 亚洲色图av天堂| a级毛色黄片| 最新中文字幕久久久久|