• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    循證視角下文獻(xiàn)證據(jù)檢索的科學(xué)性評(píng)價(jià):緣起、指標(biāo)與趨勢(shì)*

    2021-11-11 20:58:07周文杰趙悅言魏志鵬楊克虎
    圖書與情報(bào) 2021年6期

    周文杰 趙悅言 魏志鵬 楊克虎

    (1.西北師范大學(xué)商學(xué)院 甘肅蘭州 730070)

    (2.蘭州大學(xué)基礎(chǔ)醫(yī)學(xué)院循證醫(yī)學(xué)中心 甘肅蘭州 730000)

    (3.蘭州大學(xué)循證社會(huì)科學(xué)研究中心 甘肅蘭州 730000)

    循證研究的基本目的,是為了對(duì)存在分歧甚至對(duì)立的原始研究證據(jù)加以有效整合,以獲取更高層次、更具有普遍意義的科學(xué)證據(jù)。 Jessica Gurevitch 等提出,對(duì)原始的科學(xué)研究結(jié)果加以綜合,以達(dá)到全面理解和解決問題,并確定研究結(jié)果變化的來源是科學(xué)進(jìn)程的基本組成部分。迄今為止,循證研究領(lǐng)域已發(fā)展了系統(tǒng)評(píng)價(jià)和元分析等一整套理論、方法與工具,Cochran、Campbell 等網(wǎng)絡(luò)也為循證研究的規(guī)范化和更高層次研究證據(jù)的整合與交流提供了平臺(tái)。近二三十年來,循證研究呈現(xiàn)出了由醫(yī)學(xué)領(lǐng)域向社會(huì)科學(xué)擴(kuò)展的趨向,系統(tǒng)評(píng)價(jià)(systematic review)、元分析(meta-analysis)及研究結(jié)果整合(research synthesis)的理論與方法也呈現(xiàn)出了蓬勃的發(fā)展態(tài)勢(shì)。

    在社會(huì)科學(xué)研究領(lǐng)域,由于研究對(duì)象具有多元化、異質(zhì)性及依情境而變等特征,導(dǎo)致原始研究所獲取的證據(jù)與自然科學(xué)相比存在更多的局限性和不穩(wěn)定性,從而更迫切地需要社會(huì)科學(xué)領(lǐng)域開展科學(xué)的系統(tǒng)評(píng)價(jià)和元分析,以便獲取更高層次的研究證據(jù)。無論是在自然科學(xué)領(lǐng)域的循證研究還是循證社會(huì)科學(xué)研究中,原始文獻(xiàn)檢索質(zhì)量的高低都是系統(tǒng)評(píng)價(jià)和元分析能否消除偏倚,獲得高質(zhì)量證據(jù)的首要因素。為此,研究者亟待對(duì)循證社會(huì)科學(xué)研究中文獻(xiàn)證據(jù)檢索的質(zhì)量展開深入評(píng)價(jià),以確定相對(duì)科學(xué)的檢索標(biāo)準(zhǔn),從而保障基于這些原始研究證據(jù)而展開的系統(tǒng)評(píng)價(jià)和元分析更具科學(xué)意義。 基于這一背景,本文旨在對(duì)文獻(xiàn)證據(jù)檢索科學(xué)性評(píng)價(jià)問題的緣起加以回顧,在汲取傳統(tǒng)的查全率和查準(zhǔn)率指標(biāo)合理要素前提下,提出飽和度、冗余度、敏感度等指標(biāo),并引入信度和效度評(píng)估方法,以期發(fā)展出適合于循證社會(huì)科學(xué)自身特征的新的文獻(xiàn)證據(jù)檢索質(zhì)量評(píng)價(jià)指標(biāo)體系。在此基礎(chǔ)上,本文還將對(duì)文獻(xiàn)證據(jù)檢索科學(xué)性評(píng)價(jià)的趨勢(shì)做出判斷。

    1 文獻(xiàn)證據(jù)檢索科學(xué)性評(píng)價(jià)問題的緣起

    科學(xué)文獻(xiàn)的特征之一,是其中充斥著對(duì)某一科學(xué)問題的反復(fù)研究。研究者之所以對(duì)同一現(xiàn)象、問題或假設(shè)進(jìn)行多次的重復(fù)分析,是為了獲得更加概括、更加接近于真實(shí)、具有更高質(zhì)量的證據(jù)。然而,很多研究者都發(fā)現(xiàn),即使針對(duì)同樣的問題采用了類似的研究設(shè)計(jì),研究者所獲得的研究結(jié)果也常常存在差異,甚至存在相互矛盾和對(duì)立?!缎睦砜茖W(xué)透視》(Journal Perspectives on Psychological Science)雜志曾出版了一期特刊,專門對(duì)重復(fù)研究得到不同發(fā)現(xiàn)的現(xiàn)象進(jìn)行了系統(tǒng)評(píng)述。很多證據(jù)都表明,與自然科學(xué)相比,社會(huì)科學(xué)領(lǐng)域針對(duì)相同研究問題而得出不同研究結(jié)果的現(xiàn)象尤為突出。

    自1992 年,加拿大學(xué)者Gordon Henry Guyatt 等首倡在醫(yī)學(xué)教育領(lǐng)域應(yīng)用循證方法以來,研究證據(jù)整合的理論、方法和工具一直得到學(xué)界的廣泛關(guān)注。近二三十年來,系統(tǒng)評(píng)價(jià)和元分析作為循證領(lǐng)域用以進(jìn)行原始證據(jù)整合,獲取更高層次證據(jù)的基本手段,尤其受到重視。1997 年,Lipsey 和Wilson發(fā)表了基于302 篇社會(huì)科學(xué)領(lǐng)域關(guān)于處理效應(yīng)的元分析述評(píng)文章,標(biāo)志著社會(huì)科學(xué)領(lǐng)域的研究證據(jù)整合進(jìn)入了新的階段。 同年,Cochrane 合作網(wǎng)絡(luò)正式成立,成為首個(gè)研究證據(jù)整合的全球性合作平臺(tái)。1999 年,以促進(jìn)社會(huì)科學(xué)領(lǐng)域研究整合為主要目標(biāo)的Campbell 合作網(wǎng)絡(luò)建立,使社會(huì)科學(xué)領(lǐng)域的循證研究和循證實(shí)踐具備了更加堅(jiān)實(shí)的基礎(chǔ)。

    在研究證據(jù)整合的過程中,元分析的工具和方法扮演著極其重要的角色。迄今為止,元分析方法的發(fā)展和完善經(jīng)歷了若干重要階段。 Cochran指出,1954年首個(gè)元分析中固定和隨機(jī)效應(yīng)計(jì)算方法的提出,1986 年研究間方差的累計(jì)計(jì)算方法的發(fā)展,1997年關(guān)于漏斗圖(funnel plot)和Egger 檢驗(yàn)(Egger’s test)在發(fā)表偏倚識(shí)別中的應(yīng)用,2002 年關(guān)于異質(zhì)性檢驗(yàn)指標(biāo)I的提出可被視為元分析發(fā)展歷程中的里程碑。經(jīng)過多年的發(fā)展,當(dāng)前元分析的方法和工具已越來越多樣、豐富,其科學(xué)程度也越來越得到各領(lǐng)域研究者的認(rèn)可。 特別是在1995 年“系統(tǒng)評(píng)價(jià)”這一術(shù)語提出以來,循證領(lǐng)域的研究者進(jìn)一步發(fā)展了PRIMA 等一系列系統(tǒng)評(píng)價(jià)質(zhì)量評(píng)估工具,極大地提高了循證研究的規(guī)范性,使科學(xué)研究結(jié)果的整合在整個(gè)科學(xué)發(fā)展的進(jìn)程中發(fā)揮了重要的影響力。

    盡管系統(tǒng)評(píng)價(jià)和元分析的科學(xué)化和規(guī)范化有效地促進(jìn)了研究結(jié)果的整合,極大地提升了循證研究的質(zhì)量,但如本文所述,系統(tǒng)評(píng)價(jià)和元分析的質(zhì)量首先取決于原始證據(jù)獲取是否全面。 也就是說,如果對(duì)原始證據(jù)的檢索存在著偏差,則無論系統(tǒng)評(píng)價(jià)和元分析的程序如何嚴(yán)謹(jǐn)、方法如何科學(xué),其結(jié)果都可能存在偏倚。從這個(gè)意義上說,原始研究證據(jù)的檢索是保障循證研究結(jié)果科學(xué)性的首要問題。然而,通過文獻(xiàn)調(diào)查發(fā)現(xiàn),迄今為止,學(xué)術(shù)界在文獻(xiàn)證據(jù)檢索的科學(xué)性評(píng)價(jià)方面尚無明確統(tǒng)一的評(píng)價(jià)標(biāo)準(zhǔn),存在著明顯的研究薄弱點(diǎn)。

    著眼于促進(jìn)社會(huì)科學(xué)領(lǐng)域研究證據(jù)的整合和高質(zhì)量應(yīng)用,循證社會(huì)科學(xué)領(lǐng)域尤其需要發(fā)展出科學(xué)規(guī)范的文獻(xiàn)證據(jù)檢索評(píng)判標(biāo)準(zhǔn)。在我國(guó),2019 年由楊克虎教授作為首席專家的國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“循證社會(huì)科學(xué)的理論體系、國(guó)際經(jīng)驗(yàn)與中國(guó)路徑研究”得以立項(xiàng),標(biāo)志著我國(guó)循證社會(huì)科學(xué)研究與應(yīng)用已進(jìn)入深化發(fā)展的新階段。 在我國(guó)循證社會(huì)科學(xué)蓬勃發(fā)展的背景下,發(fā)展一套統(tǒng)一的文獻(xiàn)證據(jù)檢索的質(zhì)量評(píng)價(jià)規(guī)范和標(biāo)準(zhǔn),對(duì)于促進(jìn)循證社會(huì)科學(xué)理論的完善和實(shí)踐的應(yīng)用意義重大。

    2 文獻(xiàn)證據(jù)檢索科學(xué)性評(píng)價(jià)的指標(biāo)

    圍繞文獻(xiàn)檢索質(zhì)量的評(píng)價(jià),信息資源管理等領(lǐng)域都已展開了大量研究。這些研究表明,評(píng)價(jià)檢索質(zhì)量需要同時(shí)考慮兩個(gè)相關(guān)關(guān)聯(lián)的因素:在盡可能把相關(guān)的文獻(xiàn)全部納入進(jìn)來的同時(shí),把不相關(guān)的文獻(xiàn)排除出去。按照這種邏輯,信息檢索等領(lǐng)域已發(fā)展了查全率和查準(zhǔn)率等指標(biāo),用于檢索質(zhì)量的評(píng)價(jià)。

    2.1 查全率和查準(zhǔn)率

    查全率(Recall Ratio)主要是指從文獻(xiàn)數(shù)據(jù)庫(kù)內(nèi)檢出的相關(guān)文獻(xiàn)數(shù)量在文獻(xiàn)總體所占的比重。 這一指標(biāo)主要用于衡量在特定檢索中檢出相關(guān)文獻(xiàn)的能力。 查全率越高,意味著檢索獲得的相關(guān)文獻(xiàn)越全面。 彭奇志將影響查全率的因素總結(jié)為如下兩個(gè)方面:首先,從文獻(xiàn)數(shù)據(jù)庫(kù)的角度來看,數(shù)據(jù)庫(kù)收錄文獻(xiàn)信息不全,索引詞匯缺乏控制和專指性,詞表結(jié)構(gòu)不完整,檢索詞間關(guān)系模糊或不正確,標(biāo)引不詳,標(biāo)引前后不一致,標(biāo)引人員遺漏了原文的重要概念或用詞不當(dāng)?shù)榷伎赡苡绊懖槿?;其次,從檢索者的檢索方式來看,檢索策略過于簡(jiǎn)單,檢索詞選擇不當(dāng)或檢索詞邏輯組配不當(dāng),檢索途徑和方法單一,檢索者不夠熟練或缺乏耐心,檢索時(shí)不能全面地描述檢索要求等也可能對(duì)查全率產(chǎn)生直接影響。 向禹和付文韜分析發(fā)現(xiàn),查全率存在如下局限性:首先,查全率描述是檢索出的相關(guān)文獻(xiàn)數(shù)量與存儲(chǔ)在檢索系統(tǒng)中的全部相關(guān)文獻(xiàn)總量之比,但系統(tǒng)中相關(guān)文獻(xiàn)問題究竟有多少一般是不可知的,只能估計(jì);其次,查全率是一個(gè)建立在“假設(shè)”基礎(chǔ)上的評(píng)價(jià)指標(biāo),這種“假設(shè)”是指檢索出的相關(guān)信息對(duì)用戶具有同等價(jià)值,但對(duì)于用戶來說,所檢出文獻(xiàn)的相關(guān)程度可能比它的數(shù)量要重要得多。 基于此,尹舒力指出,認(rèn)為查全率“是一個(gè)不實(shí)際的概念”。

    查準(zhǔn)率(Precision Ratio)用以衡量特定檢索中拒絕不相關(guān)文獻(xiàn)的能力,主要指特定檢索中,實(shí)際檢索出來的文獻(xiàn)中相關(guān)文獻(xiàn)所占的比率。1956 年,J.W.佩里、A.肯特等人首先提出了此項(xiàng)評(píng)價(jià)指標(biāo)。1979 年,F(xiàn).W.蘭開斯特在《情報(bào)檢索系統(tǒng)──特性、試驗(yàn)與評(píng)價(jià)》(第二版)一書中地查準(zhǔn)率的評(píng)估方法進(jìn)行了進(jìn)一步操作化,使之更容易被計(jì)算。 查準(zhǔn)率主要取決于檢索語言的專指性和所擬定的檢索策略能否準(zhǔn)確表達(dá)用戶真正的情報(bào)需求。 若檢索策略擬訂的較寬泛,參與組配的檢索詞較少,主題詞的概念比用戶的信息需求寬泛,則查準(zhǔn)率將降低。

    查全率和查準(zhǔn)率之間具有互逆的關(guān)系。如在極端情況下,如果研究者檢索得到了文獻(xiàn)數(shù)據(jù)庫(kù)中所有文檔,則獲得了100%的查全率,但此時(shí)查準(zhǔn)率卻很低;如果研究者檢索只能獲得唯一的文檔,查重率很低,但卻可能有100%的查準(zhǔn)率。 如本文所述,鑒于文獻(xiàn)證據(jù)檢索質(zhì)量之于循證社會(huì)科學(xué)研究結(jié)果整合的極端重要性,有必要在現(xiàn)有查全率與查準(zhǔn)率指標(biāo)的基礎(chǔ)上加以進(jìn)一步細(xì)化,發(fā)展出更加具有操作性的評(píng)價(jià)指標(biāo),以便保障系統(tǒng)評(píng)價(jià)和元分析開展之前文獻(xiàn)證據(jù)獲取的科學(xué)性。 飽和度和冗余度是基于此種背景而提出。

    2.2 飽和度和冗余度

    飽和度和冗余度是一對(duì)在汲取查全率和查準(zhǔn)率等傳統(tǒng)檢索評(píng)價(jià)指標(biāo)合理成份的基礎(chǔ)上,為發(fā)展更具有操作性的文獻(xiàn)證據(jù)評(píng)價(jià)指標(biāo)而提出的概念。所謂飽和度,是指檢索中不再有新的文獻(xiàn)被納入的狀況。而冗余度則是一個(gè)與飽和度緊密關(guān)聯(lián)的概念,具體指在特定檢索過程中檢索到不相關(guān)文獻(xiàn)的情況。

    在實(shí)際操作中,飽和度可以通過“滾雪球”的辦法而得到。具體過程是:首先,研究者先通過特定的檢索詞,通過文獻(xiàn)數(shù)據(jù)庫(kù)所提出的各種檢索入口進(jìn)行檢索,獲得相應(yīng)的文獻(xiàn),并對(duì)其進(jìn)行去重;其次,對(duì)檢索所獲取的文獻(xiàn)的參考文獻(xiàn)進(jìn)行再次梳理,將在前次檢索中未獲得的新文獻(xiàn)納入其中;第三,對(duì)參考文獻(xiàn)的參考文獻(xiàn)再進(jìn)行梳理,并將新文獻(xiàn)再次納入。如此往復(fù),直到不再有新的文獻(xiàn)被納入時(shí),文獻(xiàn)檢索既達(dá)到飽和。構(gòu)建飽和度指標(biāo)的意義在于,這一指標(biāo)為評(píng)價(jià)文獻(xiàn)證據(jù)檢索科學(xué)性提供了一個(gè)實(shí)質(zhì)性的參照系。通過參照已實(shí)現(xiàn)飽和的文獻(xiàn)數(shù)據(jù)集,研究者可以進(jìn)一步發(fā)展出一系列文獻(xiàn)證據(jù)檢索科學(xué)性的評(píng)價(jià)指標(biāo)來。

    在形成飽和數(shù)據(jù)集的前提下,為進(jìn)一步對(duì)文獻(xiàn)證據(jù)檢索的質(zhì)量作出判斷,研究者可以通過專家判斷的方式,將實(shí)現(xiàn)飽和的文獻(xiàn)數(shù)據(jù)集中的文獻(xiàn)按照其與檢索主題的相關(guān)度加以劃分,如劃分為高度相關(guān)、中度相關(guān)與低度相關(guān)三部分文獻(xiàn)。 這些文獻(xiàn)中,高度相關(guān)和中度相關(guān)文獻(xiàn)可用來評(píng)價(jià)文獻(xiàn)檢索的精確性(即查準(zhǔn)率),而低相關(guān)文獻(xiàn)則可用來評(píng)價(jià)文獻(xiàn)檢索的冗余度(從反面體現(xiàn)查準(zhǔn)率)。可見,一個(gè)飽和檢索的文獻(xiàn)數(shù)據(jù)集可以同時(shí)作為檢索精確性和冗余度評(píng)價(jià)的參考標(biāo)準(zhǔn)。

    基于飽和度指標(biāo),可以對(duì)傳統(tǒng)的查準(zhǔn)率加以進(jìn)一步完善和拓展。具體作法是,將飽和度區(qū)分為純凈飽和度和一般飽和度。 其中純凈飽和度是指采用特定檢索方式檢索結(jié)果涵蓋總文獻(xiàn)數(shù)據(jù)集中高相關(guān)文獻(xiàn)的程度,具體計(jì)算方法是:采用單項(xiàng)或者組合檢索時(shí)與總數(shù)據(jù)集中高度相關(guān)文獻(xiàn)的重合率,這一指標(biāo)反映了特定檢索途徑是否能夠準(zhǔn)確定位高度相關(guān)研究證據(jù)的能力; 而一般飽和度指特定檢索結(jié)果涵蓋整體數(shù)據(jù)集中中度相關(guān)文獻(xiàn)的程度,這一指標(biāo)反映了特定檢索是否能夠準(zhǔn)確定位中度相關(guān)研究證據(jù)的能力。 同理,基于冗余度指標(biāo)可以從另外一個(gè)角度對(duì)傳統(tǒng)的查全率指標(biāo)加以完善。 也就是說,通過計(jì)算特定檢索途徑所獲得的文獻(xiàn)在窮盡檢索數(shù)據(jù)集低相關(guān)文獻(xiàn)的比值,可以有效衡量特定檢索途徑獲得無關(guān)文獻(xiàn)的程度,從而對(duì)查準(zhǔn)率作出反向地評(píng)估。

    總之,飽和度和冗余度是一對(duì)植根于傳統(tǒng)的查全率和查準(zhǔn)率指標(biāo)但更具可操作性的評(píng)價(jià)指標(biāo)。 這對(duì)評(píng)價(jià)指標(biāo)的提出,有助于為循證社會(huì)科學(xué)研究者提升文獻(xiàn)證據(jù)檢索質(zhì)量提供重要參照。

    2.3 敏感度

    與傳統(tǒng)的查全率和查準(zhǔn)率指標(biāo)相比較,飽和度和冗余度具有了更高地可操作性。由于飽和數(shù)據(jù)集的構(gòu)建是一件極其繁瑣的工作,在無法進(jìn)行飽和檢索的前提下,就有必要考慮特定檢索方式在未達(dá)100%飽和時(shí)的檢索質(zhì)量,基于此,敏感度指標(biāo)得以提出。

    所謂敏感度,是指在不同樣本覆蓋度下,特定檢索項(xiàng)目的查全率和查準(zhǔn)率。 這一指標(biāo)的具體測(cè)度方法是,應(yīng)用主題、題名、關(guān)鍵詞、摘要和全文等單項(xiàng)檢索與組合檢索的不同抽樣水平的數(shù)據(jù)與總數(shù)據(jù)中高相關(guān)組和中相關(guān)組進(jìn)行匹配,分別計(jì)算得到的高相關(guān)組和中相關(guān)組匹配比例。 在樣本數(shù)目不同的前提下,如果檢出的高、中相關(guān)文獻(xiàn)匹配度均比較高,則表明相應(yīng)的檢索途徑穩(wěn)健而不敏感,從而具有相對(duì)更高的檢索質(zhì)量。

    2.4 信度

    檢索的穩(wěn)定性和可靠性是衡量檢索質(zhì)量的另一個(gè)重要指標(biāo)。參照測(cè)量領(lǐng)域的一般作法,可以選用信度指標(biāo)作為檢索質(zhì)量穩(wěn)定性和可靠性的評(píng)價(jià)工具。

    信度(Reliability),即可靠性,是指采用同樣的方法對(duì)同一對(duì)象重復(fù)測(cè)量或者應(yīng)用同種方法對(duì)同一現(xiàn)象在不同時(shí)點(diǎn)加以測(cè)量時(shí)所得結(jié)果的一致程度。 這種一致性常常通過相關(guān)系數(shù)來表達(dá),相關(guān)系數(shù)越高,則多次測(cè)量的結(jié)果越一致,測(cè)量結(jié)果就越穩(wěn)定、可靠。

    迄今為止,研究者已發(fā)展了重測(cè)信度、復(fù)本信度、折半信度、α 信度系數(shù)等多種方法,用以對(duì)信度作出科學(xué)評(píng)價(jià)。針對(duì)文獻(xiàn)證據(jù)的檢索質(zhì)量評(píng)價(jià),重測(cè)信度和復(fù)本信度的評(píng)價(jià)相對(duì)比較直觀,具有更高的可操作性。具體而言,文獻(xiàn)證據(jù)檢索的重測(cè)信度指在不同時(shí)點(diǎn)上,針對(duì)相同的檢索主題,在同一個(gè)檢索途徑下所獲得文獻(xiàn)的相關(guān)程度;而復(fù)本信度則指針對(duì)同一檢索主題,但通過不同檢索途徑而獲得的文獻(xiàn)的相關(guān)程度。顯然,無論是文獻(xiàn)檢索的重測(cè)信度還是復(fù)本信度,其相關(guān)系數(shù)越高,文獻(xiàn)檢索的穩(wěn)定性和可靠性就越有保障,因而檢索質(zhì)量越高。

    2.5 效度

    飽和度、冗余度、敏感度和信度從不同側(cè)面評(píng)價(jià)了文獻(xiàn)證據(jù)檢索的質(zhì)量。 然而,需要注意的是,高質(zhì)量的文獻(xiàn)證據(jù)檢索雖然為循證研究者開展系統(tǒng)評(píng)價(jià)和元分析提供了基本保障,但卻并不能總是保證系統(tǒng)評(píng)價(jià)和元分析的科學(xué)性。這是因?yàn)?,所檢索到的文獻(xiàn)從內(nèi)容上是否足以涵蓋循證研究的具體領(lǐng)域,也將對(duì)研究證據(jù)的整合產(chǎn)生重要影響。 這種文獻(xiàn)內(nèi)容之于系統(tǒng)評(píng)價(jià)和元分析所需證據(jù)的覆蓋程度,可以通過檢索的效度加以評(píng)價(jià)。

    效度(Validity)即有效性,它是指測(cè)量工具或手段能夠準(zhǔn)確測(cè)出所需測(cè)量的事物的程度。 按照測(cè)量理論,效度主要用以衡量所測(cè)量到的結(jié)果反映所想要考察內(nèi)容的程度。 測(cè)量結(jié)果與要考察的內(nèi)容越吻合,則效度越高;反之,則效度越低。 目前,測(cè)量領(lǐng)域已發(fā)展了內(nèi)容效度、效標(biāo)關(guān)聯(lián)效度、結(jié)構(gòu)效度、表面效度等諸多具體評(píng)價(jià)方法。

    在文獻(xiàn)證據(jù)檢索質(zhì)量的評(píng)價(jià)中,內(nèi)容效度、效標(biāo)關(guān)聯(lián)效度和結(jié)構(gòu)效度都有著極其廣泛的應(yīng)用前景。 如效標(biāo)關(guān)聯(lián)效度可以用來評(píng)價(jià)特定檢索途徑所獲得的檢索結(jié)果與整體結(jié)果之間的吻合程度,內(nèi)容效度和結(jié)構(gòu)效度則可以用來進(jìn)行檢索證據(jù)覆蓋度與全面性的評(píng)價(jià)。

    在文獻(xiàn)證據(jù)檢索質(zhì)量評(píng)價(jià)中,不僅可以借鑒測(cè)量領(lǐng)域關(guān)于效度評(píng)價(jià)的方法,而且也可以從研究設(shè)計(jì)本身對(duì)效度的理念加以借鑒。從研究設(shè)計(jì)的角度看,效度可區(qū)分為內(nèi)部效度和外部效度。 內(nèi)部效度涉及研究變量之間關(guān)系的確定程度衡量,主要反映了對(duì)研究結(jié)果解釋的唯一性。也就是說,如果研究結(jié)果只有一種解釋,那么研究的內(nèi)部效度就高。外部效度則主要用來說明研究結(jié)果可外推的程度。即,研究結(jié)果在“脫離研究情境后”,仍然能夠成立的程度。 由于文獻(xiàn)證據(jù)檢索的目的是為循證領(lǐng)域的研究者展開系統(tǒng)評(píng)價(jià)和元分析提供保障,因此,對(duì)文獻(xiàn)證據(jù)檢索的內(nèi)、外部效度的解析,事實(shí)上涉及了循證研究設(shè)計(jì)本身,因此,更具有理論價(jià)值和實(shí)踐意義。

    3 文獻(xiàn)證據(jù)檢索科學(xué)性評(píng)價(jià)的趨勢(shì)

    科學(xué)化、規(guī)范化的循證社會(huì)科學(xué)研究以全面、精準(zhǔn)的文獻(xiàn)證據(jù)檢索為基本保障?;诖?,本文立足于傳統(tǒng)的查全率和查準(zhǔn)率指標(biāo),進(jìn)一步提出或引入了飽和度、冗余度、敏感度、信度、效度等系列評(píng)價(jià)指標(biāo)。這些指標(biāo)提出后,本課題組已展開了一系列的實(shí)證研究工作,為循證社會(huì)科學(xué)領(lǐng)域的研究者展開文獻(xiàn)證據(jù)檢索質(zhì)量評(píng)價(jià)提供了參照。 展望循證社會(huì)科學(xué)的未來發(fā)展,文獻(xiàn)證據(jù)檢索的科學(xué)性評(píng)價(jià)表現(xiàn)出了如下幾個(gè)明顯趨向:

    (1)檢索過程趨于標(biāo)準(zhǔn)化。 飽和度、敏感度等指標(biāo)的提出及信度和效度等指標(biāo)的應(yīng)用,無疑會(huì)極大地提升文獻(xiàn)證據(jù)檢索的科學(xué)性。這些指標(biāo)在循證社會(huì)科學(xué)進(jìn)一步發(fā)展進(jìn)程中重要的應(yīng)用價(jià)值,在于促進(jìn)系統(tǒng)評(píng)價(jià)和元分析之前文獻(xiàn)證據(jù)檢索的標(biāo)準(zhǔn)化和規(guī)范化。也就是說,如何基于上述評(píng)價(jià)指標(biāo)的研究結(jié)果,發(fā)展一套規(guī)范、系統(tǒng)、全面的文獻(xiàn)證據(jù)檢索質(zhì)量評(píng)價(jià)工具,并據(jù)此保障文獻(xiàn)證據(jù)檢索的質(zhì)量,將是今后循證社會(huì)科學(xué)領(lǐng)域值得關(guān)注的一個(gè)重要問題。

    (2)檢索結(jié)果評(píng)價(jià)趨于可計(jì)量化。在本文所述的各類文獻(xiàn)證據(jù)檢索質(zhì)量評(píng)價(jià)指標(biāo)中,所依賴的主要是來自于測(cè)量領(lǐng)域的理論、方法和工具。 未來,有必要對(duì)文獻(xiàn)計(jì)量等領(lǐng)域的相關(guān)成果加以借鑒,使文獻(xiàn)證據(jù)檢索結(jié)果評(píng)價(jià)與文獻(xiàn)計(jì)量相關(guān)研究最大程度地對(duì)接,如此,文獻(xiàn)證據(jù)檢索才能實(shí)現(xiàn)與圖書情報(bào)學(xué)、文獻(xiàn)計(jì)量學(xué)等相關(guān)領(lǐng)域的貫通,從而獲得更加寬廣的研究和應(yīng)用前景。

    (3)不依賴于文獻(xiàn)數(shù)據(jù)全集的自動(dòng)化評(píng)估方法。雖然從研究的角度看,上述系列指標(biāo)比傳統(tǒng)的檢索質(zhì)量評(píng)價(jià)指標(biāo)更具可操作性,但是,這些指標(biāo)仍然依賴于一個(gè)飽和的文獻(xiàn)數(shù)據(jù)全集。 由本文的描述可以看出,構(gòu)建文獻(xiàn)數(shù)據(jù)全集的過程通過人工“滾雪球”的方式完成,不僅費(fèi)時(shí)費(fèi)力,也與大數(shù)據(jù)時(shí)代自動(dòng)化的處理趨向不相符合。 為此,未來的文獻(xiàn)證據(jù)檢索質(zhì)量評(píng)價(jià)需要盡可能實(shí)現(xiàn)自動(dòng)化。 在尚未實(shí)現(xiàn)自動(dòng)化的前提下,也應(yīng)盡量發(fā)展一些不依賴于文獻(xiàn)數(shù)據(jù)全集的測(cè)度方法。

    (4)檢索成本效益的考慮。本文前述各項(xiàng)文獻(xiàn)證據(jù)質(zhì)量評(píng)價(jià)指標(biāo)雖然各有側(cè)重,各具獨(dú)特性和合理性,然而,上述指標(biāo)中并沒有將用戶檢索的成本問題納入考慮。為此,面向未來的循證社會(huì)科學(xué)研究者在對(duì)文獻(xiàn)證據(jù)檢索質(zhì)量做出評(píng)價(jià)時(shí),需要參考搜索引擎等領(lǐng)域的最新研究趨向,將用戶對(duì)文獻(xiàn)證據(jù)檢索的成本納入考慮,以便使文獻(xiàn)證據(jù)檢索與大數(shù)據(jù)背景下的計(jì)算社會(huì)科學(xué)實(shí)現(xiàn)最大程度的協(xié)同發(fā)展。

    4 結(jié)語

    本文圍繞循證研究中文獻(xiàn)證據(jù)檢索的質(zhì)量評(píng)價(jià)問題,結(jié)合傳統(tǒng)的檢索評(píng)價(jià)指標(biāo),提出了一系列新的評(píng)價(jià)指標(biāo)。這些指標(biāo)的提出,為后續(xù)實(shí)證研究的展開提供了前提,也為發(fā)展科學(xué)、規(guī)范的檢索質(zhì)量理念體系和評(píng)價(jià)工具奠定了基礎(chǔ)。 由于高質(zhì)量的文獻(xiàn)證據(jù)檢索是系統(tǒng)評(píng)價(jià)和元分析科學(xué)性的基本保障,因此,關(guān)于文獻(xiàn)證據(jù)檢索質(zhì)量評(píng)價(jià)標(biāo)準(zhǔn)的研究可被視為向循證社會(huì)科學(xué)構(gòu)建其獨(dú)特的學(xué)術(shù)話語體系和研究范式所邁出的第一步。

    纵有疾风起免费观看全集完整版| 久久久久久人妻| av网站在线播放免费| 一本大道久久a久久精品| 青草久久国产| 天天躁狠狠躁夜夜躁狠狠躁| 久久久久网色| 国产白丝娇喘喷水9色精品| 亚洲av日韩在线播放| 丝袜在线中文字幕| 在线观看免费日韩欧美大片| 99re6热这里在线精品视频| 久久久久久人妻| 亚洲中文av在线| 日韩欧美精品免费久久| 国产av国产精品国产| 亚洲精品av麻豆狂野| 少妇人妻 视频| videosex国产| 亚洲精品第二区| 日本猛色少妇xxxxx猛交久久| 一本—道久久a久久精品蜜桃钙片| 日日撸夜夜添| 久久久精品国产亚洲av高清涩受| 国产精品国产av在线观看| 亚洲精品中文字幕在线视频| 最近手机中文字幕大全| 国产亚洲午夜精品一区二区久久| 欧美黄色片欧美黄色片| 在线观看国产h片| 久久精品亚洲av国产电影网| 亚洲美女黄色视频免费看| 纵有疾风起免费观看全集完整版| 人成视频在线观看免费观看| av卡一久久| 国产精品一国产av| 免费在线观看完整版高清| www.自偷自拍.com| 熟妇人妻不卡中文字幕| 亚洲伊人色综图| 涩涩av久久男人的天堂| 免费黄色在线免费观看| 91在线精品国自产拍蜜月| 国产一区二区 视频在线| 人人妻人人澡人人看| 夫妻性生交免费视频一级片| 不卡视频在线观看欧美| 亚洲在久久综合| 国产男女超爽视频在线观看| 丁香六月天网| 精品国产一区二区久久| 看十八女毛片水多多多| 少妇被粗大的猛进出69影院| tube8黄色片| av在线播放精品| 久久久久视频综合| 边亲边吃奶的免费视频| 亚洲国产日韩一区二区| h视频一区二区三区| 亚洲国产成人一精品久久久| 日本欧美国产在线视频| 亚洲伊人久久精品综合| 在线观看三级黄色| 国产福利在线免费观看视频| 精品一区二区三卡| 三级国产精品片| 亚洲国产最新在线播放| 一级毛片电影观看| 日韩中字成人| 欧美xxⅹ黑人| 久久99一区二区三区| 男女啪啪激烈高潮av片| 亚洲人成77777在线视频| 韩国av在线不卡| 桃花免费在线播放| 大码成人一级视频| 国产片内射在线| 日产精品乱码卡一卡2卡三| 女性生殖器流出的白浆| 国产av精品麻豆| 亚洲国产看品久久| 老熟女久久久| 亚洲国产毛片av蜜桃av| 日韩一区二区视频免费看| 尾随美女入室| 国产成人精品福利久久| 丝瓜视频免费看黄片| 春色校园在线视频观看| 欧美日韩视频高清一区二区三区二| 美女国产高潮福利片在线看| 美女福利国产在线| 超碰成人久久| 亚洲成人手机| 久久人人爽av亚洲精品天堂| 多毛熟女@视频| 可以免费在线观看a视频的电影网站 | 咕卡用的链子| 午夜福利影视在线免费观看| 国精品久久久久久国模美| 国产精品女同一区二区软件| 最近中文字幕高清免费大全6| 亚洲综合色网址| 国产一区亚洲一区在线观看| 免费av中文字幕在线| 精品第一国产精品| 嫩草影院入口| 久久久久国产一级毛片高清牌| 国产av精品麻豆| 国产亚洲精品第一综合不卡| 国产亚洲精品第一综合不卡| 考比视频在线观看| 女人被躁到高潮嗷嗷叫费观| 一级a爱视频在线免费观看| 2021少妇久久久久久久久久久| 免费观看无遮挡的男女| 人人妻人人添人人爽欧美一区卜| 丰满乱子伦码专区| 成年女人毛片免费观看观看9 | 老女人水多毛片| 黄网站色视频无遮挡免费观看| 亚洲av免费高清在线观看| 久久国产亚洲av麻豆专区| 制服人妻中文乱码| 多毛熟女@视频| 久久久国产一区二区| 极品人妻少妇av视频| 日韩伦理黄色片| 中文欧美无线码| 日产精品乱码卡一卡2卡三| 在线看a的网站| 黑丝袜美女国产一区| 亚洲第一青青草原| 精品国产一区二区三区四区第35| 亚洲精品一区蜜桃| 欧美日韩亚洲高清精品| 国产无遮挡羞羞视频在线观看| 日韩中文字幕欧美一区二区 | 午夜福利在线免费观看网站| 成年美女黄网站色视频大全免费| 日产精品乱码卡一卡2卡三| 中文欧美无线码| 国产精品久久久av美女十八| 一二三四在线观看免费中文在| 午夜日韩欧美国产| av卡一久久| 精品国产国语对白av| 色播在线永久视频| 男男h啪啪无遮挡| 久久国产亚洲av麻豆专区| 美国免费a级毛片| 亚洲精品第二区| 久久精品国产鲁丝片午夜精品| 日日啪夜夜爽| 热re99久久精品国产66热6| 99久久精品国产国产毛片| 免费在线观看视频国产中文字幕亚洲 | 婷婷色麻豆天堂久久| 亚洲在久久综合| 欧美+日韩+精品| 久热这里只有精品99| 亚洲伊人色综图| 成人午夜精彩视频在线观看| 成人亚洲精品一区在线观看| 欧美精品一区二区大全| 一级片免费观看大全| 国产国语露脸激情在线看| 欧美另类一区| 91精品国产国语对白视频| 亚洲精品久久午夜乱码| 国产1区2区3区精品| 亚洲欧美一区二区三区国产| 老汉色∧v一级毛片| 国产野战对白在线观看| 高清视频免费观看一区二区| 国产熟女欧美一区二区| 亚洲熟女精品中文字幕| 国产成人精品婷婷| 成人毛片60女人毛片免费| 叶爱在线成人免费视频播放| 熟女av电影| 久久久久精品人妻al黑| 国产熟女欧美一区二区| 精品国产一区二区久久| av国产精品久久久久影院| 亚洲精品成人av观看孕妇| 天天躁夜夜躁狠狠躁躁| 中文字幕亚洲精品专区| 18禁观看日本| 国产一区有黄有色的免费视频| 秋霞伦理黄片| 99re6热这里在线精品视频| 成人免费观看视频高清| 欧美日韩综合久久久久久| 久久久久久久久久久免费av| 成人手机av| 精品久久蜜臀av无| 高清av免费在线| 亚洲欧洲精品一区二区精品久久久 | 久久久精品区二区三区| 国产精品蜜桃在线观看| 乱人伦中国视频| 国产亚洲av片在线观看秒播厂| 国产免费又黄又爽又色| 在线观看免费视频网站a站| 成人午夜精彩视频在线观看| 午夜福利,免费看| 九草在线视频观看| 欧美日韩综合久久久久久| 久久精品国产亚洲av高清一级| 久久久久久久久久久久大奶| 大香蕉久久成人网| 国产欧美日韩综合在线一区二区| 一级毛片 在线播放| 国产激情久久老熟女| 久久午夜综合久久蜜桃| 国精品久久久久久国模美| 丰满少妇做爰视频| 天堂俺去俺来也www色官网| 五月天丁香电影| 亚洲av综合色区一区| 亚洲国产看品久久| 亚洲人成77777在线视频| 国产黄色免费在线视频| 美女主播在线视频| 十分钟在线观看高清视频www| 多毛熟女@视频| 亚洲欧美清纯卡通| 熟妇人妻不卡中文字幕| 国产毛片在线视频| 1024视频免费在线观看| 最新中文字幕久久久久| 亚洲欧洲精品一区二区精品久久久 | 亚洲人成77777在线视频| 国产欧美日韩综合在线一区二区| 成人漫画全彩无遮挡| 亚洲精品第二区| 精品99又大又爽又粗少妇毛片| 搡老乐熟女国产| 亚洲欧美成人综合另类久久久| 丝袜人妻中文字幕| 熟女少妇亚洲综合色aaa.| 高清欧美精品videossex| 国产无遮挡羞羞视频在线观看| kizo精华| 边亲边吃奶的免费视频| 桃花免费在线播放| 激情五月婷婷亚洲| 在线观看国产h片| 久久综合国产亚洲精品| 日本wwww免费看| 可以免费在线观看a视频的电影网站 | 一级片免费观看大全| 高清av免费在线| 亚洲精品国产av成人精品| 久久久久久久国产电影| 日韩精品免费视频一区二区三区| 人妻一区二区av| 久久99精品国语久久久| 久久热在线av| 丝袜美足系列| 亚洲精品在线美女| 一区福利在线观看| av网站免费在线观看视频| 搡女人真爽免费视频火全软件| 天美传媒精品一区二区| 久久久久国产精品人妻一区二区| 国产精品久久久久成人av| av卡一久久| 最近2019中文字幕mv第一页| 青春草国产在线视频| 欧美老熟妇乱子伦牲交| 亚洲第一区二区三区不卡| 26uuu在线亚洲综合色| 欧美日韩视频高清一区二区三区二| 精品第一国产精品| 欧美 亚洲 国产 日韩一| 女人被躁到高潮嗷嗷叫费观| 国产精品香港三级国产av潘金莲 | 黑人猛操日本美女一级片| 亚洲国产欧美网| 精品少妇一区二区三区视频日本电影 | 久久精品夜色国产| 国产一区有黄有色的免费视频| 国产精品二区激情视频| 精品国产一区二区三区久久久樱花| 一级片免费观看大全| 久久久久精品久久久久真实原创| av又黄又爽大尺度在线免费看| 人人澡人人妻人| 亚洲精品国产av成人精品| 国产精品久久久久成人av| av电影中文网址| 蜜桃国产av成人99| 在线观看免费视频网站a站| 国产一区二区激情短视频 | 老司机影院毛片| 亚洲av国产av综合av卡| 中国国产av一级| 国产精品一二三区在线看| 日韩在线高清观看一区二区三区| 成人毛片60女人毛片免费| 久久精品久久久久久噜噜老黄| 一本色道久久久久久精品综合| 日本av手机在线免费观看| 欧美日韩精品网址| 亚洲第一av免费看| 国产av码专区亚洲av| 在线观看三级黄色| 9热在线视频观看99| 涩涩av久久男人的天堂| 国产一区二区三区综合在线观看| av福利片在线| 丰满少妇做爰视频| 欧美av亚洲av综合av国产av | 国产成人精品在线电影| 亚洲人成电影观看| 男女高潮啪啪啪动态图| 国产精品嫩草影院av在线观看| 中文字幕亚洲精品专区| 国产淫语在线视频| 中文字幕另类日韩欧美亚洲嫩草| 欧美精品国产亚洲| 97精品久久久久久久久久精品| 考比视频在线观看| 欧美亚洲 丝袜 人妻 在线| 欧美少妇被猛烈插入视频| 日本欧美国产在线视频| 在线观看人妻少妇| 天天操日日干夜夜撸| 精品一区二区免费观看| 午夜91福利影院| 波多野结衣av一区二区av| 亚洲人成77777在线视频| 久久99蜜桃精品久久| 色哟哟·www| 欧美国产精品va在线观看不卡| 亚洲精品国产av蜜桃| 国产欧美亚洲国产| 极品人妻少妇av视频| 亚洲四区av| 成年动漫av网址| 一区二区三区精品91| 人人妻人人添人人爽欧美一区卜| 麻豆精品久久久久久蜜桃| 在线观看免费视频网站a站| 国产成人精品久久久久久| 一本—道久久a久久精品蜜桃钙片| 久久国产亚洲av麻豆专区| 亚洲国产欧美日韩在线播放| 成年人免费黄色播放视频| 亚洲伊人久久精品综合| 一本大道久久a久久精品| 欧美在线黄色| 国产福利在线免费观看视频| 十分钟在线观看高清视频www| 性少妇av在线| 黄片播放在线免费| 97精品久久久久久久久久精品| 亚洲三级黄色毛片| 精品人妻熟女毛片av久久网站| 中文天堂在线官网| 国产精品国产三级专区第一集| 国产一区亚洲一区在线观看| 在线观看免费高清a一片| 中文字幕制服av| 九草在线视频观看| av福利片在线| 国产av国产精品国产| 中文字幕制服av| 欧美激情极品国产一区二区三区| 亚洲美女黄色视频免费看| 综合色丁香网| 亚洲成人一二三区av| 日韩,欧美,国产一区二区三区| 亚洲伊人久久精品综合| 免费日韩欧美在线观看| 亚洲国产看品久久| 午夜福利在线免费观看网站| av福利片在线| 免费观看无遮挡的男女| 18禁观看日本| 亚洲中文av在线| 又大又黄又爽视频免费| 国产1区2区3区精品| 久久久久久人人人人人| 久久鲁丝午夜福利片| 搡女人真爽免费视频火全软件| 我的亚洲天堂| 老汉色∧v一级毛片| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 精品福利永久在线观看| 2018国产大陆天天弄谢| 国产精品嫩草影院av在线观看| 国产免费又黄又爽又色| 最近最新中文字幕大全免费视频 | 高清在线视频一区二区三区| 你懂的网址亚洲精品在线观看| 日韩大片免费观看网站| av国产久精品久网站免费入址| 午夜精品国产一区二区电影| 成人漫画全彩无遮挡| 精品亚洲成a人片在线观看| 一级,二级,三级黄色视频| 91在线精品国自产拍蜜月| 伊人久久大香线蕉亚洲五| 色94色欧美一区二区| 亚洲av.av天堂| 中文字幕精品免费在线观看视频| 欧美变态另类bdsm刘玥| 欧美日韩一级在线毛片| 亚洲欧美中文字幕日韩二区| 亚洲久久久国产精品| 色吧在线观看| 一边摸一边做爽爽视频免费| 亚洲精品美女久久av网站| 七月丁香在线播放| 美女国产高潮福利片在线看| 99re6热这里在线精品视频| 少妇的丰满在线观看| 久久久久久免费高清国产稀缺| 国产熟女欧美一区二区| 日本猛色少妇xxxxx猛交久久| 蜜桃国产av成人99| 久久久久国产网址| 精品国产一区二区久久| 中文字幕精品免费在线观看视频| 久久久欧美国产精品| 菩萨蛮人人尽说江南好唐韦庄| 最近2019中文字幕mv第一页| 成人亚洲精品一区在线观看| 伦理电影免费视频| 97在线人人人人妻| 午夜日本视频在线| 丝袜美足系列| 九九爱精品视频在线观看| 国产精品.久久久| 自拍欧美九色日韩亚洲蝌蚪91| 国产黄色视频一区二区在线观看| 人妻一区二区av| 性少妇av在线| 亚洲欧美精品综合一区二区三区 | 久久精品国产亚洲av高清一级| 校园人妻丝袜中文字幕| 免费少妇av软件| 亚洲人成电影观看| 久久午夜福利片| 少妇被粗大的猛进出69影院| 精品一区二区免费观看| 亚洲精品第二区| 免费高清在线观看日韩| av片东京热男人的天堂| 亚洲精品成人av观看孕妇| 精品国产露脸久久av麻豆| 免费高清在线观看视频在线观看| 一级毛片 在线播放| 日韩 亚洲 欧美在线| 国产欧美亚洲国产| 亚洲国产欧美在线一区| 久久精品久久久久久久性| 久久久久久久久久人人人人人人| 夫妻午夜视频| www.自偷自拍.com| 成人手机av| 女性被躁到高潮视频| 国产在线视频一区二区| 一级毛片 在线播放| 黄色视频在线播放观看不卡| 亚洲国产日韩一区二区| 亚洲国产欧美在线一区| 热re99久久精品国产66热6| 精品国产露脸久久av麻豆| 中文字幕最新亚洲高清| www.自偷自拍.com| 欧美精品一区二区大全| 国产av国产精品国产| 亚洲欧美色中文字幕在线| av在线观看视频网站免费| 99久久综合免费| 一区二区日韩欧美中文字幕| 国产欧美日韩综合在线一区二区| 性色avwww在线观看| 黄片小视频在线播放| 少妇人妻久久综合中文| 一级黄片播放器| 老司机影院毛片| 亚洲精品国产色婷婷电影| 婷婷色av中文字幕| 肉色欧美久久久久久久蜜桃| 黄片播放在线免费| 久久久国产欧美日韩av| av在线观看视频网站免费| 久久精品国产综合久久久| 少妇的逼水好多| 久久久久久伊人网av| 三级国产精品片| 丝袜美腿诱惑在线| 在线观看国产h片| 午夜影院在线不卡| 男人操女人黄网站| 热99国产精品久久久久久7| 九草在线视频观看| 青春草亚洲视频在线观看| 久久狼人影院| 最近最新中文字幕免费大全7| 久久精品国产亚洲av天美| 视频在线观看一区二区三区| 精品少妇内射三级| 亚洲视频免费观看视频| 七月丁香在线播放| 建设人人有责人人尽责人人享有的| 欧美日韩综合久久久久久| 中文字幕av电影在线播放| 熟女av电影| 久久久久久久久免费视频了| 亚洲三级黄色毛片| xxx大片免费视频| 美女午夜性视频免费| 一级毛片 在线播放| 婷婷成人精品国产| 国产黄频视频在线观看| 国产 精品1| 国产av码专区亚洲av| 国产成人a∨麻豆精品| 亚洲男人天堂网一区| 伦理电影免费视频| 成年动漫av网址| 亚洲精品国产一区二区精华液| 涩涩av久久男人的天堂| 国产精品亚洲av一区麻豆 | 日韩一区二区三区影片| 大话2 男鬼变身卡| av国产久精品久网站免费入址| 久久这里有精品视频免费| 亚洲av成人精品一二三区| 777久久人妻少妇嫩草av网站| xxxhd国产人妻xxx| 成人午夜精彩视频在线观看| 多毛熟女@视频| 久久婷婷青草| 97在线视频观看| 成年动漫av网址| 丰满乱子伦码专区| 人妻 亚洲 视频| 久久ye,这里只有精品| 国产av一区二区精品久久| av网站在线播放免费| 国产亚洲av片在线观看秒播厂| 精品一区二区免费观看| 欧美日韩亚洲高清精品| 一区在线观看完整版| 国产精品一二三区在线看| 亚洲精品日韩在线中文字幕| 中文字幕精品免费在线观看视频| 国产熟女欧美一区二区| 午夜老司机福利剧场| 国产在线免费精品| 精品少妇内射三级| 女人久久www免费人成看片| 91精品伊人久久大香线蕉| 国产白丝娇喘喷水9色精品| 卡戴珊不雅视频在线播放| 国产在线免费精品| 日日爽夜夜爽网站| 亚洲精品美女久久av网站| 亚洲精品久久午夜乱码| 久久久久精品人妻al黑| 亚洲 欧美一区二区三区| 十八禁网站网址无遮挡| 亚洲精品av麻豆狂野| 99re6热这里在线精品视频| 中文字幕最新亚洲高清| 亚洲精华国产精华液的使用体验| 精品一区在线观看国产| 熟女av电影| 亚洲 欧美一区二区三区| 女性生殖器流出的白浆| 好男人视频免费观看在线| 五月开心婷婷网| 99久久综合免费| 国产有黄有色有爽视频| 一级毛片我不卡| 99国产综合亚洲精品| 日韩免费高清中文字幕av| 国产成人精品在线电影| 男男h啪啪无遮挡| 亚洲中文av在线| 午夜福利视频精品| 久久精品人人爽人人爽视色| 人妻人人澡人人爽人人| 你懂的网址亚洲精品在线观看| 一区二区三区乱码不卡18| 寂寞人妻少妇视频99o| 亚洲精品日本国产第一区| 国产免费福利视频在线观看| 五月天丁香电影| 欧美xxⅹ黑人| 中文乱码字字幕精品一区二区三区| 成人毛片60女人毛片免费| 中文乱码字字幕精品一区二区三区| 边亲边吃奶的免费视频| 9热在线视频观看99| a级毛片在线看网站| 99热全是精品| 国产精品偷伦视频观看了| 热re99久久精品国产66热6| 哪个播放器可以免费观看大片| 久久久久久免费高清国产稀缺| 国产精品偷伦视频观看了| 美女视频免费永久观看网站| 如日韩欧美国产精品一区二区三区| 中文字幕制服av| 亚洲av.av天堂| 国产日韩欧美在线精品| 亚洲av福利一区| 欧美变态另类bdsm刘玥|