• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    多屬性學(xué)術(shù)評(píng)價(jià)方法的質(zhì)量診斷問(wèn)題研究

    2025-03-08 00:00:00俞立平杜維王延芳姜茸
    現(xiàn)代情報(bào) 2025年3期

    關(guān)鍵詞:學(xué)術(shù)評(píng)價(jià);多屬性評(píng)價(jià);質(zhì)量診斷;指標(biāo)體系;復(fù)合評(píng)價(jià);組合評(píng)價(jià)

    多屬性學(xué)術(shù)評(píng)價(jià)方法在評(píng)價(jià)實(shí)務(wù)中占據(jù)十分重要的地位。目前政府組織的多數(shù)相關(guān)評(píng)價(jià)以及第三方進(jìn)行的有影響力的學(xué)術(shù)評(píng)價(jià)均采用基于指標(biāo)體系的多屬性學(xué)術(shù)評(píng)價(jià)方法。如國(guó)家級(jí)人才評(píng)價(jià)、教育部組織的學(xué)科評(píng)價(jià)、主流的大學(xué)評(píng)價(jià)、學(xué)術(shù)期刊評(píng)價(jià)等。實(shí)際上,多屬性學(xué)術(shù)評(píng)價(jià)方法已經(jīng)成為我國(guó)的學(xué)術(shù)評(píng)價(jià)默認(rèn)方法,盡管不同評(píng)價(jià)方法的技術(shù)細(xì)節(jié)相差較大。

    不同多屬性學(xué)術(shù)評(píng)價(jià)方法結(jié)果各不相同,所以對(duì)評(píng)價(jià)方法進(jìn)行質(zhì)量診斷非常重要。質(zhì)量診斷早期以產(chǎn)品質(zhì)量、工序質(zhì)量為主,將其理論與方法移植到多屬性學(xué)術(shù)評(píng)價(jià)中同樣具有較大的現(xiàn)實(shí)意義。多屬性學(xué)術(shù)評(píng)價(jià)方法也稱(chēng)為指標(biāo)體系學(xué)術(shù)評(píng)價(jià)方法,從方法層面涉及的內(nèi)容較多,包括權(quán)重賦值、標(biāo)準(zhǔn)化方法、評(píng)價(jià)方法等,均屬于方法范疇。如果多屬性學(xué)術(shù)評(píng)價(jià)方法選擇錯(cuò)誤、應(yīng)用不合理,會(huì)影響評(píng)價(jià)結(jié)果質(zhì)量,嚴(yán)重時(shí)會(huì)導(dǎo)致評(píng)價(jià)失敗,浪費(fèi)大量的人力、物力和財(cái)力。此外,學(xué)術(shù)評(píng)價(jià)往往具有較大的社會(huì)影響,如果不注重評(píng)價(jià)方法的科學(xué)性、合理性,評(píng)價(jià)結(jié)果就沒(méi)有公信力。

    開(kāi)展多屬性學(xué)術(shù)評(píng)價(jià)方法質(zhì)量診斷具有重要意義。在理論上,目前尚缺乏將質(zhì)量控制與質(zhì)量診斷理論應(yīng)用到學(xué)術(shù)評(píng)價(jià)的系統(tǒng)性研究,且該領(lǐng)域的研究尚處于萌芽期。開(kāi)展相關(guān)研究有利于完善科學(xué)計(jì)量學(xué)、信息計(jì)量學(xué)、文獻(xiàn)計(jì)量學(xué)、知識(shí)計(jì)量學(xué)、替代計(jì)量學(xué)等理論,同日寸豐富多元統(tǒng)計(jì)的質(zhì)量診斷理論與方法。在實(shí)踐上,有利于優(yōu)化學(xué)術(shù)評(píng)價(jià)方法,提高學(xué)術(shù)評(píng)價(jià)的科學(xué)性與評(píng)價(jià)結(jié)果的準(zhǔn)確性,從而提高學(xué)術(shù)評(píng)價(jià)的公信力。

    1文獻(xiàn)綜述

    質(zhì)量診斷與質(zhì)量控制理論最早主要應(yīng)用于工業(yè)生產(chǎn)、產(chǎn)品制造等物化領(lǐng)域,后來(lái)慢慢應(yīng)用到管理工作中。質(zhì)量管理大師Juran J將質(zhì)量保證活動(dòng)概括為3類(lèi),即質(zhì)量計(jì)劃,質(zhì)量控制和質(zhì)量改進(jìn)。趙姝淳提出,需要對(duì)高校教育質(zhì)量目標(biāo)和計(jì)劃實(shí)施過(guò)程進(jìn)行診斷,找到問(wèn)題和原因,以保證教育質(zhì)量。王亞盛總結(jié)了EFQM質(zhì)量管理體系的理念與原則,并應(yīng)用在高職院校教學(xué)質(zhì)量診斷中。

    關(guān)于質(zhì)量診斷方法,許多集中在產(chǎn)品生產(chǎn)技術(shù)層面,只有極少數(shù)研究涉及多屬性評(píng)價(jià)的質(zhì)量控制問(wèn)題。Montgomery D指出,多元統(tǒng)計(jì)的質(zhì)量控制問(wèn)題非常重要,如果不考慮過(guò)程變量之間的關(guān)系,用一元統(tǒng)計(jì)控制圖對(duì)多質(zhì)量特性的過(guò)程進(jìn)行監(jiān)控,很大可能會(huì)失效。耿修林分析了基于主成分分析的多元質(zhì)量控制圖的構(gòu)造,并結(jié)合企業(yè)數(shù)據(jù)進(jìn)行了案例分析。宋華明等應(yīng)用集成學(xué)習(xí)方法和控制圖來(lái)解決多元統(tǒng)計(jì)過(guò)程控制中的質(zhì)量診斷問(wèn)題。

    目前,多屬性學(xué)術(shù)評(píng)價(jià)方法的質(zhì)量診斷問(wèn)題剛剛起步,缺乏全面系統(tǒng)的深入研究。關(guān)于工序質(zhì)量控制的方法和技術(shù)為多屬性學(xué)術(shù)評(píng)價(jià)方法的質(zhì)量診斷提供了一定的分析思路,但缺乏研究。多元統(tǒng)計(jì)的質(zhì)量診斷問(wèn)題主要集中在基礎(chǔ)研究,而學(xué)術(shù)評(píng)價(jià)是應(yīng)用基礎(chǔ)研究,所以?xún)H從基礎(chǔ)研究層面討論是嚴(yán)重不夠的。因此,本文在對(duì)多屬性學(xué)術(shù)評(píng)價(jià)方法進(jìn)行分類(lèi)的基礎(chǔ)上,分析評(píng)價(jià)方法對(duì)評(píng)價(jià)結(jié)果的影響機(jī)制,建立質(zhì)量診斷分析框架和質(zhì)量診斷評(píng)估體系,對(duì)其中的一些特殊問(wèn)題進(jìn)行討論,試圖建構(gòu)一套學(xué)術(shù)評(píng)價(jià)方法質(zhì)量診斷的理論框架,提出工作路徑。

    2多屬性學(xué)術(shù)評(píng)價(jià)方法對(duì)評(píng)價(jià)結(jié)果的影響機(jī)制研究

    2.1多屬性學(xué)術(shù)評(píng)價(jià)方法分類(lèi)

    多屬性學(xué)術(shù)評(píng)價(jià)方法包括狹義的評(píng)價(jià)方法與廣義的評(píng)價(jià)方法。狹義的評(píng)價(jià)方法主要是指標(biāo)歸集匯總方法,廣義的學(xué)術(shù)評(píng)價(jià)方法還包括賦權(quán)方法。本文討論以狹義的評(píng)價(jià)方法為主,兼顧權(quán)重賦值。評(píng)價(jià)方法分類(lèi)體系如圖1所示。

    根據(jù)評(píng)價(jià)工作的主、客觀性可以分為主觀評(píng)價(jià)方法與客觀評(píng)價(jià)方法。主觀評(píng)價(jià)方法是在評(píng)價(jià)中包含了人為因素,比如專(zhuān)家賦權(quán)。客觀評(píng)價(jià)方法是指整個(gè)評(píng)價(jià)全部由客觀數(shù)據(jù)決定,人工只負(fù)責(zé)計(jì)算,但實(shí)際上,嚴(yán)格意義上講并沒(méi)有完全客觀的評(píng)價(jià)方法,因?yàn)榭陀^評(píng)價(jià)方法的選取也是人為的,盡管評(píng)價(jià)方法是客觀的。

    根據(jù)評(píng)價(jià)結(jié)果與評(píng)價(jià)指標(biāo)的關(guān)系以及評(píng)價(jià)方法的種類(lèi),可以分為線性評(píng)價(jià)方法、非線性評(píng)價(jià)方法、組合評(píng)價(jià)方法。線性評(píng)價(jià)方法是對(duì)評(píng)價(jià)指標(biāo)進(jìn)行加權(quán)匯總得到評(píng)價(jià)結(jié)果,如線性加權(quán)匯總方法:非線性評(píng)價(jià)方法是基于一定的數(shù)學(xué)模型進(jìn)行評(píng)價(jià),評(píng)價(jià)結(jié)果與評(píng)價(jià)指標(biāo)之間是非線性關(guān)系,如DEA效率分析、TOPSIS、主成分分析等。無(wú)論是線性評(píng)價(jià)方法還是非線性評(píng)價(jià)方法,都是一種單一的評(píng)價(jià)方法,復(fù)合評(píng)價(jià)方法是將數(shù)種單一評(píng)價(jià)方法整合為一種評(píng)價(jià)方法:組合評(píng)價(jià)方法是將數(shù)種單一評(píng)價(jià)方法的評(píng)價(jià)結(jié)果根據(jù)一定的方法進(jìn)行組合,得到評(píng)價(jià)結(jié)果,是一種相對(duì)復(fù)雜的評(píng)價(jià)方法。

    2.2多屬性評(píng)價(jià)方法對(duì)評(píng)價(jià)結(jié)果的影響

    多屬性評(píng)價(jià)方法大致分為指標(biāo)選取、數(shù)據(jù)標(biāo)準(zhǔn)化、權(quán)重賦值、方法選取、計(jì)算分析,最后得到評(píng)價(jià)結(jié)果。從狹義的評(píng)價(jià)方法角度,某種具體的方法對(duì)應(yīng)唯一的評(píng)價(jià)結(jié)果,選擇的評(píng)價(jià)方法不同,評(píng)價(jià)結(jié)果也不相同,所以評(píng)價(jià)方法發(fā)揮著重要的作用。從廣義的評(píng)價(jià)方法角度,權(quán)重賦值方法不同,評(píng)價(jià)方法選取不同,評(píng)價(jià)結(jié)果不同,是權(quán)重賦值方法與評(píng)價(jià)方法共同決定評(píng)價(jià)結(jié)果,如圖2所示。

    影響評(píng)價(jià)結(jié)果的不僅僅是評(píng)價(jià)方法,還有數(shù)據(jù)質(zhì)量、標(biāo)準(zhǔn)化方法等,因此對(duì)評(píng)價(jià)結(jié)果的分析要全面系統(tǒng),不能簡(jiǎn)單只從評(píng)價(jià)方法角度尋找原因。

    2.3多屬性學(xué)術(shù)評(píng)價(jià)方法診斷的必要性

    由于評(píng)價(jià)方法對(duì)多屬性學(xué)術(shù)評(píng)價(jià)結(jié)果的影響很大,如果方法選擇錯(cuò)誤、方法誤用,就會(huì)導(dǎo)致評(píng)價(jià)結(jié)果錯(cuò)誤,從而降低了多屬性學(xué)術(shù)評(píng)價(jià)的科學(xué)性與公信力。實(shí)際上,多屬性學(xué)術(shù)評(píng)價(jià)方法質(zhì)量診斷問(wèn)題較少得到關(guān)注,而評(píng)價(jià)方法眾多,評(píng)價(jià)者許多對(duì)評(píng)價(jià)方法的技術(shù)細(xì)節(jié)了解不夠,已經(jīng)成為多屬性學(xué)術(shù)評(píng)價(jià)質(zhì)量的重大隱含問(wèn)題,所以加強(qiáng)多屬性學(xué)術(shù)評(píng)價(jià)方法的質(zhì)量診斷研究,將這項(xiàng)工作列為常規(guī)的工作程序,成為迫在眉睫的任務(wù)。

    3多屬性學(xué)術(shù)評(píng)價(jià)方法的質(zhì)量診斷

    3.1學(xué)術(shù)評(píng)價(jià)方法質(zhì)量診斷框架

    多屬性學(xué)術(shù)評(píng)價(jià)方法質(zhì)量診斷框架如圖3所示。包括初次診斷與二次診斷兩個(gè)步驟,初次診斷主要包括方法適用性、方法自身技術(shù);二次診斷包括評(píng)價(jià)結(jié)果統(tǒng)計(jì)特征、評(píng)價(jià)結(jié)果合理性、權(quán)重合理性等。

    實(shí)際上,許多權(quán)重賦值或評(píng)價(jià)方法在具體應(yīng)用時(shí)尚有一些技術(shù)細(xì)節(jié),還有一些可變的選項(xiàng),比如因子分析中的矩陣旋轉(zhuǎn)方法就有多種,因此并非權(quán)重賦值與評(píng)價(jià)方法確定,評(píng)價(jià)結(jié)果就唯一了。

    3.2初次評(píng)價(jià)方法診斷

    3.2.1方法適用性診斷

    方法適用性診斷就是對(duì)某種評(píng)價(jià)方法的特點(diǎn)和應(yīng)用場(chǎng)景的適用性進(jìn)行診斷。這種診斷其實(shí)是非常困難的,比如線性加權(quán)匯總方法總體上強(qiáng)調(diào)不同指標(biāo)之間是互補(bǔ)的,可以無(wú)限替代,在學(xué)術(shù)評(píng)價(jià)中,如果科研質(zhì)量指標(biāo)是非常關(guān)鍵的,不能簡(jiǎn)單用其他指標(biāo)替代,或者只能部分替代,此時(shí)就不能采用線性加權(quán)匯總方法,用乘法合成會(huì)更好。因子分析評(píng)價(jià)適用于評(píng)價(jià)指標(biāo)高度相關(guān)的場(chǎng)合,比如在科技評(píng)價(jià)中,如果采用科技投入、科技產(chǎn)出和成果轉(zhuǎn)化3個(gè)一級(jí)指標(biāo)進(jìn)行評(píng)價(jià),但由于某種原因評(píng)價(jià)對(duì)象的成果轉(zhuǎn)化工作普遍不好,那么成果轉(zhuǎn)化與科技投入、科技產(chǎn)出之間的相關(guān)度就不高,此時(shí)就不適宜采用因子分析法進(jìn)行評(píng)價(jià)。

    3.2.2方法自身技術(shù)

    包括方法應(yīng)用檢驗(yàn)、方法正確性檢驗(yàn)、最新優(yōu)化方法應(yīng)用檢驗(yàn)3個(gè)部分。

    第一,方法應(yīng)用檢驗(yàn)。一些評(píng)價(jià)方法,有應(yīng)用的前置條件或合適性檢驗(yàn),比如對(duì)于主成分與因子分析,需要進(jìn)行KMO檢驗(yàn)與Bartlett檢驗(yàn),看看是否符合方法應(yīng)用的前置條件。對(duì)于層次分析法AHP,需要進(jìn)行排序一致性CR檢驗(yàn),看賦權(quán)邏輯是否能自圓其說(shuō)。目前大多數(shù)多屬性評(píng)價(jià)方法,并沒(méi)有相關(guān)檢驗(yàn)方法。

    第二,方法正確性檢驗(yàn)。此檢驗(yàn)是看方法應(yīng)用是否正確,有無(wú)錯(cuò)誤。一些多屬性評(píng)價(jià)方法比較復(fù)雜,技術(shù)要求高,模型龐大。比如DEA效率分析,其模型有上千個(gè),如果用于學(xué)術(shù)評(píng)價(jià),一定要根據(jù)評(píng)價(jià)實(shí)際選取相應(yīng)的模型,并設(shè)置好相應(yīng)參數(shù)。在具體軟件操作時(shí),一定要充分了解并注意設(shè)置好各種選項(xiàng),確保軟件運(yùn)行結(jié)果正確。

    第三,最新優(yōu)化方法應(yīng)用檢驗(yàn)。學(xué)術(shù)評(píng)價(jià)方法是在不斷發(fā)展的,一定要注意最新成果的應(yīng)用。任何評(píng)價(jià)方法都不是盡善盡美的,總在不斷優(yōu)化中。要關(guān)注所選學(xué)術(shù)評(píng)價(jià)方法的最優(yōu)成果,看看該方法的不足和弱點(diǎn)是什么?現(xiàn)有優(yōu)化方案解決了哪些問(wèn)題?這些改進(jìn)對(duì)現(xiàn)有評(píng)價(jià)有沒(méi)有啟示?這樣可以確保評(píng)價(jià)方法的先進(jìn)性,也便于改進(jìn)傳統(tǒng)方法的問(wèn)題。當(dāng)然如果一些優(yōu)化和改進(jìn)對(duì)學(xué)術(shù)評(píng)價(jià)影響不大,則輕易不要采用,畢竟尊重權(quán)威的方法還是有意義的。

    3.3二次評(píng)價(jià)方法診斷

    3.3.1權(quán)重合理性診斷

    權(quán)重合理性診斷是從廣義的多屬性評(píng)價(jià)方法角度出發(fā)的。權(quán)重與評(píng)價(jià)指標(biāo)是對(duì)應(yīng)的,權(quán)重的合理性也是一種主觀診斷方法。不管任何多屬性評(píng)價(jià)方法,如果權(quán)重不合理,比如不符合國(guó)家政策導(dǎo)向,不符合評(píng)價(jià)目的,不符合管理需求,那說(shuō)明權(quán)重賦值本身就值得商榷。權(quán)重的本質(zhì)就是指標(biāo)的重要性,而這種重要性具有很強(qiáng)的主觀能動(dòng)性,不是任何客觀評(píng)價(jià)方法可以左右的。

    權(quán)重診斷路徑如圖4所示。對(duì)于線性多屬性評(píng)價(jià)方法,不管其賦權(quán)方法如何,總有權(quán)重,那么可以直接進(jìn)行權(quán)重合理性診斷。對(duì)于非線性評(píng)價(jià)方法,又區(qū)分為需要賦權(quán)和不需要賦權(quán)兩種情況,對(duì)于需要賦權(quán)的非線性評(píng)價(jià)方法,也是可以直接進(jìn)行權(quán)重診斷的。

    非線性評(píng)價(jià)方法的賦權(quán)包括無(wú)需賦權(quán)和需要賦權(quán)兩種。對(duì)于無(wú)需賦權(quán)的非線性評(píng)價(jià)方法,可以采用模擬權(quán)重進(jìn)行賦權(quán)。模擬權(quán)重由俞立平等首次提出,其基本原理是將評(píng)價(jià)結(jié)果作為因變量,評(píng)價(jià)指標(biāo)作為自變量進(jìn)行回歸,再將回歸系數(shù)進(jìn)行歸一化處理。其中,要考慮指標(biāo)眾多導(dǎo)致的多重共線性問(wèn)題,可以采用嶺回歸、偏最小二乘回歸、主成分回歸等手段。由于模擬權(quán)重計(jì)算是在評(píng)價(jià)結(jié)果獲取以后,所以將權(quán)重診斷放在二次診斷環(huán)節(jié)。

    對(duì)于需要賦權(quán)的非線性評(píng)價(jià)方法,權(quán)重僅是一種中間手段,而模擬權(quán)重是最終指標(biāo)重要性的反映,所以更能說(shuō)明問(wèn)題。實(shí)際上對(duì)于需要賦權(quán)的非線性評(píng)價(jià)方法,存在兩輪權(quán)重檢驗(yàn),一是原來(lái)的權(quán)重檢驗(yàn),二是模擬權(quán)重檢驗(yàn)。以加權(quán)TOPSIS評(píng)價(jià)法為例,這是一種非線性賦權(quán)評(píng)價(jià)方法,評(píng)價(jià)權(quán)重僅僅是一種中間結(jié)果,最終反映指標(biāo)重要性的是模擬權(quán)重,其合理性更加重要。

    3.3.2評(píng)價(jià)結(jié)果的統(tǒng)計(jì)特征診斷

    評(píng)價(jià)結(jié)果的統(tǒng)計(jì)特征診斷包括評(píng)價(jià)結(jié)果的數(shù)據(jù)分布和區(qū)分度兩個(gè)方面,主要體現(xiàn)評(píng)價(jià)結(jié)果是否滿(mǎn)足實(shí)際學(xué)術(shù)評(píng)價(jià)的統(tǒng)計(jì)需求。

    第一,評(píng)價(jià)結(jié)果的數(shù)據(jù)分布。研究希望評(píng)價(jià)結(jié)果能夠服從正態(tài)分布,盡管學(xué)術(shù)評(píng)價(jià)指標(biāo)尤其是文獻(xiàn)計(jì)量指標(biāo)并不服從正態(tài)分布,但采用多屬性評(píng)價(jià)方法,尤其是非線性評(píng)價(jià)方法,會(huì)改善這種情況。評(píng)價(jià)結(jié)果越接近正態(tài)分布,一般認(rèn)為這種情況展示性越好??刹捎肑aque-Bera檢驗(yàn)值確定。JB統(tǒng)計(jì)量如式(1)所示:

    第二,評(píng)價(jià)結(jié)果的區(qū)分度??刹捎秒x散系數(shù)來(lái)進(jìn)行相應(yīng)測(cè)度,離散系數(shù)越大,說(shuō)明評(píng)價(jià)結(jié)果的區(qū)分度越好。

    3.3.3評(píng)價(jià)結(jié)果的合理性診斷

    包括排序合理性診斷與評(píng)價(jià)結(jié)果相關(guān)性診斷兩個(gè)方面。評(píng)價(jià)結(jié)果的排序合理診斷主要看評(píng)價(jià)結(jié)果的排序是否符合人們的預(yù)期,比如通常情況下,清華大學(xué)與北京大學(xué)的科研總體水平應(yīng)該排在全國(guó)高校的前兩位,如果某種評(píng)價(jià)結(jié)果將這兩所高校的排名排在前兩名之外,一般來(lái)說(shuō)一定存在評(píng)價(jià)問(wèn)題。評(píng)價(jià)結(jié)果相關(guān)性診斷主要看評(píng)價(jià)結(jié)果與其他可比評(píng)價(jià)結(jié)果或相關(guān)指標(biāo)的相關(guān)系數(shù)是否符合預(yù)期,比如基于中國(guó)知網(wǎng)數(shù)據(jù)進(jìn)行學(xué)術(shù)期刊評(píng)價(jià),可以將評(píng)價(jià)結(jié)果與中國(guó)知網(wǎng)的CI指數(shù)進(jìn)行回歸,一般相關(guān)系數(shù)不宜低于0.70。

    需要特別注意的是,評(píng)價(jià)結(jié)果的影響因素眾多,不單是評(píng)價(jià)方法導(dǎo)致,如圖5所示。指標(biāo)數(shù)據(jù)質(zhì)量、標(biāo)準(zhǔn)化方法、權(quán)重賦值方法、評(píng)價(jià)方法選擇與應(yīng)用等均會(huì)影響評(píng)價(jià)結(jié)果。所以一定要排除其他環(huán)節(jié)可能存在的問(wèn)題,在保證其他環(huán)節(jié)沒(méi)有問(wèn)題的情況下,那么評(píng)價(jià)結(jié)果異常的原因就可以集中到評(píng)價(jià)方法上。

    3.4評(píng)價(jià)方法診斷指標(biāo)體系

    為了便于給多屬性評(píng)價(jià)方法的診斷進(jìn)行打分,建立如表1的診斷指標(biāo)體系。指標(biāo)體系建立框架從方法選擇、方法檢驗(yàn)、權(quán)重、評(píng)價(jià)結(jié)果等方面綜合體現(xiàn),即圖3的框架。根據(jù)相關(guān)一級(jí)指標(biāo)和二級(jí)指標(biāo)進(jìn)行打分,最后根據(jù)權(quán)重進(jìn)行加權(quán)匯總,就得到評(píng)價(jià)方法的總體診斷得分。各診斷指標(biāo)的權(quán)重通過(guò)專(zhuān)家會(huì)議法確定,邀請(qǐng)了情報(bào)學(xué)、統(tǒng)計(jì)學(xué)、管理科學(xué)領(lǐng)域的7名專(zhuān)家進(jìn)行了3輪賦權(quán),最終權(quán)重結(jié)果得到了公認(rèn)。指標(biāo)打分采取百分制。如果評(píng)價(jià)總分低于70,一般說(shuō)明評(píng)價(jià)方法診斷效果較低,需要慎重處理。

    3.5評(píng)價(jià)方法診斷結(jié)果的處理方式

    多屬性評(píng)價(jià)方法診斷,一定是面向現(xiàn)有評(píng)價(jià)方法的,如果經(jīng)過(guò)上述流程的所有診斷,就能確定評(píng)價(jià)方法存在的問(wèn)題。對(duì)于線性評(píng)價(jià)方法,由于其相對(duì)簡(jiǎn)單,因此重點(diǎn)是圍繞權(quán)重設(shè)置進(jìn)行優(yōu)化。對(duì)于非線性評(píng)價(jià)方法,要針對(duì)權(quán)重設(shè)置與評(píng)價(jià)方法進(jìn)行全方位檢查與優(yōu)化,然后再重新進(jìn)行評(píng)價(jià)方法診斷。經(jīng)過(guò)數(shù)輪處理,如果還是無(wú)法通過(guò)評(píng)價(jià)方法檢驗(yàn),那么就要更換評(píng)價(jià)方法,重新評(píng)價(jià),并重新進(jìn)行評(píng)價(jià)方法檢驗(yàn),如圖6所示。

    4討論

    4.1復(fù)合評(píng)價(jià)與組合評(píng)價(jià)方法診斷問(wèn)題

    復(fù)合評(píng)價(jià)方法是將幾種單一的多屬性評(píng)價(jià)方法進(jìn)行一定的再創(chuàng)作,變成一種評(píng)價(jià)方法,再進(jìn)行評(píng)價(jià)。如采用熵權(quán)TOPSIS評(píng)價(jià)學(xué)術(shù)期刊,就是將熵權(quán)法與TOPSIS法結(jié)合,在賦權(quán)時(shí)采用熵權(quán)法,再采用加權(quán)TOPSIS進(jìn)行評(píng)價(jià)。

    組合評(píng)價(jià)方法是采用幾種單一的評(píng)價(jià)方法分別進(jìn)行評(píng)價(jià),然后將評(píng)價(jià)結(jié)果按照一定的方法進(jìn)行組合,最后得到評(píng)價(jià)結(jié)果。比如同時(shí)采用熵權(quán)法、主成分分析、TOPSIS、CRITIC進(jìn)行學(xué)術(shù)期刊評(píng)價(jià),得到4種評(píng)價(jià)結(jié)果,然后再采用Borda法進(jìn)行組合,得到評(píng)價(jià)結(jié)果。

    復(fù)合評(píng)價(jià)與組合評(píng)價(jià)的共性包括3點(diǎn):第一是評(píng)價(jià)流程完備,畢竟是多屬性評(píng)價(jià)方法,其評(píng)價(jià)流程大同小異;第二是評(píng)價(jià)方法多種,至少兩種多屬性評(píng)價(jià)方法參與評(píng)價(jià)起步,多則數(shù)種,但組合評(píng)價(jià)方法用到的單一多屬性評(píng)價(jià)方法會(huì)更多:第三是評(píng)價(jià)結(jié)果復(fù)雜,畢竟是數(shù)種方法的結(jié)果。

    此外,對(duì)于組合評(píng)價(jià)方法而言,組合方法眾多,如果將單一多屬性評(píng)價(jià)方法的評(píng)價(jià)結(jié)果作為評(píng)價(jià)指標(biāo),那么所有的多屬性評(píng)價(jià)方法都可以用來(lái)作為組合方法,所以組合方法選擇缺乏唯一性,評(píng)價(jià)結(jié)果就更復(fù)雜,如圖7所示。

    基于以上情況,不建議采用組合評(píng)價(jià)方法,并且要慎重采用復(fù)合評(píng)價(jià)方法。復(fù)合評(píng)價(jià)方法相對(duì)而言單一多屬性評(píng)價(jià)方法少一點(diǎn),評(píng)價(jià)方法診斷盡管復(fù)雜,也相對(duì)容易一點(diǎn)。

    4.2純客觀評(píng)價(jià)方法的結(jié)果合理性診斷問(wèn)題

    純客觀評(píng)價(jià)方法的結(jié)果合理性問(wèn)題其實(shí)在學(xué)術(shù)界經(jīng)過(guò)了長(zhǎng)期的討論,但迄今尚未達(dá)成共識(shí)。純客觀評(píng)價(jià)方法就是完全依賴(lài)客觀數(shù)據(jù)進(jìn)行評(píng)價(jià)的方法,包括權(quán)重賦值客觀、評(píng)價(jià)方法客觀等。相對(duì)主觀評(píng)價(jià)方法而言,特別是主觀權(quán)重賦值不具有唯一性,導(dǎo)致評(píng)價(jià)結(jié)果并非唯一的,純客觀評(píng)價(jià)方法至少在這一點(diǎn)上具有唯一性和科學(xué)性。

    評(píng)價(jià)是一個(gè)價(jià)值與倫理問(wèn)題,而非純技術(shù)問(wèn)題。學(xué)術(shù)評(píng)價(jià)工作畢竟是一項(xiàng)管理工作,評(píng)價(jià)的本質(zhì)也是主觀的,這就導(dǎo)致純客觀評(píng)價(jià)方法本身就不具有管理與評(píng)價(jià)基礎(chǔ)。所以對(duì)于純客觀評(píng)價(jià)方法而言,有必要進(jìn)行主客觀診斷,如圖8所示。也就是說(shuō),對(duì)于純客觀評(píng)價(jià)方法而言,既要進(jìn)行主觀診斷方法為主的權(quán)重合理性和評(píng)價(jià)結(jié)果合理性診斷,也要進(jìn)行客觀診斷方法為主的方法合適性、方法自身技術(shù)、結(jié)果統(tǒng)計(jì)特征診斷。

    5研究結(jié)論

    5.1必須重視評(píng)價(jià)方法診斷并將其納入評(píng)價(jià)日常工作

    學(xué)術(shù)評(píng)價(jià)方法以指標(biāo)體系多屬性評(píng)價(jià)為主,廣義的評(píng)價(jià)方法包括權(quán)重賦值方法與結(jié)果計(jì)算方法,對(duì)評(píng)價(jià)結(jié)果影響巨大。如何分離出數(shù)據(jù)處理、標(biāo)準(zhǔn)化、權(quán)重賦值、評(píng)價(jià)方法各部分的影響本身也比較復(fù)雜,如果不進(jìn)行系統(tǒng)的評(píng)價(jià)方法診斷很難找出評(píng)價(jià)方法存在的問(wèn)題,從而影響評(píng)價(jià)質(zhì)量,而目前學(xué)術(shù)評(píng)價(jià)方法診斷的研究總體上尚處于起步階段。在這樣的背景下,重視學(xué)術(shù)評(píng)價(jià)方法的質(zhì)量診斷,研究其理論與方法,并將其融人日常評(píng)價(jià)工作至關(guān)重要。

    5.2應(yīng)建立主客觀相結(jié)合的評(píng)價(jià)方法診斷路徑

    從客觀角度,評(píng)價(jià)方法診斷包括方法適用性、方法正確性、評(píng)價(jià)結(jié)果統(tǒng)計(jì)特征;從主觀角度,診斷方法包括評(píng)價(jià)權(quán)重或模擬權(quán)重的合理性、評(píng)價(jià)結(jié)果的合理性??刹捎迷u(píng)價(jià)方法診斷指標(biāo)體系對(duì)多屬性學(xué)術(shù)評(píng)價(jià)方法進(jìn)行打分,如果分值低于0.8,在無(wú)法優(yōu)化評(píng)價(jià)方法的情況下就要選擇更換評(píng)價(jià)方法。這里需要強(qiáng)調(diào)一下主觀診斷的重要性,畢竟評(píng)價(jià)的本質(zhì)含義是“對(duì)人對(duì)事物的看法”,天生具有主觀特性,而權(quán)重的本質(zhì)含義是“重要性”,也是主觀的,因此對(duì)任何評(píng)價(jià)方法進(jìn)行主觀診斷,不僅是可行的,也是必須的。

    5.3建議取消組合評(píng)價(jià)慎用復(fù)合評(píng)價(jià)

    組合評(píng)價(jià)與復(fù)合評(píng)價(jià)涉及的評(píng)價(jià)方法眾多,評(píng)價(jià)結(jié)果復(fù)雜,并且組合評(píng)價(jià)方法的組合方法眾多,因此對(duì)于組合評(píng)價(jià),很難進(jìn)行有效的評(píng)價(jià)方法診斷,對(duì)于復(fù)合評(píng)價(jià),評(píng)價(jià)方法診斷也容易失效,所以對(duì)于這兩類(lèi)評(píng)價(jià)方法的應(yīng)用要客觀對(duì)待,建議一般情況下不宜采用組合評(píng)價(jià)方法進(jìn)行學(xué)術(shù)評(píng)價(jià),對(duì)于復(fù)合評(píng)價(jià)方法,也要慎重選取。

    5.4注重加強(qiáng)主觀評(píng)價(jià)方法的規(guī)范性

    主觀評(píng)價(jià)方法的技術(shù)性相對(duì)較弱,權(quán)重賦值是其關(guān)鍵環(huán)節(jié),其他包括標(biāo)準(zhǔn)化方法以及加權(quán)匯總方法等。在評(píng)價(jià)方法診斷時(shí),一定要重視同行評(píng)議專(zhuān)家遴選的廣泛性、代表性和規(guī)范性,在權(quán)重賦值時(shí)一定要注意賦值方法與賦權(quán)流程的規(guī)范性和嚴(yán)謹(jǐn)性,以努力保證主觀評(píng)價(jià)方法的穩(wěn)定性。

    5.5將評(píng)價(jià)方法診斷思想前移到評(píng)價(jià)過(guò)程中有利于提高評(píng)價(jià)質(zhì)量

    在學(xué)術(shù)評(píng)價(jià)中,如果在評(píng)價(jià)結(jié)果初步完成時(shí)進(jìn)行評(píng)價(jià)方法診斷,固然有利于反思評(píng)價(jià),找出問(wèn)題,優(yōu)化評(píng)價(jià)方法,但如果一開(kāi)始就將相關(guān)思想融人到評(píng)價(jià)工作的各環(huán)節(jié)中,有助于改進(jìn)學(xué)術(shù)評(píng)價(jià)各環(huán)節(jié)的質(zhì)量,同時(shí)減少后期評(píng)價(jià)方法診斷的工作量,對(duì)于整個(gè)評(píng)價(jià)工作質(zhì)量提高更是大有裨益。

    国产精品女同一区二区软件| 悠悠久久av| 91精品伊人久久大香线蕉| 久久久久久久精品精品| 校园人妻丝袜中文字幕| 国产成人av激情在线播放| 国产视频首页在线观看| 国产精品人妻久久久影院| 中文字幕色久视频| 日本wwww免费看| 别揉我奶头~嗯~啊~动态视频 | 一级毛片黄色毛片免费观看视频| 日本一区二区免费在线视频| 黑人欧美特级aaaaaa片| 国产精品国产三级国产专区5o| 男人添女人高潮全过程视频| 亚洲欧美精品自产自拍| 熟女少妇亚洲综合色aaa.| 亚洲成国产人片在线观看| 久久精品亚洲av国产电影网| 视频在线观看一区二区三区| 欧美精品一区二区大全| 一级片免费观看大全| 久久免费观看电影| av福利片在线| 成人国产av品久久久| 亚洲一区二区三区欧美精品| 性高湖久久久久久久久免费观看| 伦理电影大哥的女人| 国产精品一区二区在线观看99| 久久久国产精品麻豆| 99精国产麻豆久久婷婷| 人体艺术视频欧美日本| 黑丝袜美女国产一区| 最近中文字幕2019免费版| 一级,二级,三级黄色视频| 成人三级做爰电影| 亚洲自偷自拍图片 自拍| 伊人久久国产一区二区| 丝袜美腿诱惑在线| 国产精品人妻久久久影院| 老司机深夜福利视频在线观看 | 国产精品香港三级国产av潘金莲 | 亚洲成人手机| 日本爱情动作片www.在线观看| 日日爽夜夜爽网站| 精品少妇久久久久久888优播| 91精品国产国语对白视频| 亚洲欧美一区二区三区久久| 精品少妇内射三级| 久久精品国产综合久久久| 最近手机中文字幕大全| 不卡av一区二区三区| 久久人人爽人人片av| 日韩制服丝袜自拍偷拍| 最近中文字幕2019免费版| 日韩一卡2卡3卡4卡2021年| 久久国产亚洲av麻豆专区| 啦啦啦啦在线视频资源| 深夜精品福利| 欧美日韩福利视频一区二区| 色播在线永久视频| 99久久人妻综合| 伦理电影大哥的女人| 国产国语露脸激情在线看| 黄色毛片三级朝国网站| 在线亚洲精品国产二区图片欧美| 伦理电影大哥的女人| 久久久精品国产亚洲av高清涩受| 日韩免费高清中文字幕av| 91成人精品电影| 黄频高清免费视频| 美女扒开内裤让男人捅视频| 最近的中文字幕免费完整| 欧美黑人精品巨大| 18在线观看网站| 男女高潮啪啪啪动态图| 热re99久久精品国产66热6| 人妻一区二区av| 国产极品天堂在线| 国产成人av激情在线播放| 婷婷色av中文字幕| 大香蕉久久网| 日韩大片免费观看网站| 午夜激情av网站| 国产精品久久久人人做人人爽| 交换朋友夫妻互换小说| 国产高清国产精品国产三级| 国产精品一二三区在线看| 亚洲欧美成人精品一区二区| 又大又黄又爽视频免费| 无限看片的www在线观看| 丝袜喷水一区| 男女下面插进去视频免费观看| 欧美国产精品一级二级三级| 超碰97精品在线观看| 亚洲在久久综合| 街头女战士在线观看网站| 国产成人av激情在线播放| 在线亚洲精品国产二区图片欧美| 免费女性裸体啪啪无遮挡网站| 亚洲av福利一区| 久久久久精品性色| 高清视频免费观看一区二区| 日本wwww免费看| 最近手机中文字幕大全| 热99久久久久精品小说推荐| 国产熟女午夜一区二区三区| 欧美日韩国产mv在线观看视频| 国产野战对白在线观看| 美女大奶头黄色视频| 精品一区在线观看国产| 狠狠精品人妻久久久久久综合| 老司机影院毛片| 成人国产av品久久久| 欧美日韩亚洲综合一区二区三区_| 亚洲美女视频黄频| 国产老妇伦熟女老妇高清| 日韩电影二区| 如日韩欧美国产精品一区二区三区| 人人澡人人妻人| 国产精品久久久久久久久免| 欧美日韩亚洲综合一区二区三区_| 成人三级做爰电影| 国产一级毛片在线| 香蕉丝袜av| 午夜激情久久久久久久| 精品国产超薄肉色丝袜足j| 大香蕉久久网| 2018国产大陆天天弄谢| 超碰97精品在线观看| 午夜福利免费观看在线| 熟女少妇亚洲综合色aaa.| 欧美成人午夜精品| 久久久久久久久久久免费av| 精品午夜福利在线看| 亚洲精品第二区| 亚洲,欧美,日韩| 国产欧美日韩综合在线一区二区| 在现免费观看毛片| 国产在线视频一区二区| 国产97色在线日韩免费| 秋霞在线观看毛片| 成人免费观看视频高清| 一边亲一边摸免费视频| 亚洲精品国产av蜜桃| 久久国产精品大桥未久av| 日韩中文字幕视频在线看片| 欧美亚洲日本最大视频资源| 国产熟女欧美一区二区| 亚洲欧洲日产国产| 性色av一级| videosex国产| 国产视频首页在线观看| 涩涩av久久男人的天堂| 免费人妻精品一区二区三区视频| 啦啦啦中文免费视频观看日本| 亚洲精品一区蜜桃| 国产精品国产三级专区第一集| 国产免费视频播放在线视频| 欧美变态另类bdsm刘玥| 亚洲欧美成人综合另类久久久| 又黄又粗又硬又大视频| 久久av网站| 亚洲国产av新网站| 97精品久久久久久久久久精品| 国产探花极品一区二区| 亚洲国产欧美在线一区| 黄色 视频免费看| 中文字幕人妻丝袜制服| 久久久久久久久免费视频了| 久久国产精品男人的天堂亚洲| 视频在线观看一区二区三区| 一级毛片我不卡| 久久婷婷青草| 视频区图区小说| 不卡av一区二区三区| 秋霞伦理黄片| 建设人人有责人人尽责人人享有的| 亚洲美女搞黄在线观看| 久久婷婷青草| 香蕉丝袜av| 免费不卡黄色视频| 高清不卡的av网站| 蜜桃国产av成人99| 久久久欧美国产精品| 日韩人妻精品一区2区三区| av又黄又爽大尺度在线免费看| 亚洲国产欧美网| 日韩制服丝袜自拍偷拍| 看十八女毛片水多多多| 日本一区二区免费在线视频| 亚洲精品久久午夜乱码| 亚洲国产成人一精品久久久| 欧美日韩综合久久久久久| 免费久久久久久久精品成人欧美视频| 亚洲av在线观看美女高潮| 永久免费av网站大全| 91老司机精品| 久久精品aⅴ一区二区三区四区| 制服诱惑二区| av女优亚洲男人天堂| 两个人免费观看高清视频| 91aial.com中文字幕在线观看| 欧美日韩国产mv在线观看视频| 赤兔流量卡办理| 久久精品久久久久久噜噜老黄| 一边摸一边抽搐一进一出视频| 日本黄色日本黄色录像| 成年女人毛片免费观看观看9 | 新久久久久国产一级毛片| 国产成人精品无人区| 日韩成人av中文字幕在线观看| 丁香六月天网| av免费观看日本| 高清欧美精品videossex| 欧美老熟妇乱子伦牲交| 亚洲精品国产一区二区精华液| 国产一级毛片在线| 人成视频在线观看免费观看| 好男人视频免费观看在线| 人妻 亚洲 视频| 亚洲av成人精品一二三区| 老司机在亚洲福利影院| 国产有黄有色有爽视频| 美女福利国产在线| 久久av网站| av又黄又爽大尺度在线免费看| 如何舔出高潮| 久久精品亚洲av国产电影网| a 毛片基地| 五月开心婷婷网| 久久久精品94久久精品| 欧美精品高潮呻吟av久久| 男人操女人黄网站| 国产乱来视频区| 人体艺术视频欧美日本| 久久韩国三级中文字幕| 捣出白浆h1v1| 久久热在线av| 午夜福利乱码中文字幕| 久久久久国产一级毛片高清牌| 免费看av在线观看网站| 亚洲精品视频女| 精品少妇内射三级| 啦啦啦 在线观看视频| 久久久精品94久久精品| 男女无遮挡免费网站观看| 免费在线观看黄色视频的| 亚洲精品第二区| 免费观看av网站的网址| 男男h啪啪无遮挡| 亚洲人成网站在线观看播放| av又黄又爽大尺度在线免费看| 亚洲国产成人一精品久久久| 亚洲av国产av综合av卡| a级毛片黄视频| 夫妻性生交免费视频一级片| 久久 成人 亚洲| 欧美变态另类bdsm刘玥| 熟女少妇亚洲综合色aaa.| 人人妻,人人澡人人爽秒播 | 爱豆传媒免费全集在线观看| 久久久久久人人人人人| 麻豆av在线久日| 精品久久久精品久久久| 91精品三级在线观看| 夫妻午夜视频| 久久国产精品男人的天堂亚洲| 亚洲欧洲国产日韩| 亚洲熟女毛片儿| 男女之事视频高清在线观看 | 久久精品亚洲熟妇少妇任你| 日韩熟女老妇一区二区性免费视频| 青春草亚洲视频在线观看| 亚洲国产精品国产精品| 精品国产乱码久久久久久小说| 97人妻天天添夜夜摸| 大陆偷拍与自拍| 色视频在线一区二区三区| 精品国产一区二区三区四区第35| 国产成人免费观看mmmm| 美女视频免费永久观看网站| 街头女战士在线观看网站| 水蜜桃什么品种好| 亚洲一码二码三码区别大吗| 9191精品国产免费久久| 伦理电影大哥的女人| 91老司机精品| 中文字幕人妻丝袜一区二区 | 久久久国产精品麻豆| 青青草视频在线视频观看| 午夜福利一区二区在线看| 各种免费的搞黄视频| 久久久久久久国产电影| 一区在线观看完整版| 国产日韩欧美视频二区| 亚洲国产欧美一区二区综合| 黄色视频在线播放观看不卡| 亚洲av欧美aⅴ国产| 咕卡用的链子| 久久女婷五月综合色啪小说| 亚洲成人手机| 女性生殖器流出的白浆| 亚洲 欧美一区二区三区| 黄片小视频在线播放| 日韩av免费高清视频| 涩涩av久久男人的天堂| 一级毛片 在线播放| 自线自在国产av| 中文欧美无线码| 欧美精品亚洲一区二区| 人成视频在线观看免费观看| 9热在线视频观看99| 丝袜美腿诱惑在线| 日韩免费高清中文字幕av| 午夜福利免费观看在线| 精品卡一卡二卡四卡免费| 精品少妇黑人巨大在线播放| 最近中文字幕高清免费大全6| 久久毛片免费看一区二区三区| 午夜激情久久久久久久| 成年动漫av网址| 一本色道久久久久久精品综合| 18禁观看日本| 久久这里只有精品19| 久久久久久人人人人人| 视频区图区小说| 久久久久久久大尺度免费视频| 大香蕉久久成人网| 婷婷色av中文字幕| 别揉我奶头~嗯~啊~动态视频 | 97精品久久久久久久久久精品| 亚洲精品aⅴ在线观看| 日本欧美国产在线视频| 永久免费av网站大全| 色视频在线一区二区三区| 涩涩av久久男人的天堂| 亚洲成国产人片在线观看| 国产黄色视频一区二区在线观看| 午夜福利一区二区在线看| 91国产中文字幕| 咕卡用的链子| 人妻 亚洲 视频| 99香蕉大伊视频| 老司机亚洲免费影院| 99国产精品免费福利视频| 中文字幕色久视频| 另类精品久久| 男女之事视频高清在线观看 | 色吧在线观看| 亚洲精品成人av观看孕妇| 国产高清不卡午夜福利| 国产亚洲最大av| 天天躁夜夜躁狠狠躁躁| 人成视频在线观看免费观看| 一二三四中文在线观看免费高清| 男人添女人高潮全过程视频| 精品国产乱码久久久久久小说| 国产精品99久久99久久久不卡 | 少妇人妻精品综合一区二区| 婷婷色麻豆天堂久久| 亚洲精品第二区| 国产黄色免费在线视频| 亚洲成人一二三区av| 中文欧美无线码| 亚洲精品国产区一区二| 免费观看a级毛片全部| 久久久久久免费高清国产稀缺| 成人手机av| 妹子高潮喷水视频| 国产熟女午夜一区二区三区| 亚洲美女搞黄在线观看| 成人国产av品久久久| 少妇的丰满在线观看| tube8黄色片| 国产一区亚洲一区在线观看| 欧美黑人精品巨大| 中国国产av一级| 人妻一区二区av| 色视频在线一区二区三区| 精品人妻熟女毛片av久久网站| 黄片播放在线免费| av有码第一页| 一本久久精品| 国产免费福利视频在线观看| 国产精品99久久99久久久不卡 | 亚洲精品国产av蜜桃| 久久久久精品久久久久真实原创| av线在线观看网站| 国产97色在线日韩免费| 国产精品香港三级国产av潘金莲 | 最近的中文字幕免费完整| 午夜日本视频在线| 韩国高清视频一区二区三区| 欧美日韩视频精品一区| 午夜精品国产一区二区电影| 精品一区二区三区四区五区乱码 | avwww免费| 欧美中文综合在线视频| 蜜桃在线观看..| 中国国产av一级| 亚洲久久久国产精品| 色视频在线一区二区三区| 黄色视频不卡| 99久久99久久久精品蜜桃| 老司机影院毛片| 夜夜骑夜夜射夜夜干| 中文字幕人妻丝袜制服| 国产 精品1| 日韩av不卡免费在线播放| 狂野欧美激情性bbbbbb| 美女大奶头黄色视频| 韩国av在线不卡| 男女免费视频国产| av电影中文网址| 成人亚洲欧美一区二区av| 亚洲欧美清纯卡通| 亚洲人成77777在线视频| 黄片播放在线免费| 美女高潮到喷水免费观看| 9191精品国产免费久久| 久久99一区二区三区| 日韩 亚洲 欧美在线| 男女边摸边吃奶| 啦啦啦啦在线视频资源| 国产精品秋霞免费鲁丝片| av在线老鸭窝| 国产精品三级大全| 亚洲在久久综合| 热re99久久国产66热| 香蕉丝袜av| 丝袜脚勾引网站| av在线观看视频网站免费| 如何舔出高潮| 日韩大片免费观看网站| 一区二区日韩欧美中文字幕| 天美传媒精品一区二区| 亚洲成色77777| 人妻人人澡人人爽人人| 天天操日日干夜夜撸| 97精品久久久久久久久久精品| 中文欧美无线码| 伊人久久大香线蕉亚洲五| 日本vs欧美在线观看视频| 国产又爽黄色视频| 伦理电影免费视频| 亚洲中文av在线| 又黄又粗又硬又大视频| 亚洲精品日韩在线中文字幕| 久久久久久人人人人人| 亚洲成国产人片在线观看| 精品人妻在线不人妻| 国产高清国产精品国产三级| 女人久久www免费人成看片| 亚洲欧美清纯卡通| 国产黄色免费在线视频| 亚洲精品国产av蜜桃| 一本—道久久a久久精品蜜桃钙片| 日韩视频在线欧美| 久久久久久久久免费视频了| 天天添夜夜摸| 一级a爱视频在线免费观看| 男人操女人黄网站| 丁香六月天网| 亚洲欧洲精品一区二区精品久久久 | 女人久久www免费人成看片| 夜夜骑夜夜射夜夜干| 男女边摸边吃奶| 亚洲四区av| 满18在线观看网站| 建设人人有责人人尽责人人享有的| 欧美日韩福利视频一区二区| 国产免费又黄又爽又色| 久久午夜综合久久蜜桃| 亚洲av电影在线进入| 不卡av一区二区三区| 国产精品国产三级专区第一集| 久久久久久久国产电影| 又粗又硬又长又爽又黄的视频| 国产又色又爽无遮挡免| 中文字幕高清在线视频| 在线看a的网站| 妹子高潮喷水视频| 最近最新中文字幕免费大全7| 考比视频在线观看| 亚洲,一卡二卡三卡| 国产伦人伦偷精品视频| 韩国高清视频一区二区三区| 操美女的视频在线观看| 成人午夜精彩视频在线观看| 精品少妇久久久久久888优播| 亚洲在久久综合| 久久青草综合色| 亚洲av成人不卡在线观看播放网 | 国产亚洲欧美精品永久| 日本91视频免费播放| e午夜精品久久久久久久| 天天躁夜夜躁狠狠躁躁| 汤姆久久久久久久影院中文字幕| 午夜激情av网站| 叶爱在线成人免费视频播放| 国产成人免费无遮挡视频| 久久亚洲国产成人精品v| av一本久久久久| 赤兔流量卡办理| 男女国产视频网站| 久久久精品免费免费高清| 多毛熟女@视频| 欧美变态另类bdsm刘玥| 亚洲精品国产色婷婷电影| 精品人妻在线不人妻| 欧美国产精品一级二级三级| 人妻 亚洲 视频| 男女国产视频网站| 午夜免费男女啪啪视频观看| svipshipincom国产片| 成年动漫av网址| 美女扒开内裤让男人捅视频| 欧美黑人精品巨大| 久久亚洲国产成人精品v| 久久热在线av| 99re6热这里在线精品视频| 精品午夜福利在线看| 亚洲,一卡二卡三卡| 久久久久精品人妻al黑| 久久久久久久精品精品| 不卡视频在线观看欧美| 国产成人av激情在线播放| 欧美人与善性xxx| 亚洲国产精品一区三区| 国产一卡二卡三卡精品 | 午夜福利影视在线免费观看| 免费观看av网站的网址| www日本在线高清视频| 久久精品国产亚洲av高清一级| 一边摸一边抽搐一进一出视频| 日韩人妻精品一区2区三区| 免费黄色在线免费观看| 只有这里有精品99| 国产成人欧美| 看非洲黑人一级黄片| 乱人伦中国视频| 最近最新中文字幕免费大全7| 一级爰片在线观看| 亚洲国产欧美在线一区| 日韩欧美一区视频在线观看| 制服人妻中文乱码| 欧美激情极品国产一区二区三区| www日本在线高清视频| 中文字幕人妻熟女乱码| 日韩电影二区| 丝袜美足系列| 大香蕉久久成人网| 亚洲第一av免费看| 久久 成人 亚洲| 麻豆av在线久日| 男女午夜视频在线观看| 欧美日韩视频高清一区二区三区二| 制服丝袜香蕉在线| 美女视频免费永久观看网站| 久久久国产一区二区| 亚洲av日韩精品久久久久久密 | 日韩制服丝袜自拍偷拍| 中文字幕最新亚洲高清| 免费观看av网站的网址| 女的被弄到高潮叫床怎么办| 久久久国产一区二区| 成人亚洲精品一区在线观看| 国产乱来视频区| 国产一区亚洲一区在线观看| 国产在线免费精品| 老司机影院成人| 人人妻人人澡人人看| 国产av一区二区精品久久| 午夜日韩欧美国产| 国产黄色免费在线视频| 无遮挡黄片免费观看| 精品一区二区三区av网在线观看 | 两个人看的免费小视频| 黄色视频不卡| 2021少妇久久久久久久久久久| 国产精品一国产av| 一级爰片在线观看| 青春草亚洲视频在线观看| 亚洲av日韩精品久久久久久密 | 欧美 日韩 精品 国产| 国产精品欧美亚洲77777| 美女脱内裤让男人舔精品视频| 亚洲av综合色区一区| www.精华液| 精品国产露脸久久av麻豆| 久久久久久免费高清国产稀缺| 高清av免费在线| 天天添夜夜摸| 黄色 视频免费看| 久久久精品94久久精品| 中文字幕人妻丝袜制服| 亚洲精品国产av蜜桃| 久久影院123| 永久免费av网站大全| 高清在线视频一区二区三区| 日本av手机在线免费观看| 色精品久久人妻99蜜桃| tube8黄色片| 美女福利国产在线| 青草久久国产| 精品一区二区三卡| 久久精品国产综合久久久| 日本色播在线视频| 午夜免费男女啪啪视频观看| 日本欧美国产在线视频| 精品国产一区二区久久| 国产伦理片在线播放av一区| 欧美日韩av久久|