• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    科技評(píng)估 DIIS 方法

    2018-03-16 06:52:47潘教峰楊國(guó)梁劉慧暉
    中國(guó)科學(xué)院院刊 2018年1期
    關(guān)鍵詞:研判智庫評(píng)估

    潘教峰 楊國(guó)梁 劉慧暉

    中國(guó)科學(xué)院科技戰(zhàn)略咨詢研究院 北京 100190

    科技評(píng)估作為科技管理的重要手段和工具,在促進(jìn)我國(guó)經(jīng)濟(jì)社會(huì)發(fā)展、科技進(jìn)步中發(fā)揮著重要作用。隨著新一輪科技革命和產(chǎn)業(yè)變革的加速演進(jìn),科技活動(dòng)的復(fù)雜性和不確定性加大,對(duì)科技評(píng)估提出更高的要求。黨的十八大作出實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略的重大部署,十八屆三中全會(huì)對(duì)科技體制改革提出新要求,黨中央、國(guó)務(wù)院相關(guān)文件提出要完善創(chuàng)新評(píng)價(jià)制度,加強(qiáng)對(duì)創(chuàng)新政策和科技改革任務(wù)的督察評(píng)估,定期對(duì)政策落實(shí)情況進(jìn)行跟蹤分析,并及時(shí)調(diào)整完善。因此,科技評(píng)估已成為新一輪科技體制改革的重要任務(wù)。

    科技評(píng)估也已成為科技智庫任務(wù)的戰(zhàn)略重點(diǎn)。2017 年 2 月,中央深改組第三十二次會(huì)議審議通過了《國(guó)家科技決策咨詢制度建設(shè)方案》,強(qiáng)調(diào)建設(shè)國(guó)家科技決策咨詢制度,建立科技決策最高智庫;2016 年 5 月,習(xí)近平總書記在《為建設(shè)世界科技強(qiáng)國(guó)而奮斗》的重要講話中強(qiáng)調(diào)“要加快建立科技咨詢支撐行政決策的科技決策機(jī)制,加強(qiáng)科技決策咨詢系統(tǒng),建設(shè)高水平科技智庫”。由是觀之,科技評(píng)估在智庫研究中扮演著雙重角色:一方面,科技評(píng)估是智庫研究的重要任務(wù),無論是研判科技發(fā)展大勢(shì)和方向,還是從科技作用和影響的角度研究改革發(fā)展中的重大問題,科技智庫都要開展科技評(píng)估,為提出科學(xué)建議提供基礎(chǔ);另一方面,科技評(píng)估是智庫研究質(zhì)量的重要保障,例如,在實(shí)踐中世界知名智庫都有對(duì)自身研究工作進(jìn)行評(píng)估的程序和制度安排,以此確保智庫研究成果質(zhì)量。因此,如何建設(shè)完善科學(xué)合理的科技評(píng)估方法體系,開展科學(xué)評(píng)估,為我國(guó)創(chuàng)新發(fā)展提供有力決策支撐,是我國(guó)科技決策咨詢體系和智庫建設(shè)中需要考慮的重要問題。然而,從現(xiàn)有科技評(píng)估方法來看,其通常作用于評(píng)估問題的局部,缺少?gòu)霓q證法及系統(tǒng)論角度對(duì)科技評(píng)估全過程方法體系的思考與認(rèn)知,需要發(fā)展系統(tǒng)、科學(xué)的新方法、新工具來加以解決。

    中科院科技戰(zhàn)略咨詢研究院院長(zhǎng)潘教峰研究員[1]指出:科技智庫研究的對(duì)象往往是復(fù)雜、綜合的戰(zhàn)略和政策問題,不僅僅涉及科技問題,而且涉及經(jīng)濟(jì)、社會(huì)、環(huán)境、管理等諸多方面的問題,僅就科技問題而言,也往往是跨領(lǐng)域、跨學(xué)科、綜合交叉的。為此,潘教峰等[2]在分析國(guó)內(nèi)外智庫研究現(xiàn)狀基礎(chǔ)上,對(duì)智庫問題的一般性研究思路進(jìn)行系統(tǒng)歸納,從智庫問題研究的全過程,即“收集數(shù)據(jù)(Data)—揭示信息(Information)—綜合研判(Intelligence)—形成方案(Solution)”(DIIS),對(duì)智庫研究方法論進(jìn)行再思考,提出問題導(dǎo)向、證據(jù)導(dǎo)向、科學(xué)導(dǎo)向下的智庫研究 DIIS 理論方法。

    智庫 DIIS 理論方法起源于對(duì)智庫研究全過程的思考與概括,系統(tǒng)歸納了智庫問題的一般研究規(guī)律,對(duì)智庫問題具有很好的適用性,同樣適用于科技評(píng)估。有鑒于此,本文利用智庫 DIIS 理論方法對(duì)科技評(píng)估全過程進(jìn)行再思考:首先,分析科技評(píng)估的內(nèi)涵及其發(fā)展面臨的新要求;其次,對(duì)智庫 DIIS 理論方法體系進(jìn)行簡(jiǎn)述;進(jìn)而,基于評(píng)估規(guī)律形成科技評(píng)估 DIIS 方法,并從 DIIS 視角對(duì)科技評(píng)估在科技決策咨詢中的作用進(jìn)行界定;最后,以機(jī)構(gòu)評(píng)估、項(xiàng)目評(píng)估、政策評(píng)估和研究質(zhì)量評(píng)估為例,分析科技評(píng)估 DIIS 方法的實(shí)踐應(yīng)用。

    1 當(dāng)前科技評(píng)估面臨的問題

    科技評(píng)估既是構(gòu)建科技競(jìng)爭(zhēng)發(fā)展環(huán)境的重要基礎(chǔ),也是科技智庫進(jìn)行科技戰(zhàn)略管理和績(jī)效管理的重要工具。本節(jié)通過分析科技評(píng)估的內(nèi)涵,結(jié)合科技評(píng)估發(fā)展面臨的新要求,梳理現(xiàn)有科技評(píng)估方法體系中存在的問題。

    1.1 科技評(píng)估的內(nèi)涵

    科技評(píng)估根據(jù)科技決策者、資助者及相關(guān)利益群體的需求,確定價(jià)值標(biāo)準(zhǔn),用科學(xué)的方法收集和處理評(píng)估對(duì)象的相關(guān)信息,是判斷價(jià)值實(shí)現(xiàn)程度的過程,體現(xiàn)了評(píng)估者的價(jià)值理念和價(jià)值追求。除遵循評(píng)估活動(dòng)的一般規(guī)律外,科技評(píng)估又由于科技活動(dòng)的性質(zhì)而具有特殊性:① 科學(xué)研究活動(dòng)的結(jié)果難以預(yù)測(cè);② 科學(xué)研究活動(dòng)的成果難以定量評(píng)估;③ 科學(xué)研究成果所產(chǎn)生的作用和影響難以定量評(píng)估。

    隨著科技在經(jīng)濟(jì)社會(huì)發(fā)展中的作用日益增強(qiáng),科技評(píng)估的目的、對(duì)象、內(nèi)容等不斷延伸,成為科技戰(zhàn)略管理的重要工具和公眾理解科技的重要渠道。同時(shí),科技評(píng)估的要素從不同的角度來看也不盡相同(表 1)。

    表 1 科技評(píng)估基本要素

    1.2 科技評(píng)估發(fā)展的新要求

    在科技成為引領(lǐng)經(jīng)濟(jì)社會(huì)發(fā)展主導(dǎo)力量的今天,科技評(píng)估在科技活動(dòng)管理中的作用更加突出,豐富多樣、發(fā)展變化的科技活動(dòng)也對(duì)科技評(píng)估提出新的要求。

    (1)科技評(píng)估需關(guān)注科技活動(dòng)的全過程??萍荚u(píng)估的內(nèi)涵已從傳統(tǒng)單一產(chǎn)出環(huán)節(jié)的評(píng)估,拓展到科技規(guī)劃、科技投入、組織實(shí)施、科技產(chǎn)出及其影響效果等科技活動(dòng)各個(gè)環(huán)節(jié)的評(píng)估,需要采用目標(biāo)、過程、結(jié)果三者相結(jié)合的新模式對(duì)科技活動(dòng)進(jìn)行全過程的評(píng)估,以適應(yīng)科技活動(dòng)的發(fā)展變化。

    (2)科技評(píng)估需充分發(fā)揮診斷分析的作用。隨著科技活動(dòng)的規(guī)模日益增大,科技管理決策所面臨的問題越來越復(fù)雜,科技評(píng)估應(yīng)更加注重對(duì)科學(xué)研究過程的診斷、分析和改進(jìn),從而確定科學(xué)研究過程中存在的薄弱環(huán)節(jié),提出相應(yīng)的改進(jìn)措施和方法。

    (3)科技評(píng)估需注重定量評(píng)估與定性評(píng)估的有機(jī)結(jié)合。隨著政府和公眾對(duì)科技評(píng)估客觀性的要求日益增強(qiáng),基于科學(xué)工具與方法的定量評(píng)估在科技評(píng)估中占有日益重要的位置。因此,開展科技評(píng)估活動(dòng)時(shí)應(yīng)注重在定量評(píng)估的基礎(chǔ)上進(jìn)行定性評(píng)估,或在定性評(píng)估基礎(chǔ)上進(jìn)行定量處理,結(jié)合客觀信息和專家經(jīng)驗(yàn)形成多角度全方位的綜合評(píng)估結(jié)果。

    (4)科技評(píng)估需注重科學(xué)性和高質(zhì)量。目前許多科技評(píng)估報(bào)告的審核缺乏專業(yè)性,評(píng)估結(jié)果的可靠性和科學(xué)性有待商榷。因此,開展科技評(píng)估時(shí)應(yīng)從客觀事實(shí)和數(shù)據(jù)出發(fā),形成可以循環(huán)論證的評(píng)估結(jié)果,確保評(píng)估結(jié)果的高質(zhì)量。

    總體來看,隨著國(guó)家治理體系和治理能力現(xiàn)代化的深入發(fā)展,科技評(píng)估在我國(guó)政策實(shí)施情況評(píng)估、政策方案制定的前期論證中也發(fā)揮著重要的作用;同時(shí),這也對(duì)我國(guó)科技評(píng)估工作的科學(xué)性和系統(tǒng)性提出了更高的要求。然而,從現(xiàn)有科技評(píng)估方法來看,通常作用于評(píng)估問題的局部,存在分散化和系統(tǒng)性缺乏的問題,缺少?gòu)霓q證法及系統(tǒng)論角度對(duì)科技評(píng)估全過程方法體系的思考與認(rèn)知,評(píng)估結(jié)果的科學(xué)性有待進(jìn)一步論證。

    2 智庫 DIIS 理論方法

    系統(tǒng)性方法體系缺乏的問題,并不僅僅存在于科技評(píng)估領(lǐng)域,而是在智庫咨詢研究中普遍存在。因此,需要先對(duì)智庫研究的理論方法體系進(jìn)行歸納,形成科學(xué)合理的研究方法,從而保證智庫研究成果的高質(zhì)量和客觀性。為此,本節(jié)簡(jiǎn)述潘教峰等[2]提出的系統(tǒng)性研究方法體系——智庫 DIIS 理論方法。

    結(jié)合長(zhǎng)期從事科技戰(zhàn)略研究和重大規(guī)劃的經(jīng)驗(yàn),潘教峰[1]總結(jié)提煉智庫研究問題的一般性思路,并將智庫問題的研究過程歸納為智庫 DIIS 理論方法:首先,圍繞所研究的問題全面收集各類相關(guān)數(shù)據(jù)和相關(guān)現(xiàn)象(Data);其次,進(jìn)行專業(yè)化的挖掘、整理和分析,形成客觀的認(rèn)知(Information);進(jìn)而,引入專家智慧對(duì)這些認(rèn)知進(jìn)行研判(Intelligence),得到新認(rèn)識(shí)和新思路;最后,在問題導(dǎo)向下提出解決方案或政策建議(Solution),最終為宏觀決策提供高質(zhì)量和有建設(shè)性的智庫研究報(bào)告。由上可知,DIIS 理論方法可以概括為“收集數(shù)據(jù)(Data)—揭示信息(Information)—綜合研判(Intelligence)—形成方案(Solution)”。

    智庫 DIIS 理論方法針對(duì)現(xiàn)行智庫研究方法體系的系統(tǒng)性缺乏問題,歸納了智庫研究問題的一般性思路。具體地,在開展智庫研究時(shí)應(yīng)從問題導(dǎo)向、證據(jù)導(dǎo)向和科學(xué)導(dǎo)向出發(fā)[2,3],基于 DIIS 理論方法對(duì)智庫問題進(jìn)行研究(圖 1):?jiǎn)栴}導(dǎo)向是指智庫研究需要結(jié)合問題的特征進(jìn)行綜合研究,以問題為導(dǎo)向的 DIIS 研究遵循“凝練問題—分析問題—綜合問題—解決問題”4個(gè)階段的流程;證據(jù)導(dǎo)向是指智庫研究過程要有理有據(jù),以證據(jù)為導(dǎo)向的 DIIS 研究從 DIIS 的 4 個(gè)階段出發(fā)保證智庫研究的高質(zhì)量;科學(xué)導(dǎo)向是指智庫研究要利用科學(xué)的研究方法和工具對(duì)問題進(jìn)行系統(tǒng)性研究,以科學(xué)為導(dǎo)向的 DIIS 研究從 DIIS 的 4 個(gè)階段出發(fā)保證智庫研究的科學(xué)性。

    圖1 問題導(dǎo)向、證據(jù)導(dǎo)向和科學(xué)導(dǎo)向下的智庫DIIS理論方法

    智庫 DIIS 理論方法遵循智庫研究問題的一般性思路,不僅適用于科技問題研究,而且可以應(yīng)用于社會(huì)、經(jīng)濟(jì)、生態(tài)等領(lǐng)域戰(zhàn)略和政策問題的研究。此外,在 DIIS 研究的 4 個(gè)環(huán)節(jié)及其全過程,應(yīng)始終堅(jiān)持方法創(chuàng)新,堅(jiān)持基于專業(yè)知識(shí)和科學(xué)證據(jù)的科學(xué)精神,用好技術(shù)預(yù)見、路線圖等有效的研究方法和工具,運(yùn)用信息技術(shù)、大數(shù)據(jù)技術(shù)、管理決策技術(shù)、融合匯聚技術(shù)、人工智能和運(yùn)籌學(xué)、系統(tǒng)工程、復(fù)雜科學(xué)等研究的最新成果,創(chuàng)新發(fā)展科技戰(zhàn)略咨詢研究的新方法、新模型、新工具,如科學(xué)結(jié)構(gòu)地圖、虛擬現(xiàn)實(shí)工具、政策模擬工具、可視化決策支持平臺(tái)等,發(fā)展形成有特色的智庫 DIIS 理論方法,不斷提高戰(zhàn)略咨詢研究工作的科學(xué)性,為國(guó)家宏觀決策提供科學(xué)咨詢建議和系統(tǒng)解決方案。

    3 科技評(píng)估的 DIIS 方法與功能

    智庫 DIIS 理論方法起源于對(duì)智庫研究工作的思考與概括,對(duì)智庫問題具有很好的適用性。本節(jié)擬在 DIIS 視角下分析科技評(píng)估的研究流程,形成科技評(píng)估 DIIS 方法,并從 DIIS 視角對(duì)科技評(píng)估在科技決策咨詢中的作用進(jìn)行界定。

    從科技評(píng)估問題出發(fā),基于 DIIS 理論方法,結(jié)合評(píng)估問題特征,在問題導(dǎo)向、證據(jù)導(dǎo)向和科學(xué)導(dǎo)向下進(jìn)行跨學(xué)科和多領(lǐng)域的研究,科技評(píng)估 DIIS 方法的流程具體如下:① 凝練評(píng)估問題階段,圍繞科技評(píng)估問題收集相關(guān)數(shù)據(jù),綜合各學(xué)科知識(shí)對(duì)問題進(jìn)行關(guān)聯(lián)性分析,明確科技評(píng)估問題的特征,并將其分解為多個(gè)子問題,此階段對(duì)應(yīng) DIIS 的 Data(收集數(shù)據(jù));② 分析評(píng)估問題階段,對(duì)問題的相關(guān)數(shù)據(jù)進(jìn)行整理分析,對(duì)分解后的子問題進(jìn)行深入研究,形成客觀認(rèn)知和初步意見,此階段對(duì)應(yīng) DIIS 的 Information(揭示信息);③ 綜合評(píng)估問題階段,系統(tǒng)整合集成各子問題的客觀認(rèn)知信息和初步意見,綜合專家意見進(jìn)行研判,此階段對(duì)應(yīng) DIIS 的Intelligence(綜合研判);④ 解決評(píng)估問題階段,依據(jù)專家的綜合研判結(jié)果,給出評(píng)估結(jié)論和不同約束條件下的評(píng)估報(bào)告,此階段對(duì)應(yīng) DIIS 的 Solution(形成方案)。

    基于上述 4 個(gè)階段的分析,將凝練評(píng)估問題、分析評(píng)估問題、綜合評(píng)估問題和解決評(píng)估問題 4 個(gè)階段凝練為 14 個(gè)步驟(圖 2),其中 3 項(xiàng)檢驗(yàn)步驟(步驟 3、10 和 13)可確??萍荚u(píng)估問題研究的全面性和科學(xué)性,各步驟具體內(nèi)容如下。

    3.1 凝練評(píng)估問題階段—Data

    步驟 1:界定評(píng)估問題。界定科技評(píng)估問題的特征,注重各學(xué)科之間的聯(lián)系,對(duì)問題進(jìn)行跨學(xué)科與多領(lǐng)域的研究。

    步驟 2:分解問題。將科技評(píng)估問題分解為多個(gè)子問題,并發(fā)掘關(guān)鍵的問題。

    步驟 3:檢驗(yàn)問題。檢驗(yàn)步驟 2 中問題分解的全面性,若已分解全面,則進(jìn)入步驟 4;若尚未完全分解,則返回步驟 2 對(duì)問題補(bǔ)充數(shù)據(jù)重新分解。

    步驟 4:確定問題及技術(shù)路線。確定需深入研究的子問題,并依據(jù)研究目標(biāo)、對(duì)象、資源約束及具體需求形成解決問題的技術(shù)路線。

    3.2 分析評(píng)估問題階段—Information

    步驟 5:數(shù)據(jù)收集。收集各項(xiàng)子問題的相關(guān)數(shù)據(jù)。

    步驟 6:研究子問題。整理分析各子問題的相關(guān)數(shù)據(jù),初步形成客觀認(rèn)知。

    步驟 7:綜合研判子問題。綜合相關(guān)領(lǐng)域?qū)<业囊庖妼?duì)各子問題進(jìn)行綜合研判。

    步驟 8:形成初步方案。依據(jù)綜合研判的結(jié)果,初步形成各子問題的解決方案。

    3.3 綜合評(píng)估問題階段—Intelligence

    步驟 9:集成研究問題。綜合各子問題的研究結(jié)果,集成得到問題的研究結(jié)果。

    步驟 10:檢驗(yàn)研究。檢驗(yàn)步驟 9 的集成結(jié)果是否全面解決問題,若已全面,則進(jìn)入步驟 11;若未全面解決問題,則返回步驟 4 循環(huán)論證研究過程。

    步驟11:綜合研判。利用不確定性分析與博弈論等方法進(jìn)行利益相關(guān)者分析,綜合專家意見對(duì)問題進(jìn)行綜合研判。

    3.4 解決評(píng)估問題階段—Solution

    步驟 12:形成多情景方案?;趯<业木C合研判結(jié)果,構(gòu)建條件問題,給出不同條件約束下的方案集,形成初步報(bào)告。

    步驟 13:檢驗(yàn)報(bào)告。依據(jù)質(zhì)量標(biāo)準(zhǔn)對(duì)報(bào)告進(jìn)行檢驗(yàn),若達(dá)到標(biāo)準(zhǔn),則進(jìn)入步驟 14,即生成科技評(píng)估報(bào)告;若未達(dá)到標(biāo)準(zhǔn),則返回步驟 1 循環(huán)論證研究過程。

    步驟 14:生成評(píng)估報(bào)告。依據(jù)規(guī)范化格式生成最終達(dá)標(biāo)的科技評(píng)估報(bào)告。

    圖2 科技評(píng)估 DIIS 方法

    結(jié)合上述研究流程,從 DIIS 視角出發(fā)可將科技評(píng)估在科技決策咨詢中的作用界定為六大功能:證據(jù)形成功能、衡量比較功能、診斷分析功能、前瞻預(yù)測(cè)功能、價(jià)值導(dǎo)向與判斷功能和質(zhì)量控制功能(表 2)。

    4 科技評(píng)估實(shí)踐的再認(rèn)識(shí)

    科技評(píng)估作為科技智庫研究的重要課題,廣泛應(yīng)用于國(guó)內(nèi)外智庫的研究中。本節(jié)以德國(guó)馬普學(xué)會(huì)、美國(guó)國(guó)家科學(xué)基金會(huì)、國(guó)務(wù)院重大水利工程政策和英國(guó)高等教育機(jī)構(gòu)科研水平的科技評(píng)估為例,分析科技評(píng)估 DIIS 方法在機(jī)構(gòu)評(píng)估、項(xiàng)目評(píng)估、政策評(píng)估和研究質(zhì)量評(píng)估中的應(yīng)用。

    4.1 德國(guó)馬普學(xué)會(huì)研究所評(píng)估實(shí)踐

    德國(guó)馬普學(xué)會(huì)主要開展德國(guó)大學(xué)和其他科研機(jī)構(gòu)難以承擔(dān)的自然科學(xué)、社會(huì)科學(xué)與人文藝術(shù)領(lǐng)域的基礎(chǔ)研究,同時(shí)為馬普學(xué)會(huì)以外的科研人員提供儀器設(shè)備、文獻(xiàn)資源等。該學(xué)會(huì)在評(píng)估時(shí)聚焦于基礎(chǔ)前沿研究,注重研究成果的質(zhì)量,并充分重視研究人員的選擇,給予研究人員充分的自由。對(duì)馬普學(xué)會(huì)研究所評(píng)估實(shí)踐可參見文獻(xiàn)[4]。

    分析馬普學(xué)會(huì)的評(píng)估過程,可以發(fā)現(xiàn),其基本遵循了科技評(píng)估 DIIS 的研究思路,具體歸納分析如下:① 收集數(shù)據(jù)——Data。收集各個(gè)學(xué)科的相關(guān)數(shù)據(jù),包括產(chǎn)出和影響方面,為各領(lǐng)域分類評(píng)估提供基礎(chǔ)性數(shù)據(jù)支撐。② 揭示信息——Information。通過文獻(xiàn)計(jì)量數(shù)據(jù)分析,從學(xué)術(shù)產(chǎn)出質(zhì)量和影響的維度揭示研究所各領(lǐng)域科學(xué)前沿和產(chǎn)出影響,揭示不同領(lǐng)域科研活動(dòng)若干關(guān)鍵點(diǎn)和關(guān)鍵環(huán)節(jié)上的重要信息。③ 綜合研判——Intelligence。將數(shù)據(jù)分析與各領(lǐng)域權(quán)威專家的知識(shí)和研判結(jié)合,重在分析研究所在國(guó)內(nèi)外的地位以及對(duì)青年科學(xué)家的支持,提出研究所各領(lǐng)域診斷評(píng)估意見。④ 形成方案——Solution。面向馬普研究所的未來發(fā)展需求,在評(píng)估結(jié)果的基礎(chǔ)上形成對(duì)研究所未來發(fā)展和努力方向的建議。

    表 2 DIIS 視角下科技評(píng)估的功能

    4.2 美國(guó)國(guó)家科學(xué)基金會(huì)研究成果評(píng)估實(shí)踐

    美國(guó)國(guó)家科學(xué)基金會(huì)(簡(jiǎn)稱 NSF)是最具代表性和影響力的國(guó)家級(jí)政府科學(xué)基金資助機(jī)構(gòu)之一,主要面向科學(xué)和工程學(xué)的基礎(chǔ)研究項(xiàng)目和教育研究項(xiàng)目,旨在推動(dòng)科學(xué)進(jìn)步,促進(jìn)國(guó)民健康和繁榮,保障國(guó)防安全。NSF 每年都要從其資助項(xiàng)目的研究成果中遴選出最有顯示度的亮點(diǎn)成果,作為績(jī)效評(píng)估報(bào)告的重要部分報(bào)送國(guó)會(huì),同時(shí)通過亮點(diǎn)成果向社會(huì)公眾展示其資助成效。美國(guó) NSF 績(jī)效評(píng)估實(shí)踐可參見文獻(xiàn)[5]。

    分析 NSF 研究成果的評(píng)估過程,可以發(fā)現(xiàn),其基本遵循了科技評(píng)估 DIIS 的研究思路,具體歸納分析如下:① 收集數(shù)據(jù)——Data。收集 NSF 各研究項(xiàng)目的相關(guān)數(shù)據(jù),包括項(xiàng)目的研究?jī)r(jià)值、潛在的影響和意義、產(chǎn)生的突破性研究成果以及社會(huì)經(jīng)濟(jì)效益等,為研究成果評(píng)估提供基礎(chǔ)性數(shù)據(jù)支撐。② 揭示信息——Information。通過對(duì)成果信息的綜合分析,找出與 NSF 戰(zhàn)略目標(biāo)最相關(guān)且最重要的研究成果。③ 綜合研判——Intelligence。在科學(xué)處、科學(xué)局、機(jī)構(gòu) 3 個(gè)層面,將數(shù)據(jù)分析與不同外部專家的知識(shí)相結(jié)合,對(duì)照 NSF 的戰(zhàn)略目標(biāo)研判項(xiàng)目成果的突破性程度。④ 形成方案——Solution。根據(jù)研判結(jié)果,篩選最有顯示度的亮點(diǎn)成果,納入 NSF 年度績(jī)效報(bào)告,并對(duì)外公布亮點(diǎn)成果,向社會(huì)公眾展示其資助成效。

    4.3 國(guó)務(wù)院重大水利工程政策第三方評(píng)估實(shí)踐

    根據(jù)國(guó)務(wù)院部署(國(guó)發(fā)明電〔2014〕1 號(hào)),中科院作為第三方評(píng)估機(jī)構(gòu)對(duì)“加快重大水利工程建設(shè),今年(2014 年)再解決 6 000 萬農(nóng)村人口飲水安全問題的政策措施落實(shí)情況”開展評(píng)估。中科院由院領(lǐng)導(dǎo)牽頭,成立評(píng)估領(lǐng)導(dǎo)小組、專家組和咨詢組,組織重大水利工程組和農(nóng)村人口飲水安全組分別開展部委、地方政府和利益相關(guān)方訪談,通過項(xiàng)目實(shí)地調(diào)研評(píng)估政策措施的落實(shí)情況。

    總結(jié)重大水利工程政策的第三方評(píng)估過程,可以發(fā)現(xiàn),其基本遵循了科技評(píng)估 DIIS 的研究思路,具體歸納分析如下:① 收集數(shù)據(jù)——Data。通過資料調(diào)研、座談訪談與實(shí)地考察相結(jié)合等方式,收集重大水利工程建設(shè)和農(nóng)村飲水安全相關(guān)規(guī)劃和項(xiàng)目數(shù)據(jù),為政策第三方評(píng)估提供基礎(chǔ)性數(shù)據(jù)支撐。② 揭示信息——Information。通過定性分析文獻(xiàn)資料、定量分析數(shù)據(jù)統(tǒng)計(jì)資料、統(tǒng)計(jì)分析批量研究調(diào)查問卷,對(duì)數(shù)據(jù)進(jìn)行處理分析。③ 綜合研判——Intelligence。組織專家組多次召開集中研討會(huì)議,將數(shù)據(jù)分析與專家長(zhǎng)期研究經(jīng)驗(yàn)相結(jié)合,對(duì)政策實(shí)施情況的主要評(píng)估指標(biāo)進(jìn)行打分。④ 形成方案——Solution。根據(jù)研判結(jié)果,從體制機(jī)制和政策方面提出建議,形成第三方評(píng)估報(bào)告,報(bào)送國(guó)務(wù)院常務(wù)會(huì)議。

    4.4 英國(guó)高等教育機(jī)構(gòu)科研水平評(píng)估(REF)實(shí)踐

    英國(guó)四大高等教育基金委員會(huì)(HEFCE,SHEFC,HEFCW 和 DEL)從 1986 年開始,在全英國(guó)范圍內(nèi)推行科研評(píng)估制度(簡(jiǎn)稱 RAE),為英國(guó) 350 余所大學(xué)和高等學(xué)院政府下?lián)艿幕A(chǔ)性研究經(jīng)費(fèi)提供決策依據(jù)。由于 RAE 評(píng)估耗資巨大,同時(shí)需要耗費(fèi)大量評(píng)審專家的時(shí)間,英國(guó)社會(huì)各界對(duì) RAE 評(píng)估頗有微詞。因此,英國(guó)政府 2008 年對(duì) RAE 評(píng)估進(jìn)行了改革,提出了新的卓越研究評(píng)估框架 REF,并于 2014 年在英國(guó)推行①參見:http://www.ref.ac.uk/。REF 評(píng)估實(shí)踐可以參見文獻(xiàn)[6]。

    REF 采用專家評(píng)議方式開展針對(duì)高??蒲腥藛T研究質(zhì)量的評(píng)估,并為高等教育基金委員會(huì)的撥款提供依據(jù),成為英國(guó)政府監(jiān)控和提高高??蒲匈|(zhì)量的手段,有利于促使大學(xué)形成良好的內(nèi)部競(jìng)爭(zhēng)機(jī)制。分析 REF 研究質(zhì)量評(píng)估過程,可以發(fā)現(xiàn),其基本遵循了科技評(píng)估 DIIS 的研究思路,具體歸納分析如下:① 收集數(shù)據(jù)——Data。收集待評(píng)估人員的科研活動(dòng)詳細(xì)信息和科研成果,形成評(píng)估材料,為科研人員評(píng)估提供基礎(chǔ)性數(shù)據(jù)支撐。② 揭示信息——Information。通過對(duì)評(píng)估材料的綜合分析,形成科研人員的初步評(píng)估結(jié)果。③ 綜合研判——Intelligence。評(píng)估組(包括子評(píng)估組、跨組顧問、觀察員、外籍專家等)運(yùn)用各自的學(xué)科專長(zhǎng),根據(jù)評(píng)分等級(jí)形成每份材料的總體看法。④ 形成方案——Solution。根據(jù)研判結(jié)果,形成參加評(píng)估的高校得到年度政府經(jīng)費(fèi)撥款的重要決策依據(jù)。

    4.5 對(duì)科技評(píng)估實(shí)踐的分析

    通過機(jī)構(gòu)評(píng)估、項(xiàng)目評(píng)估、政策評(píng)估和研究質(zhì)量評(píng)估的實(shí)踐案例分析表明,其整體評(píng)估過程基本都遵循了科技評(píng)估 DIIS 的研究思路,但由于目標(biāo)對(duì)象的差異性,科技評(píng)估在 DIIS 各個(gè)環(huán)節(jié)的側(cè)重有所不同。例如,以 Intelligence 環(huán)節(jié)為例,在德國(guó)馬普學(xué)會(huì)開展的機(jī)構(gòu)評(píng)估中,該環(huán)節(jié)側(cè)重于其研究所各領(lǐng)域的科學(xué)前沿和產(chǎn)出影響;在美國(guó) NSF 開展的項(xiàng)目評(píng)估中,該環(huán)節(jié)側(cè)重于對(duì)項(xiàng)目成果的突破性程度進(jìn)行研判;在中科院開展的國(guó)務(wù)院重大水利工程政策評(píng)估中,該環(huán)節(jié)側(cè)重于對(duì)政策實(shí)施情況的分析;在英國(guó)REF評(píng)估中,該環(huán)節(jié)側(cè)重于對(duì)參評(píng)人員的科研活動(dòng)質(zhì)量進(jìn)行評(píng)估??梢钥闯?,科技評(píng)估對(duì)象和目的的不同直接導(dǎo)致了評(píng)估價(jià)值導(dǎo)向的差異,并且貫穿于 DIIS 的 4 個(gè)環(huán)節(jié)中。

    5 結(jié)論

    隨著科學(xué)技術(shù)的飛速發(fā)展,如何抓住新一輪科技革命和產(chǎn)業(yè)革命交匯期的歷史機(jī)遇以掌握競(jìng)爭(zhēng)發(fā)展的主動(dòng)權(quán),是我國(guó)推進(jìn)創(chuàng)新驅(qū)動(dòng)發(fā)展、建設(shè)世界科技強(qiáng)國(guó)需要考慮的重要課題,需要科技智庫通過科學(xué)合理的科技評(píng)估體系洞悉未來科技發(fā)展趨勢(shì)、準(zhǔn)確研判發(fā)展方向和戰(zhàn)略重點(diǎn),為提出前瞻咨詢建議和系統(tǒng)解決方案奠定研究分析基礎(chǔ)。因此,科技評(píng)估不僅是智庫研究的重要任務(wù),而且是智庫研究質(zhì)量的重要保障。本文將智庫 DIIS 理論方法運(yùn)用于科技評(píng)估,形成了凝練評(píng)估問題、分析評(píng)估問題、綜合評(píng)估問題和解決評(píng)估問題 4 個(gè)階段的科技評(píng)估 DIIS 方法,并從 DIIS 視角重新揭示了科技評(píng)估在科技決策咨詢中的 6 個(gè)作用,彌補(bǔ)了現(xiàn)有科技評(píng)估研究中存在的不足;此外,通過典型案例分析了科技評(píng)估 DIIS 方法的實(shí)踐應(yīng)用,為我國(guó)科技評(píng)估實(shí)踐提供一種方法指引與支撐。

    1 潘教峰. 科技智庫研究的 DIIS 理論方法. 中國(guó)科學(xué)報(bào), 2017-01-09(7).

    2 潘教峰, 楊國(guó)梁, 劉慧暉. 智庫 DIIS 理論方法. 中國(guó)管理科學(xué),2017, 25(Special Issue): 1-14.

    3 潘教峰. 加強(qiáng)智庫建設(shè) 推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化——潘教峰研究員訪談. 中國(guó)科學(xué)院院刊, 2017, 32(3): 297-302.

    4 中國(guó)科學(xué)院科技評(píng)價(jià)研究組. 關(guān)于我院科技評(píng)價(jià)工作的若干思考. 中國(guó)科學(xué)院院刊,2007, 22(2): 104-114.

    5 鄭永和, 劉云, 何鳴鴻. 科學(xué)基金績(jī)效評(píng)估方案設(shè)計(jì)中的若干問題研究. 中國(guó)基礎(chǔ)科學(xué), 2008, (2): 41-44.

    6 劉莉. 英國(guó)大學(xué)科研評(píng)價(jià)改革:從RAE到REF. 科學(xué)學(xué)與科學(xué)技術(shù)管理. 2014, 35(2): 39-45.

    猜你喜歡
    研判智庫評(píng)估
    徐州市超前研判 做好春節(jié)安全防范
    研判當(dāng)前貨幣政策走勢(shì)的“量”與“價(jià)”
    研判當(dāng)前貨幣政策的“變”與“不變”
    基于CRF文本挖掘的事故研判分析
    微智庫
    微智庫
    評(píng)估依據(jù)
    智庫能為我們做什么?
    全球化(2015年9期)2015-02-28 12:40:12
    建智庫,話擔(dān)當(dāng)
    立法后評(píng)估:且行且盡善
    浙江人大(2014年5期)2014-03-20 16:20:25
    国产伦理片在线播放av一区| 国产老妇伦熟女老妇高清| 又大又黄又爽视频免费| 国产精品99久久久久久久久| 别揉我奶头 嗯啊视频| 午夜老司机福利剧场| 亚洲最大成人av| 日本wwww免费看| 91久久精品电影网| 欧美激情国产日韩精品一区| 十八禁国产超污无遮挡网站| 99热全是精品| 毛片一级片免费看久久久久| 天堂√8在线中文| 看非洲黑人一级黄片| 日本-黄色视频高清免费观看| 精品少妇黑人巨大在线播放| 国产免费又黄又爽又色| 国产亚洲一区二区精品| 午夜福利在线观看吧| 成人漫画全彩无遮挡| 少妇熟女aⅴ在线视频| 国产精品久久久久久久久免| 视频中文字幕在线观看| 欧美日韩在线观看h| 日韩欧美 国产精品| 国产午夜精品一二区理论片| 99久久人妻综合| 老司机影院成人| 国产精品一及| 人人妻人人澡欧美一区二区| 九九在线视频观看精品| 97超碰精品成人国产| 免费黄频网站在线观看国产| 国产69精品久久久久777片| 插阴视频在线观看视频| 超碰av人人做人人爽久久| 国产欧美另类精品又又久久亚洲欧美| 美女大奶头视频| 日韩欧美 国产精品| 伦理电影大哥的女人| 免费观看精品视频网站| 亚洲人成网站在线播| 久久99热6这里只有精品| 一区二区三区乱码不卡18| 噜噜噜噜噜久久久久久91| 亚洲熟女精品中文字幕| 国产爱豆传媒在线观看| 国产高清不卡午夜福利| 欧美+日韩+精品| 精品一区二区三卡| 亚洲精品乱码久久久v下载方式| 少妇人妻精品综合一区二区| 97热精品久久久久久| 91av网一区二区| 一级毛片aaaaaa免费看小| 国产亚洲精品久久久com| 国产精品人妻久久久影院| 午夜福利在线在线| 小蜜桃在线观看免费完整版高清| 最近2019中文字幕mv第一页| 69人妻影院| 国产精品一及| 在线天堂最新版资源| 在线播放无遮挡| 啦啦啦韩国在线观看视频| 亚洲精品国产av蜜桃| 国产麻豆成人av免费视频| 插阴视频在线观看视频| 国产黄片视频在线免费观看| 亚洲最大成人av| or卡值多少钱| 日韩强制内射视频| 在线免费观看的www视频| 亚洲欧美成人综合另类久久久| 97人妻精品一区二区三区麻豆| 日本与韩国留学比较| 亚洲精品乱码久久久久久按摩| av网站免费在线观看视频 | 肉色欧美久久久久久久蜜桃 | 三级国产精品欧美在线观看| 水蜜桃什么品种好| 亚洲国产最新在线播放| 丝袜美腿在线中文| 国产精品女同一区二区软件| 丰满人妻一区二区三区视频av| 男人舔女人下体高潮全视频| av免费观看日本| 亚洲伊人久久精品综合| 男女国产视频网站| 成人漫画全彩无遮挡| 能在线免费看毛片的网站| 久久99热这里只频精品6学生| 乱人视频在线观看| 九色成人免费人妻av| 国产 亚洲一区二区三区 | 黄片无遮挡物在线观看| 91久久精品电影网| 日本黄大片高清| 精品国产一区二区三区久久久樱花 | 国产精品熟女久久久久浪| 69av精品久久久久久| 男女国产视频网站| 日韩三级伦理在线观看| 精品国产三级普通话版| 免费播放大片免费观看视频在线观看| 欧美bdsm另类| 2021天堂中文幕一二区在线观| 网址你懂的国产日韩在线| 日韩,欧美,国产一区二区三区| 搞女人的毛片| 亚洲性久久影院| 人人妻人人看人人澡| 欧美变态另类bdsm刘玥| 日韩电影二区| 99热这里只有是精品50| 国产久久久一区二区三区| 秋霞在线观看毛片| 日本爱情动作片www.在线观看| 最近视频中文字幕2019在线8| 夫妻午夜视频| 国产精品人妻久久久影院| 亚洲av免费在线观看| 国产成人免费观看mmmm| 最近最新中文字幕免费大全7| 久久久成人免费电影| 国产精品福利在线免费观看| 国产熟女欧美一区二区| 国产探花极品一区二区| 国产伦精品一区二区三区四那| 欧美成人午夜免费资源| 麻豆成人午夜福利视频| 日日摸夜夜添夜夜爱| or卡值多少钱| 日韩欧美三级三区| 男人舔女人下体高潮全视频| freevideosex欧美| 久久久午夜欧美精品| 久久鲁丝午夜福利片| 久久久久久久久久成人| 黄色配什么色好看| 成人亚洲精品一区在线观看 | 日韩av不卡免费在线播放| 午夜日本视频在线| 少妇人妻一区二区三区视频| 2021天堂中文幕一二区在线观| 欧美日韩精品成人综合77777| 3wmmmm亚洲av在线观看| www.色视频.com| 亚洲av福利一区| 有码 亚洲区| 嫩草影院精品99| 一区二区三区四区激情视频| 色播亚洲综合网| 18禁裸乳无遮挡免费网站照片| 精品一区二区三区视频在线| 一级黄片播放器| 青春草国产在线视频| 国产69精品久久久久777片| 久久久久久久大尺度免费视频| 亚洲人成网站在线播| 国产大屁股一区二区在线视频| 免费人成在线观看视频色| 啦啦啦韩国在线观看视频| 亚洲人成网站在线观看播放| 国产精品不卡视频一区二区| 成人欧美大片| 成人高潮视频无遮挡免费网站| 国产av码专区亚洲av| 边亲边吃奶的免费视频| 午夜福利高清视频| 人人妻人人澡欧美一区二区| 少妇被粗大猛烈的视频| 色吧在线观看| 五月天丁香电影| 久久午夜福利片| 老司机影院成人| 97精品久久久久久久久久精品| 人妻系列 视频| 中文字幕免费在线视频6| 国产色爽女视频免费观看| 成人欧美大片| 麻豆成人av视频| 国产白丝娇喘喷水9色精品| 亚洲第一区二区三区不卡| 午夜日本视频在线| eeuss影院久久| 亚洲伊人久久精品综合| 2018国产大陆天天弄谢| 在线观看美女被高潮喷水网站| 亚洲欧美日韩卡通动漫| 18禁裸乳无遮挡免费网站照片| 日韩亚洲欧美综合| 色视频www国产| 国产在线一区二区三区精| 成人美女网站在线观看视频| 免费av观看视频| 成年版毛片免费区| 久久亚洲国产成人精品v| 伦精品一区二区三区| 国产精品一区二区在线观看99 | 婷婷色综合大香蕉| 七月丁香在线播放| 淫秽高清视频在线观看| 校园人妻丝袜中文字幕| 麻豆av噜噜一区二区三区| 欧美成人精品欧美一级黄| 精品99又大又爽又粗少妇毛片| 国产成人精品一,二区| 少妇熟女aⅴ在线视频| 麻豆成人av视频| 国内精品一区二区在线观看| 久久久久国产网址| 三级经典国产精品| 人妻制服诱惑在线中文字幕| 免费无遮挡裸体视频| 99久久九九国产精品国产免费| 国产精品1区2区在线观看.| av天堂中文字幕网| 国产高清不卡午夜福利| 永久网站在线| ponron亚洲| 热99在线观看视频| 床上黄色一级片| 最后的刺客免费高清国语| 免费在线观看成人毛片| 丝袜喷水一区| 精品少妇黑人巨大在线播放| 亚洲第一区二区三区不卡| 只有这里有精品99| 国产欧美另类精品又又久久亚洲欧美| 午夜亚洲福利在线播放| 最近手机中文字幕大全| 人妻系列 视频| 日韩欧美国产在线观看| 中国美白少妇内射xxxbb| 插逼视频在线观看| 亚洲自拍偷在线| 亚洲美女视频黄频| 国产男人的电影天堂91| 亚洲最大成人av| 国产在视频线精品| 蜜桃亚洲精品一区二区三区| 一级爰片在线观看| 不卡视频在线观看欧美| 国产免费一级a男人的天堂| 欧美bdsm另类| 色哟哟·www| 97热精品久久久久久| 天堂俺去俺来也www色官网 | 99热这里只有是精品50| 中文资源天堂在线| 中文天堂在线官网| 免费高清在线观看视频在线观看| 国内揄拍国产精品人妻在线| 国产成人91sexporn| 欧美zozozo另类| 欧美高清性xxxxhd video| 大香蕉久久网| 久久精品夜夜夜夜夜久久蜜豆| 精品久久国产蜜桃| 最近的中文字幕免费完整| 中文字幕久久专区| 日本免费在线观看一区| 久久精品国产自在天天线| 国产黄色小视频在线观看| 免费黄色在线免费观看| 中文字幕久久专区| 国产午夜福利久久久久久| 色综合亚洲欧美另类图片| 校园人妻丝袜中文字幕| 久久精品夜色国产| 国产精品麻豆人妻色哟哟久久 | 国产精品av视频在线免费观看| 色哟哟·www| 六月丁香七月| 少妇人妻精品综合一区二区| 国产单亲对白刺激| 在线观看人妻少妇| 久久亚洲国产成人精品v| 欧美激情久久久久久爽电影| av在线蜜桃| 国产黄频视频在线观看| 一级毛片我不卡| 国产av国产精品国产| 成人性生交大片免费视频hd| 精品99又大又爽又粗少妇毛片| 亚洲av成人精品一区久久| 在线播放无遮挡| 国产老妇女一区| 亚洲欧美精品专区久久| 亚洲综合色惰| 最近中文字幕高清免费大全6| 男人爽女人下面视频在线观看| 中文字幕制服av| 成年女人在线观看亚洲视频 | 欧美一级a爱片免费观看看| h日本视频在线播放| 亚洲激情五月婷婷啪啪| av又黄又爽大尺度在线免费看| 精品久久久久久久末码| 国产亚洲一区二区精品| 亚洲av成人精品一区久久| 成人高潮视频无遮挡免费网站| 神马国产精品三级电影在线观看| 久久久成人免费电影| 欧美日韩视频高清一区二区三区二| 在现免费观看毛片| 熟妇人妻不卡中文字幕| 国产精品人妻久久久久久| 国产高清不卡午夜福利| 深夜a级毛片| 久久久久久久午夜电影| 国内精品宾馆在线| 免费黄网站久久成人精品| 久久久久久久久中文| 高清午夜精品一区二区三区| 又大又黄又爽视频免费| 国产亚洲午夜精品一区二区久久 | av又黄又爽大尺度在线免费看| 丝袜美腿在线中文| 三级国产精品片| 青春草视频在线免费观看| 亚洲成人av在线免费| 哪个播放器可以免费观看大片| 国产综合精华液| 乱系列少妇在线播放| 欧美一级a爱片免费观看看| 九九在线视频观看精品| 99久久精品热视频| 一二三四中文在线观看免费高清| 国产精品伦人一区二区| 国产又色又爽无遮挡免| 亚洲欧美精品自产自拍| 久久久国产一区二区| 国产乱来视频区| 国产有黄有色有爽视频| 少妇的逼好多水| 亚洲aⅴ乱码一区二区在线播放| 99热6这里只有精品| 亚洲在线观看片| 国产精品久久久久久久电影| 亚洲伊人久久精品综合| 丝袜美腿在线中文| 亚洲国产成人一精品久久久| 一个人看视频在线观看www免费| 日本与韩国留学比较| 搡老妇女老女人老熟妇| 久久人人爽人人片av| 亚洲欧美成人精品一区二区| 国产免费一级a男人的天堂| 国产成人免费观看mmmm| 成人无遮挡网站| 中文字幕免费在线视频6| 欧美激情久久久久久爽电影| 久久99蜜桃精品久久| 亚洲av一区综合| 99热这里只有是精品在线观看| 欧美高清成人免费视频www| 国产亚洲5aaaaa淫片| 亚洲综合色惰| 国国产精品蜜臀av免费| 久久久久网色| 成年免费大片在线观看| 赤兔流量卡办理| 国产精品久久久久久久电影| 哪个播放器可以免费观看大片| 青春草亚洲视频在线观看| 国产69精品久久久久777片| 国产伦在线观看视频一区| 久久国产乱子免费精品| 国产黄片视频在线免费观看| 欧美 日韩 精品 国产| 色综合色国产| 国产 一区精品| 欧美一区二区亚洲| 天堂俺去俺来也www色官网 | 男女啪啪激烈高潮av片| 国产高清国产精品国产三级 | 97人妻精品一区二区三区麻豆| 最近中文字幕高清免费大全6| 晚上一个人看的免费电影| 欧美激情久久久久久爽电影| 男人舔女人下体高潮全视频| 大片免费播放器 马上看| 久久精品国产亚洲av天美| 成人亚洲欧美一区二区av| 爱豆传媒免费全集在线观看| 日韩亚洲欧美综合| 中文字幕av在线有码专区| 亚洲精品日韩在线中文字幕| 最近视频中文字幕2019在线8| 嘟嘟电影网在线观看| 黄色配什么色好看| 精品国产三级普通话版| 大片免费播放器 马上看| 精品人妻一区二区三区麻豆| 亚洲成人av在线免费| 麻豆国产97在线/欧美| 能在线免费观看的黄片| 国产午夜精品一二区理论片| 亚洲精品亚洲一区二区| 久久久精品欧美日韩精品| a级毛色黄片| 极品少妇高潮喷水抽搐| 黄色日韩在线| 最近最新中文字幕免费大全7| 大香蕉97超碰在线| 联通29元200g的流量卡| 国内精品美女久久久久久| 国产黄a三级三级三级人| 三级毛片av免费| 日韩,欧美,国产一区二区三区| 日韩精品有码人妻一区| 欧美成人a在线观看| 成年av动漫网址| 人体艺术视频欧美日本| 又粗又硬又长又爽又黄的视频| 精品一区二区三区视频在线| 国产激情偷乱视频一区二区| 久久久午夜欧美精品| 日本爱情动作片www.在线观看| 精品99又大又爽又粗少妇毛片| 国产熟女欧美一区二区| 97在线视频观看| 色视频www国产| 亚洲av免费高清在线观看| 极品教师在线视频| 肉色欧美久久久久久久蜜桃 | 亚洲自偷自拍三级| 女人被狂操c到高潮| 美女脱内裤让男人舔精品视频| 久久久国产一区二区| 亚洲精品国产av蜜桃| 日本-黄色视频高清免费观看| 我要看日韩黄色一级片| 伊人久久国产一区二区| 国产黄色免费在线视频| videossex国产| 国产免费又黄又爽又色| 亚洲真实伦在线观看| 精品久久久久久久末码| 青春草视频在线免费观看| 91午夜精品亚洲一区二区三区| 国语对白做爰xxxⅹ性视频网站| 亚洲精华国产精华液的使用体验| 亚洲真实伦在线观看| 久久99热这里只频精品6学生| 亚洲精品乱码久久久v下载方式| 国产熟女欧美一区二区| 午夜激情久久久久久久| 在现免费观看毛片| 99久久精品一区二区三区| 亚洲精品,欧美精品| 久久6这里有精品| 高清在线视频一区二区三区| 边亲边吃奶的免费视频| 国产高清国产精品国产三级 | 欧美日韩一区二区视频在线观看视频在线 | 欧美区成人在线视频| 国产黄片美女视频| 久久精品夜夜夜夜夜久久蜜豆| 国产黄片视频在线免费观看| 2021少妇久久久久久久久久久| 尤物成人国产欧美一区二区三区| 全区人妻精品视频| 777米奇影视久久| 乱系列少妇在线播放| 国产又色又爽无遮挡免| 亚洲欧美精品专区久久| 亚洲国产精品成人综合色| 如何舔出高潮| 波野结衣二区三区在线| 99热网站在线观看| 久久久色成人| 天堂av国产一区二区熟女人妻| 国产极品天堂在线| 久久6这里有精品| 在线观看人妻少妇| av.在线天堂| 一边亲一边摸免费视频| 麻豆乱淫一区二区| 国产精品99久久久久久久久| 国产一区二区在线观看日韩| 一本久久精品| 国产探花极品一区二区| 噜噜噜噜噜久久久久久91| av线在线观看网站| 国产亚洲5aaaaa淫片| 美女内射精品一级片tv| 久久久久免费精品人妻一区二区| 精品午夜福利在线看| 午夜福利成人在线免费观看| 亚洲av日韩在线播放| 国产综合精华液| 亚洲在线观看片| 国产一区二区三区av在线| 欧美激情在线99| 午夜精品一区二区三区免费看| 国产av在哪里看| 久久久久九九精品影院| 久久久欧美国产精品| 色综合亚洲欧美另类图片| 少妇人妻精品综合一区二区| 精品酒店卫生间| 少妇的逼好多水| 午夜精品国产一区二区电影 | 国产69精品久久久久777片| 国产一级毛片七仙女欲春2| 亚洲av一区综合| 啦啦啦韩国在线观看视频| 日本wwww免费看| 麻豆乱淫一区二区| 精品一区二区三区人妻视频| 女人十人毛片免费观看3o分钟| 丰满人妻一区二区三区视频av| 大香蕉97超碰在线| 伦理电影大哥的女人| 舔av片在线| 美女被艹到高潮喷水动态| 少妇丰满av| 99热全是精品| 国产精品一区二区性色av| 国产成人a∨麻豆精品| 国产精品不卡视频一区二区| 欧美精品国产亚洲| videos熟女内射| 国产一区二区在线观看日韩| 午夜爱爱视频在线播放| 成年版毛片免费区| 综合色av麻豆| 成人美女网站在线观看视频| 热99在线观看视频| 久久精品久久久久久久性| 日日啪夜夜撸| 18禁裸乳无遮挡免费网站照片| 成人亚洲精品一区在线观看 | 老师上课跳d突然被开到最大视频| 婷婷六月久久综合丁香| 九九爱精品视频在线观看| eeuss影院久久| 国产精品一二三区在线看| 久久久午夜欧美精品| 久久99热6这里只有精品| 日韩精品青青久久久久久| 亚洲最大成人手机在线| 最近中文字幕2019免费版| 在线观看免费高清a一片| h日本视频在线播放| 日韩av在线大香蕉| 欧美不卡视频在线免费观看| 女人十人毛片免费观看3o分钟| 人妻制服诱惑在线中文字幕| 一夜夜www| 免费大片黄手机在线观看| 亚洲av一区综合| 欧美激情国产日韩精品一区| 我要看日韩黄色一级片| 国产欧美日韩精品一区二区| 国产一区亚洲一区在线观看| 久久久久久久大尺度免费视频| 日本与韩国留学比较| 久久精品夜色国产| 成人毛片a级毛片在线播放| 六月丁香七月| 网址你懂的国产日韩在线| 国产av国产精品国产| 免费无遮挡裸体视频| 少妇猛男粗大的猛烈进出视频 | 伊人久久精品亚洲午夜| 91久久精品国产一区二区三区| 成人美女网站在线观看视频| 亚洲精品色激情综合| 又爽又黄a免费视频| 3wmmmm亚洲av在线观看| 成人二区视频| 亚洲自拍偷在线| 嘟嘟电影网在线观看| 免费看a级黄色片| 一级黄片播放器| 亚洲精品亚洲一区二区| 一本久久精品| 亚洲国产高清在线一区二区三| 一级毛片我不卡| av福利片在线观看| 性插视频无遮挡在线免费观看| 成人高潮视频无遮挡免费网站| 搡老妇女老女人老熟妇| 日日摸夜夜添夜夜添av毛片| 激情五月婷婷亚洲| 尾随美女入室| 欧美一区二区亚洲| 中国美白少妇内射xxxbb| 男女边吃奶边做爰视频| 天堂网av新在线| 久久人人爽人人爽人人片va| 最近最新中文字幕大全电影3| 亚洲av免费在线观看| 成人美女网站在线观看视频| 国产精品一区二区三区四区久久| 亚洲在线观看片| 亚洲国产欧美人成| 国产午夜精品一二区理论片| 国产一区二区亚洲精品在线观看| 日韩一区二区视频免费看| 国产精品日韩av在线免费观看| 午夜视频国产福利| 激情五月婷婷亚洲| 亚洲国产日韩欧美精品在线观看| 一级二级三级毛片免费看| 免费看光身美女| 国产黄片视频在线免费观看| 国产毛片a区久久久久| av卡一久久| 日本免费在线观看一区|