• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于ANP的科技計劃項目績效評價方法*

    2017-08-31 12:55:03杜元偉王素素
    關(guān)鍵詞:績效評價指標(biāo)體系成果

    杜元偉 王素素 楊 寧

    (中國海洋大學(xué) 管理學(xué)院,山東 青島 266100)

    基于ANP的科技計劃項目績效評價方法*

    杜元偉 王素素 楊 寧

    (中國海洋大學(xué) 管理學(xué)院,山東 青島 266100)

    為了解決科技計劃項目績效評價在指標(biāo)體系上尚未形成統(tǒng)一規(guī)范、在評價方法上尚未考慮指標(biāo)之間作用關(guān)系對績效評價結(jié)果影響的問題,首先從項目執(zhí)行情況、項目取得成果、成果轉(zhuǎn)化應(yīng)用、人才培養(yǎng)情況、應(yīng)用前景情況等方面構(gòu)建了科技計劃項目績效評價指標(biāo)體系,然后通過分析指標(biāo)之間的相互作用關(guān)系提出了科技計劃項目績效評價的系統(tǒng)分析結(jié)構(gòu),在此基礎(chǔ)上采用網(wǎng)絡(luò)分析法給出了科技計劃項目績效評價的方法步驟,突破了傳統(tǒng)方法要求指標(biāo)之間相互獨立的條件限制。最后應(yīng)用提出方法對山東省科技計劃項目進(jìn)行案例模擬求解,得到了案例項目的績效評價排序。

    科技計劃項目;績效評價方法;網(wǎng)絡(luò)分析法;評價指標(biāo)體系

    一、引言

    科技計劃項目是為解決當(dāng)前階段所面臨的復(fù)雜科學(xué)與技術(shù)問題,由政府部門制定研究與試驗工作計劃,個人或單位以項目形式申報承擔(dān)并在一定時間內(nèi)完成的科學(xué)技術(shù)研究開發(fā)活動。國家科技部、財政部和發(fā)展改革委于2016年聯(lián)合發(fā)布了《科技評估工作規(guī)定(試行)辦法》,其中明確了對科技計劃項目進(jìn)行績效評價的重要作用,指出績效評價能夠為科技計劃項目的滾動實施、促進(jìn)科研成果的轉(zhuǎn)化和應(yīng)用、完善科技管理的追蹤問責(zé)提供有力依據(jù)。對科技計劃項目績效進(jìn)行評價已成為“十三五”科技體制改革的重要內(nèi)容。

    近年來國內(nèi)外專家學(xué)者圍繞著科技計劃項目的管理模式、評價方法、信息化等專題進(jìn)行了大量研究,也獲得了頗為豐碩的成果,[1-3]如在管理模式方面提出了知識資本管理模式、全過程管理平臺模式、項目生命周期管理等模式;在評價方法方面提出了同行評議、權(quán)威決策、行政拍板、層次分析法、目標(biāo)規(guī)劃法等定性或定量方法;在管理信息化方面提出了項目管理信息化、專家管理信息化,以及科研成果管理信息化等觀點。雖然上述成果對本項研究具有一定的借鑒意義,但是它們更多的是從項目立項和過程控制層面展開的,無論是在評價指標(biāo)選擇方面還是在評價方法構(gòu)建方面都不能直接應(yīng)用于解決科技計劃項目績效評價問題。[4]值得慶幸的是,近幾年開始有學(xué)者注意到科技計劃項目的績效評價問題,并從國家和地方兩個層面進(jìn)行了一定程度的探討。在國家層面上,萬紅波、康明玉通過分析國家科技計劃項目的特點、對象和內(nèi)容,從項目投入、過程、產(chǎn)出、效果等方面建立了適用于國家科技計劃項目績效評價的指標(biāo)體系;[5]楊道建、趙喜倉、陳海波從人員、學(xué)術(shù)、社會、經(jīng)濟(jì)等方面建立了科技計劃項目績效評價指標(biāo)體系,并指出在評價過程中應(yīng)注意靜態(tài)評價與動態(tài)評價相結(jié)合以及建立有效反饋機制等問題;[6]宋東林、付丙海、唐恒基于全生命周期視角從項目的立項、實施、結(jié)題驗收、成果轉(zhuǎn)化四個階段選取指標(biāo),建立了開展科技計劃項目過程管理的評價指標(biāo)體系。[7]在地方層面上,王建國、李海波等從應(yīng)用績效、研究水平、保障能力等方面探討了用于評價山東省軟科學(xué)研究機構(gòu)運行效率的評價指標(biāo)體系;[8]高寶森構(gòu)建了適用于內(nèi)蒙古自治區(qū)的科技計劃項目績效評價指標(biāo)體系及評價方法;[9]張小菁將地方科技計劃項目劃分為技術(shù)開發(fā)類和科技支撐類,并從效益和管理兩個方面構(gòu)建了績效評價指標(biāo)體系和評價模型。[10]

    不難發(fā)現(xiàn),無論是在國家層面上還是地方層面上,現(xiàn)有研究成果在科技計劃項目績效評價指標(biāo)方面眾說紛紜、尚未形成統(tǒng)一規(guī)范,在評價方法上都假設(shè)所構(gòu)建的評價指標(biāo)之間相互獨立、尚未考慮指標(biāo)之間作用關(guān)系對績效評價結(jié)果的影響問題。有鑒于此,本文在提出科技計劃項目績效評價指標(biāo)體系的基礎(chǔ)上,基于網(wǎng)絡(luò)分析法(Analytic Network Process,ANP)構(gòu)建了科技計劃項目績效評價方法。

    二、科技計劃項目績效評價指標(biāo)體系

    考慮到科技計劃項目的績效評價指標(biāo)既要全面綜合地反映項目整體運行情況,發(fā)揮財政宏觀調(diào)控的導(dǎo)向作用和相關(guān)政策的激勵作用,又要提升評價指標(biāo)的可操作性、降低評價成本、提高數(shù)據(jù)的可獲取性。[11-13]正因如此,科技計劃項目績效評價指標(biāo)的選擇要遵循系統(tǒng)性、導(dǎo)向性、可操作性、數(shù)據(jù)易獲性等原則。其中,系統(tǒng)性是指設(shè)置的評價指標(biāo)要從不同視角全面而綜合地反映科技計劃項目績效的表現(xiàn)情況;導(dǎo)向性是指評價指標(biāo)應(yīng)有利于激勵科技計劃項目產(chǎn)出與政策導(dǎo)向相符的研究成果;可操作性是指評價指標(biāo)應(yīng)簡單明了、內(nèi)涵清晰并易于開展評價,數(shù)據(jù)易獲性是指評價指標(biāo)能夠在一定程度上對項目績效進(jìn)行有效的定量評價。[14]遵循上述指標(biāo)識別原則,在借鑒國內(nèi)外相關(guān)研究成果的基礎(chǔ)上,從項目執(zhí)行情況、項目取得成果、成果轉(zhuǎn)化應(yīng)用、人才培養(yǎng)情況、應(yīng)用前景情況進(jìn)行科技計劃項目績效評價指標(biāo)體系的設(shè)計。其中,項目執(zhí)行情況評價的是與項目立項時在申請書或任務(wù)書中制定的計劃相比,項目在結(jié)題時對該計劃的執(zhí)行情況;項目取得成果指標(biāo)評價的是項目中產(chǎn)出的成果的數(shù)量、質(zhì)量等相關(guān)情況;成果轉(zhuǎn)化應(yīng)用指標(biāo)評價的是項目產(chǎn)出成果的轉(zhuǎn)化及應(yīng)用情況;人才培養(yǎng)情況評價的是待評項目在對中青年學(xué)科帶頭人、出站博士后、畢業(yè)博士,以及畢業(yè)碩士的培養(yǎng)方面的貢獻(xiàn)情況;應(yīng)用前景情況評價的是待評項目產(chǎn)出的成果在各個方面做出貢獻(xiàn)的程度。在借鑒包括國家自然科學(xué)基金、國家社科基金績效評價等在內(nèi)的眾多國內(nèi)外相關(guān)研究成果的基礎(chǔ)上,[15-17]本文構(gòu)建的科技計劃項目績效評價指標(biāo)體系具體如表1所示。

    表1 科技計劃項目績效評價指標(biāo)體系

    三、考慮指標(biāo)間作用關(guān)系的系統(tǒng)分析結(jié)構(gòu)

    科技計劃項目的績效評價指標(biāo)可以歸類為項目執(zhí)行情況、項目取得成果、成果應(yīng)用轉(zhuǎn)化等五個層面的指標(biāo)集,但這些指標(biāo)集及其所含指標(biāo)之間并不是完全獨立、互不影響的,而是存在著相互影響和相互作用的關(guān)系。

    項目執(zhí)行情況下設(shè)按計劃執(zhí)行情況與研究目標(biāo)完成情況兩個二級指標(biāo),分別評價項目計劃的完成度與目標(biāo)的完成度。顯然,獲獎情況、論文與專著、中青年學(xué)術(shù)帶頭人等其他12個二級指標(biāo)的預(yù)期目標(biāo)都應(yīng)在項目計劃書中有所體現(xiàn),所以按計劃執(zhí)行情況與研究目標(biāo)完成情況對其他12個二級指標(biāo)都有影響。

    項目取得成果下設(shè)獲獎情況、論文與專著、學(xué)術(shù)報告三個二級指標(biāo),主要評價項目產(chǎn)出的成果、成果獲獎,以及因項目參加或舉辦學(xué)術(shù)會議而作出學(xué)術(shù)報告的情況。項目在這三方面取得的成果能夠體現(xiàn)項目部分計劃與目標(biāo)的完成情況,也有助于培養(yǎng)人才,擴大成果影響力,促進(jìn)成果應(yīng)用轉(zhuǎn)化,提高項目成果在學(xué)術(shù)、經(jīng)濟(jì)、社會等方面的貢獻(xiàn)程度。另外,項目獲獎情況對作出學(xué)術(shù)報告具有推動作用,論文與專著的產(chǎn)出作為項目獲獎的依據(jù)之一會影響項目的獲獎情況,學(xué)術(shù)報告的水平也可能會影響項目獲獎情況。

    成果轉(zhuǎn)化應(yīng)用下設(shè)專利、標(biāo)準(zhǔn)、軟著,技術(shù)轉(zhuǎn)讓、技術(shù)許可,作價投資、經(jīng)濟(jì)效益三個二級指標(biāo),主要評價項目成果向技術(shù)應(yīng)用和經(jīng)濟(jì)效益轉(zhuǎn)化的情況。上述三方面的成果轉(zhuǎn)化應(yīng)用情況作為項目計劃與目標(biāo)的一部分必然對項目執(zhí)行情況產(chǎn)生影響,成果轉(zhuǎn)化應(yīng)用情況的好壞作為項目獲獎的依據(jù)之一對項目獲獎情況也有影響,成果轉(zhuǎn)化應(yīng)用的程度對項目參與人員的科研能力提出了要求,并決定了項目在經(jīng)濟(jì)發(fā)展、社會建設(shè)方面的貢獻(xiàn)程度。另外,專利、標(biāo)準(zhǔn)、軟著作為技術(shù)或成果的載體影響著技術(shù)轉(zhuǎn)讓、作價投資等指標(biāo),并且對學(xué)術(shù)研究與發(fā)展起到了促進(jìn)作用。

    人才培養(yǎng)情況下設(shè)中青年學(xué)科帶頭人、出站博士后與畢業(yè)博士、畢業(yè)碩士三個二級指標(biāo),主要評價項目在人才培養(yǎng)方面的貢獻(xiàn)情況。上述三方面的人才作為科技計劃項目的具體設(shè)計者與實施者,會對項目的各個方面都有影響,特別是中青年學(xué)科帶頭人一般會作為科技計劃項目組的負(fù)責(zé)人,對項目任務(wù)的分配、項目成果質(zhì)量的把關(guān)、項目創(chuàng)新性的引導(dǎo)負(fù)主要責(zé)任,從而對其領(lǐng)導(dǎo)下的博士后、博士、碩士等人才的培養(yǎng)發(fā)揮作用。

    應(yīng)用前景情況下設(shè)應(yīng)用于學(xué)術(shù)研究、應(yīng)用于經(jīng)濟(jì)發(fā)展、應(yīng)用于社會建設(shè)三個二級指標(biāo),主要評價項目成果在學(xué)術(shù)、經(jīng)濟(jì)、社會等方面作出貢獻(xiàn)的程度。項目成果在學(xué)術(shù)、經(jīng)濟(jì)、社會三個方面作出貢獻(xiàn)的程度作為項目計劃和目標(biāo)的一部分對項目執(zhí)行情況存在影響,這些應(yīng)用前景對項目取得成果和人才培養(yǎng)起到了一定的引導(dǎo)和促進(jìn)的作用,項目在經(jīng)濟(jì)、社會方面的貢獻(xiàn)程度對促進(jìn)成果應(yīng)用、轉(zhuǎn)化為經(jīng)濟(jì)效益也起到了推動作用。另外學(xué)術(shù)、經(jīng)濟(jì)、社會本身是相互作用、相互影響的,所以項目在這三方面作出的貢獻(xiàn)也會相互影響。

    本文根據(jù)上述指標(biāo)間作用關(guān)系構(gòu)建科技計劃項目績效評價的系統(tǒng)分析結(jié)構(gòu),具體如圖1所示。需要說明的是,圖中單向箭頭如“A→B”表示A會對B產(chǎn)生影響,弧形箭頭表示指標(biāo)集的內(nèi)部元素之間可能會相互影響,雙向箭頭代表其連接的兩個指標(biāo)集之間會相互影響。

    圖1 系統(tǒng)分析結(jié)構(gòu)圖

    四、科技計劃項目績效評價方法步驟

    對于科技計劃項目績效的評價方法,目前比較具有代表性的是層次分析法、德爾斐法、主成分分析法等,其中影響較大、應(yīng)用最多的是層次分析法(Analytic Hierarchy Process,AHP)。AHP方法的特點是能夠處理社會經(jīng)濟(jì)系統(tǒng)用數(shù)學(xué)模型無法進(jìn)行精確描述的復(fù)雜性問題,可以將復(fù)雜問題按照遞階層次結(jié)構(gòu)分解成若干個簡單問題,通過計算層次單排序和層次總排序?qū)溥x方案的綜合表現(xiàn)進(jìn)行排序。[18]需要注意的是,該方法的使用必須遵從一個基本前提即評價指標(biāo)之間是相互獨立的,倘若評價指標(biāo)之間并非相互獨立而是存在相互影響關(guān)系時則不能使用AHP方法進(jìn)行求解。由前文分析可知,科技計劃項目績效評價指標(biāo)體系中的各項指標(biāo)之間存在如圖1所示的關(guān)聯(lián)影響關(guān)系,顯然無法滿足指標(biāo)之間相互獨立的假設(shè)進(jìn)而導(dǎo)致AHP方法無法解決本文評價問題。

    ANP是Saaty教授于1996年在AHP的基礎(chǔ)上提出的一種新的評價方法,能夠基于兩兩比較思想對具有內(nèi)部依存和反饋效應(yīng)的復(fù)雜結(jié)構(gòu)進(jìn)行分析,并在充分考慮指標(biāo)之間作用影響關(guān)系的條件下求得元素(指標(biāo)或方案)的終極權(quán)重、作出更加科學(xué)的決策。正因如此,本文結(jié)合ANP方法在充分考慮指標(biāo)之間相互作用關(guān)系的基礎(chǔ)上構(gòu)建科技計劃項目的績效評價方法。[19-22]具體如下:

    步驟1:針對該評價問題構(gòu)建系統(tǒng)分析結(jié)構(gòu)。將項目執(zhí)行情況(C1)、項目取得成果(C2)、成果應(yīng)用轉(zhuǎn)化(C3)、人才培養(yǎng)情況(C4)、應(yīng)用前景情況(C5)等五項一級指標(biāo)視為元素集,與上述一級指標(biāo)對應(yīng)的二級指標(biāo)視為各元素集包含的元素,則可以根據(jù)前文對指標(biāo)之間作用關(guān)系的分析構(gòu)建出如圖1所示的系統(tǒng)分析結(jié)構(gòu)。

    步驟2:根據(jù)系統(tǒng)分析結(jié)構(gòu)構(gòu)造超矩陣。由圖1所示的系統(tǒng)分析結(jié)構(gòu)可知,元素集自身內(nèi)部可能存在依存關(guān)系、元素集之間可能存在相互影響關(guān)系。按照ANP方法的基本原理,對存在內(nèi)部依存關(guān)系的元素集需要構(gòu)造內(nèi)部依存矩陣,對存在影響關(guān)系的兩個元素集需要構(gòu)造能夠反映二者之間影響關(guān)系的影響矩陣。無論是內(nèi)部依存矩陣還是影響矩陣都需要采用1-9標(biāo)度并按照兩兩比較判斷矩陣的原理進(jìn)行構(gòu)造。

    對存在內(nèi)部依存關(guān)系的元素集構(gòu)造內(nèi)部依存矩陣。如:項目取得成果(C2)元素集存在內(nèi)部依存關(guān)系,首先分別以c21、c22、c23中的任意一個元素作為控制準(zhǔn)則,對受其影響的另外兩個元素按照影響程度的相對大小關(guān)系構(gòu)造判斷矩陣,然后對判斷矩陣進(jìn)行一致性檢驗,若一致性檢驗通過則該矩陣最大特征根對應(yīng)的歸一化特征向量即為在相應(yīng)控制準(zhǔn)則下的權(quán)重向量,最后將通過上述過程得到的與c21、c22、c23依次對應(yīng)的權(quán)重向量進(jìn)行組合即可得到C2元素集的內(nèi)部依存矩陣W22。

    對存在影響關(guān)系的兩個元素集構(gòu)造二者之間的影響矩陣。如:項目執(zhí)行情況(C1)元素集對項目取得成果(C2)元素集有影響,首先分別以隸屬于C1的元素c11、c12中任意一個為控制準(zhǔn)則,對C2中受相應(yīng)準(zhǔn)則影響的元素c21、c22、c23按照被影響程度的相對大小關(guān)系構(gòu)造判斷矩陣,然后對判斷矩陣進(jìn)行一致性檢驗,若一致性檢驗通過則該矩陣最大特征根對應(yīng)的歸一化特征向量即為在相應(yīng)控制準(zhǔn)則下的權(quán)重向量,最后將通過上述過程得到的與c11、c12依次對應(yīng)的權(quán)重向量進(jìn)行組合即可得到元素集C1對元素集C2作用后的影響矩陣W21。

    按照上述過程,對圖1中所有存在內(nèi)部依存關(guān)系的元素集構(gòu)造內(nèi)部依存矩陣,對所有存在影響關(guān)系的元素集構(gòu)造彼此之間的影響矩陣,將構(gòu)造的內(nèi)部依存矩陣和影響矩陣按照式(1)結(jié)構(gòu)進(jìn)行組合,便可得到科技計劃項目績效評價的超矩陣W。

    (1)

    步驟3:確定元素集權(quán)重矩陣。首先將Ci(i=1,…,5)作為控制準(zhǔn)則,對元素集C1、C2、C3、C4、C5中受其影響的元素集(因內(nèi)部依存關(guān)系可視為元素集自己對自己有影響故應(yīng)包含在內(nèi)),按照影響程度的相對大小關(guān)系構(gòu)造判斷矩陣,然后對判斷矩陣進(jìn)行一致性檢驗,若一致性檢驗通過則該矩陣最大特征根對應(yīng)的歸一化特征向量即為在相應(yīng)控制準(zhǔn)則下的各個元素集的權(quán)重向量,最后將通過上述過程得到的與C1、C2、C3、C4、C5依次對應(yīng)的權(quán)重向量進(jìn)行組合即可得到元素集權(quán)重矩陣B,具體如式(2)所示。

    (2)

    五、實證分析

    山東省科技計劃項目包括軟科學(xué)研究計劃、自然科學(xué)基金、自主創(chuàng)新及成果轉(zhuǎn)化專項、農(nóng)業(yè)科技成果轉(zhuǎn)化專項、重點研發(fā)計劃等十余類項目。在各級科技管理機構(gòu)的共同努力下,目前山東省科技計劃項目已經(jīng)形成了一套比較完善的評價體系和評價方法。如:《山東省軟科學(xué)研究項目應(yīng)用績效評審及后補助辦法》從研究的針對性、現(xiàn)實意義、應(yīng)用前景,成果應(yīng)用情況,成果出版、發(fā)表、引用、轉(zhuǎn)載情況,學(xué)術(shù)活動、人才培養(yǎng),獲獎情況等五個方面對軟科學(xué)項目進(jìn)行績效評審,規(guī)定由3-5位專家按照A(優(yōu)秀)、B(合格)、C(不合格)三個等級確定軟科學(xué)項目績效評價結(jié)果。《山東省自主創(chuàng)新及成果轉(zhuǎn)化專項驗收意見》強調(diào)自主創(chuàng)新項目成果的轉(zhuǎn)化情況,其績效評價主要從成果形式及水平、獲獎情況、研發(fā)人數(shù)、標(biāo)志性技術(shù)、經(jīng)濟(jì)社會效益、知識產(chǎn)權(quán)產(chǎn)出、人才與平臺建設(shè)、產(chǎn)業(yè)與區(qū)域輻射帶動作用、自身能力提升共九個方面進(jìn)行?!渡綎|省自然科學(xué)杰出青年基金管理暫行辦法》中規(guī)定獲資助者結(jié)題時需在論文、專著、人才項目、科技獲獎方面達(dá)到事先設(shè)定的目標(biāo),績效評價重點在項目、論文、專著等科研成果方面?!渡綎|省農(nóng)業(yè)良種工程績效考評辦法》則從科研業(yè)績、課題組組織管理、財政資金使用管理共三個方面對農(nóng)業(yè)良種工程項目進(jìn)行績效評價,規(guī)定課題組績效得分=科研業(yè)績×50%+組織管理×25%+資金使用×25%,其中的科研業(yè)績采取目標(biāo)任務(wù)與定量打分相結(jié)合的方式進(jìn)行評價。

    山東省科技計劃項目自實施以來對支撐山東省經(jīng)濟(jì)騰飛起到了重要作用,但也在績效評價過程中暴露出了評價指標(biāo)不統(tǒng)一、指標(biāo)權(quán)重不合理等問題。為了解決上述問題,山東省科技廳在軟科學(xué)研究計劃申報指南中發(fā)布了“山東省科技計劃項目績效評價研究”的重點項目需求,我們有幸申報并獲批了此項目。為此,本文以其中的軟科學(xué)研究計劃項目為例,利用本文構(gòu)建的指標(biāo)體系和評價方法開展模擬評價。具體過程如下:在項目研究的過程中邀請了四位曾經(jīng)參與山東省軟科學(xué)項目評審的同行專家,請他們依據(jù)圖1所示的系統(tǒng)分析結(jié)構(gòu),遵循前文方法的步驟2和步驟3在相互研討的基礎(chǔ)上共同構(gòu)造出超矩陣和元素集權(quán)重矩陣。根據(jù)他們給出的結(jié)果,按照方法步驟4計算了如表2所示的加權(quán)超矩陣。利用Super decisions軟件對加權(quán)超矩陣進(jìn)行極限求解,得到了如表3所示的能夠反映指標(biāo)之間作用影響關(guān)系的最終權(quán)重。

    表2 加權(quán)超矩陣

    表3 山東省軟科學(xué)研究項目績效評價指標(biāo)權(quán)重

    表4 評審專家對待評項目的評分

    六、結(jié)束語

    為了解決科技計劃項目績效評價在指標(biāo)體系上尚未形成統(tǒng)一規(guī)范、在評價方法上尚未考慮指標(biāo)之間作用關(guān)系對績效評價結(jié)果影響的問題,本文首先遵循系統(tǒng)性、導(dǎo)向性、可操作性、數(shù)據(jù)易獲性等原則,在參照相關(guān)研究成果的基礎(chǔ)上從項目執(zhí)行情況、項目取得成果、成果轉(zhuǎn)化應(yīng)用、人才培養(yǎng)情況、應(yīng)用前景情況等方面構(gòu)建了科技計劃項目績效評價指標(biāo)體系,然后通過分析指標(biāo)之間的相互作用關(guān)系提出了科技計劃項目績效評價的系統(tǒng)分析結(jié)構(gòu),在此基礎(chǔ)上采用能夠?qū)哂袃?nèi)部依存和反饋效應(yīng)的復(fù)雜結(jié)構(gòu)進(jìn)行系統(tǒng)評價的ANP方法給出了科技計劃項目績效評價的方法步驟,最后以山東省科技計劃項目為例進(jìn)行案例分析演示了應(yīng)用方法進(jìn)行實例評價的具體操作過程。本文的特色之處在于:一是所構(gòu)建的科技計劃項目績效評價指標(biāo)體系借鑒了包括國家自然科學(xué)基金、國家社科基金績效評價等在內(nèi)的眾多國內(nèi)外相關(guān)研究成果,能夠較為系統(tǒng)全面地反映科技計劃項目取得的績效情況。二是所提出的科技計劃項目績效評價方法突破了傳統(tǒng)方法要求指標(biāo)之間相互獨立的條件限制,能夠在考慮指標(biāo)之間相互作用關(guān)系的基礎(chǔ)上對科技計劃項目績效進(jìn)行更加科學(xué)的評價。需要說明的是,在以山東省科技計劃項目為例進(jìn)行案例分析時由專家分析獲取的指標(biāo)權(quán)重僅適用于山東省軟科學(xué)研究項目,而對于其他類型的科技計劃項目可以結(jié)合項目類別特征參照本文方法予以確定。

    [1] 宋東林, 葛蘇行. 我國科技計劃項目全生命周期過程管理模式研究[J]. 科學(xué)管理研究, 2010,(02):46-49.

    [2] 林成剛, 黃春榮, 謝剛, 等. 科技計劃項目的定量評價方法優(yōu)化探討[J]. 軟科學(xué), 2012,(07):52-53.

    [3] 蔡桂蘭, 陳麗麗. 省級科技計劃項目變更信息化管理中遇到問題及對策研究[J]. 科技管理研究, 2016,(22):46-50.

    [4] 張晨, 宋佳寧, 任文茜. 省級科技計劃項目管理的后評估研究——以安徽為例[J]. 科技管理研究, 2015,(22):172-175.

    [5] 萬紅波, 康明玉. 國家科技計劃項目績效評價指標(biāo)體系研究[J]. 社會科學(xué)管理與評論, 2013,(02):78-82.

    [6] 楊道建, 趙喜倉, 陳海波. 科技計劃項目績效評價指標(biāo)體系的構(gòu)建[J]. 江蘇大學(xué)學(xué)報(社會科學(xué)版), 2007,(02):89-92.

    [7] 宋東林, 付丙海, 唐恒. 基于全生命周期的科技計劃項目過程管理評價體系構(gòu)建[J]. 科學(xué)管理研究, 2011,29(01):32-36.

    [8] 王建國, 李海波, 丁其濤, 等. 中國軟科學(xué)研究機構(gòu)評估指標(biāo)體系構(gòu)建探討[J]. 科技管理研究, 2013,33(9):71-75.

    [9] 高寶森. 內(nèi)蒙古自治區(qū)財政科技項目支出績效評價研究[J]. 科學(xué)管理研究, 2012,(05):101-104.

    [10] 張小菁. 地方科技計劃項目績效評價研究[J]. 科技管理研究, 2010,(21):201-204.

    [11] 李寅秋, 孫洪武. 國際先進(jìn)農(nóng)業(yè)科技引進(jìn)類項目評價的思考[J]. 科研管理, 2013,(S1):78-83.

    [12] 張軍果, 任浩, 謝福泉. 項目后評價視角下的財政科技項目績效評估體系研究[J]. 科學(xué)學(xué)與科學(xué)技術(shù)管理, 2007,(02):14-20.

    [13] 田時中, 田淑英, 錢海燕. 財政科技支出項目績效評價指標(biāo)體系及方法[J]. 科研管理, 2015,(S1):365-370.

    [14] 施筱勇, 云楊, 計遲, 等. 科技項目績效評價指標(biāo)體系研究[J]. 科技管理研究, 2016,(10):39-43, 49.

    [15] 劉華海. 科研項目績效評價模型和指標(biāo)體系的構(gòu)建[J]. 科研管理, 2016,(S1):19-24.

    [16] 魏闕, 戴磊. 吉林省區(qū)域創(chuàng)新能力評價指標(biāo)體系研究[J]. 科研管理, 2015,(S1):22-28.

    [17] 駱嘉琪, 匡海波. 高??萍紕?chuàng)新團(tuán)隊科研資源績效評價指標(biāo)體系[J]. 科研管理, 2015,(S1):116-121.

    [18] 劉惠萍. 基于網(wǎng)絡(luò)層次分析法(ANP)的政府績效評估研究[J]. 科學(xué)學(xué)與科學(xué)技術(shù)管理, 2006,(06):111-115.

    [19] Chemweno P, Pintelon L, Van Horenbeek A, et al. Development of a risk assessment selection methodology for asset maintenance decision making: An analytic network process (ANP) approach[J]. International Journal of Production Economics, 2015,170, Part B:663-676.

    [20] Lee J W, Kim S H. An integrated approach for interdependent information system project selection[J]. International Journal of Project Management, 2001,19(2):111-118.

    [21] 杜元偉, 段萬春, 孫永河. 基于網(wǎng)絡(luò)分析法的企業(yè)節(jié)能減排績效評價方法[J]. 經(jīng)濟(jì)問題探索, 2012,(01):175-179.

    [22] 田波, 李春好, 孫永河. 網(wǎng)絡(luò)分析法在選擇企業(yè)創(chuàng)新合作成員中的應(yīng)用[J]. 情報科學(xué), 2008,(08):1257-1260.

    責(zé)任編輯:王明舜

    Performance Evaluation Method of Science and Technology Plan Project Based on ANP

    Du Yuanwei Wang Susu Yang Ning

    (College of Management, Ocean University of China, Qingdao 266100, China)

    There are two kinds of problems that a unified evaluation index system hasn't been formed and the effect on performance evaluation results by the relationship among indicators hasn't been considered in current performance evaluation method of the science and technology (S&T) plan project. In order to solve the abovementioned problems, the principles such as systematization, orientation, operability and data availability are used to construct the performance evaluation index system from the aspects of implementation, achievement, result transformation and application, talents cultivation, application prospect. Then, a system analysis structure for evaluating performances of S&T plan project is put forward by analyzing the interaction among indicators, based on which the steps of the performance evaluation method are given by using analytic network process. Finally, a case study of S&T plan project in Shandong province is taken as an example to detailedly demonstrate the operation procedure of the application method, and the performance ranking of case projects is obtained.

    Science and technology plan project; performance evaluation method; analytic network process; evaluation index system

    2017-05-10

    國家自然科學(xué)基金項目“大規(guī)模協(xié)作模式下產(chǎn)品動態(tài)連續(xù)創(chuàng)新決策方法:基于大數(shù)據(jù)驅(qū)動視角”(71462022);山東省軟科學(xué)研究計劃重點項目“山東省科技計劃項目績效評價研究”(2016RZE29001);中央高?;究蒲袠I(yè)務(wù)費專項“透明海洋驅(qū)動下海洋管理模式與評價方法研究”(201762026)

    杜元偉(1981- ),男,吉林白山人, 中國海洋大學(xué)管理學(xué)院教授,博士生導(dǎo)師,主要從事海洋管理、決策分析等研究。

    G311

    A

    1672-335X(2017)04-0027-07

    猜你喜歡
    績效評價指標(biāo)體系成果
    工大成果
    “走出去”成果斐然
    “健康照明”成果聚焦
    層次分析法在生態(tài)系統(tǒng)健康評價指標(biāo)體系中的應(yīng)用
    供給側(cè)改革指標(biāo)體系初探
    “三醫(yī)聯(lián)動”擴大醫(yī)改成果
    基于BSC的KPI績效評價體系探析
    中國商論(2016年33期)2016-03-01 01:59:53
    非營利組織績效評價體系的構(gòu)建
    氣象部門財政支出績效評價初探
    測土配方施肥指標(biāo)體系建立中‘3414
    99在线视频只有这里精品首页| 老司机午夜十八禁免费视频| 男人舔奶头视频| 亚洲最大成人中文| 丁香六月欧美| 在线看三级毛片| 亚洲va日本ⅴa欧美va伊人久久| 18美女黄网站色大片免费观看| 国内毛片毛片毛片毛片毛片| 国产亚洲欧美在线一区二区| www日本黄色视频网| 久久久久亚洲av毛片大全| 亚洲成av人片在线播放无| 国内揄拍国产精品人妻在线| 天堂√8在线中文| 真人做人爱边吃奶动态| 午夜精品一区二区三区免费看| 中文字幕av在线有码专区| 熟妇人妻久久中文字幕3abv| 777久久人妻少妇嫩草av网站| 999久久久精品免费观看国产| 亚洲国产高清在线一区二区三| 亚洲成人久久性| 国产高清视频在线播放一区| 欧美又色又爽又黄视频| 好男人电影高清在线观看| 国产av在哪里看| 日韩精品免费视频一区二区三区| 哪里可以看免费的av片| 一夜夜www| 欧美色视频一区免费| 国产麻豆成人av免费视频| 国产午夜精品久久久久久| 亚洲中文字幕一区二区三区有码在线看 | 香蕉av资源在线| 一进一出好大好爽视频| 黄色成人免费大全| 国产熟女xx| 午夜成年电影在线免费观看| 国产欧美日韩一区二区精品| 黄频高清免费视频| 哪里可以看免费的av片| 亚洲美女视频黄频| 国产精品影院久久| 动漫黄色视频在线观看| 韩国av一区二区三区四区| 国产v大片淫在线免费观看| 欧美黑人巨大hd| АⅤ资源中文在线天堂| 国产亚洲精品第一综合不卡| 中文亚洲av片在线观看爽| 欧美乱码精品一区二区三区| 特大巨黑吊av在线直播| 免费人成视频x8x8入口观看| 岛国视频午夜一区免费看| 国产亚洲精品第一综合不卡| 熟女电影av网| 国产成人精品久久二区二区免费| 欧美成人免费av一区二区三区| 嫁个100分男人电影在线观看| 欧美性猛交╳xxx乱大交人| 国产精品久久久人人做人人爽| 12—13女人毛片做爰片一| 99精品在免费线老司机午夜| 精品久久蜜臀av无| 男人的好看免费观看在线视频 | 禁无遮挡网站| АⅤ资源中文在线天堂| 成人高潮视频无遮挡免费网站| 久久伊人香网站| 狂野欧美白嫩少妇大欣赏| 色精品久久人妻99蜜桃| 免费看美女性在线毛片视频| 在线永久观看黄色视频| 国产精品综合久久久久久久免费| 欧美不卡视频在线免费观看 | 一级a爱片免费观看的视频| 黄色 视频免费看| 国产精品一区二区三区四区免费观看 | 国产在线观看jvid| 999精品在线视频| 一二三四在线观看免费中文在| 亚洲成av人片在线播放无| 伦理电影免费视频| aaaaa片日本免费| 18禁裸乳无遮挡免费网站照片| 中文字幕熟女人妻在线| 免费电影在线观看免费观看| 国产av在哪里看| 精品国产亚洲在线| 色老头精品视频在线观看| 男男h啪啪无遮挡| 高清在线国产一区| 免费在线观看亚洲国产| 欧美乱妇无乱码| 99国产精品一区二区蜜桃av| 久久精品综合一区二区三区| 日韩 欧美 亚洲 中文字幕| 波多野结衣高清无吗| 精品福利观看| 怎么达到女性高潮| 91大片在线观看| 欧美中文综合在线视频| 老司机午夜十八禁免费视频| 丝袜人妻中文字幕| 成人午夜高清在线视频| a级毛片a级免费在线| 午夜免费观看网址| 欧美日本亚洲视频在线播放| 999精品在线视频| 女同久久另类99精品国产91| 欧美 亚洲 国产 日韩一| 亚洲欧美日韩高清在线视频| 亚洲国产中文字幕在线视频| www国产在线视频色| 无人区码免费观看不卡| 午夜福利在线观看吧| 黄频高清免费视频| 成在线人永久免费视频| 欧美一区二区国产精品久久精品 | 亚洲精品美女久久av网站| 国产av一区二区精品久久| 国产精品香港三级国产av潘金莲| 久久欧美精品欧美久久欧美| 亚洲人成网站在线播放欧美日韩| 岛国在线观看网站| 搡老熟女国产l中国老女人| 99热这里只有是精品50| www.精华液| 91麻豆av在线| 欧美中文日本在线观看视频| 国产精品美女特级片免费视频播放器 | 动漫黄色视频在线观看| 国产精品亚洲一级av第二区| 白带黄色成豆腐渣| 91在线观看av| 脱女人内裤的视频| 精品久久久久久久久久免费视频| 伦理电影免费视频| 99久久综合精品五月天人人| 久久久精品国产亚洲av高清涩受| 麻豆国产av国片精品| 高清毛片免费观看视频网站| 色播亚洲综合网| 亚洲av熟女| 男女视频在线观看网站免费 | 人人妻人人看人人澡| 日日摸夜夜添夜夜添小说| 国产aⅴ精品一区二区三区波| 国产精品久久电影中文字幕| 人妻久久中文字幕网| 久久草成人影院| 老司机午夜十八禁免费视频| 99热6这里只有精品| bbb黄色大片| 久久午夜亚洲精品久久| 又大又爽又粗| 久久九九热精品免费| 国产成人精品久久二区二区免费| 日日爽夜夜爽网站| 午夜精品一区二区三区免费看| 国产片内射在线| 国产精品久久电影中文字幕| 日韩欧美在线二视频| 国产v大片淫在线免费观看| 国产区一区二久久| 国产亚洲欧美98| 性欧美人与动物交配| 老司机午夜十八禁免费视频| 亚洲人与动物交配视频| 三级毛片av免费| 一级作爱视频免费观看| av福利片在线| 非洲黑人性xxxx精品又粗又长| 非洲黑人性xxxx精品又粗又长| 日本一区二区免费在线视频| 午夜老司机福利片| 久久久久性生活片| 午夜老司机福利片| 免费在线观看亚洲国产| 国产成人欧美在线观看| 狂野欧美激情性xxxx| 欧美丝袜亚洲另类 | 成人欧美大片| netflix在线观看网站| 韩国av一区二区三区四区| 99热只有精品国产| 亚洲,欧美精品.| 波多野结衣高清作品| 国产成年人精品一区二区| 国产三级黄色录像| 九九热线精品视视频播放| 久久香蕉国产精品| 亚洲人成77777在线视频| 日本免费a在线| 岛国在线免费视频观看| 国产成人精品无人区| av超薄肉色丝袜交足视频| 久久久久九九精品影院| 国产亚洲av嫩草精品影院| 午夜精品久久久久久毛片777| 亚洲成人久久爱视频| 国产成人av教育| 在线看三级毛片| 精品久久久久久久久久久久久| 亚洲在线自拍视频| 中文字幕av在线有码专区| 老司机在亚洲福利影院| 国产精品久久久久久久电影 | 叶爱在线成人免费视频播放| 午夜亚洲福利在线播放| 51午夜福利影视在线观看| 日本 欧美在线| 两性夫妻黄色片| 一本一本综合久久| 久久久精品国产亚洲av高清涩受| 可以免费在线观看a视频的电影网站| 中出人妻视频一区二区| 国产高清videossex| 脱女人内裤的视频| 中文字幕av在线有码专区| 欧美绝顶高潮抽搐喷水| 亚洲欧美精品综合一区二区三区| 夜夜看夜夜爽夜夜摸| 午夜福利高清视频| 日韩欧美精品v在线| 午夜福利欧美成人| 免费电影在线观看免费观看| 久久久久久久午夜电影| 听说在线观看完整版免费高清| 亚洲av熟女| 亚洲色图 男人天堂 中文字幕| 可以在线观看的亚洲视频| 桃色一区二区三区在线观看| 日本在线视频免费播放| 久久久久久久久免费视频了| 成人精品一区二区免费| 岛国在线观看网站| 亚洲中文字幕日韩| 男人舔奶头视频| 草草在线视频免费看| 日本精品一区二区三区蜜桃| or卡值多少钱| 亚洲精华国产精华精| 成年人黄色毛片网站| xxxwww97欧美| 高清在线国产一区| 国产探花在线观看一区二区| 香蕉久久夜色| 在线a可以看的网站| 少妇粗大呻吟视频| 99re在线观看精品视频| 美女高潮喷水抽搐中文字幕| 久久久国产精品麻豆| 夜夜爽天天搞| 亚洲人与动物交配视频| 91麻豆av在线| 成人一区二区视频在线观看| 岛国在线观看网站| 999久久久精品免费观看国产| 日韩欧美精品v在线| 88av欧美| 99国产综合亚洲精品| 99riav亚洲国产免费| 一进一出抽搐动态| 国产激情久久老熟女| 国产成人精品久久二区二区免费| 少妇熟女aⅴ在线视频| 久久精品91蜜桃| 亚洲乱码一区二区免费版| 日韩欧美一区二区三区在线观看| 亚洲中文av在线| 亚洲国产精品成人综合色| tocl精华| 法律面前人人平等表现在哪些方面| 人妻丰满熟妇av一区二区三区| 久久精品亚洲精品国产色婷小说| 国产一级毛片七仙女欲春2| 99国产极品粉嫩在线观看| 久久中文看片网| 久久中文字幕人妻熟女| 俺也久久电影网| 亚洲免费av在线视频| 制服人妻中文乱码| 不卡av一区二区三区| 老司机靠b影院| 五月伊人婷婷丁香| 变态另类丝袜制服| 色播亚洲综合网| 很黄的视频免费| 亚洲人成网站高清观看| 久久久久免费精品人妻一区二区| 欧美三级亚洲精品| 国产在线观看jvid| 琪琪午夜伦伦电影理论片6080| 日本五十路高清| 香蕉av资源在线| 男女之事视频高清在线观看| 好男人在线观看高清免费视频| 亚洲avbb在线观看| 日日爽夜夜爽网站| 麻豆成人av在线观看| 无遮挡黄片免费观看| 天堂动漫精品| 最近最新免费中文字幕在线| 国产日本99.免费观看| 99热这里只有是精品50| 午夜激情av网站| 国产精品久久久久久亚洲av鲁大| 国产精品,欧美在线| 一个人免费在线观看电影 | 久久精品国产亚洲av高清一级| 亚洲欧美日韩高清专用| √禁漫天堂资源中文www| 亚洲av成人一区二区三| 妹子高潮喷水视频| 国产真人三级小视频在线观看| 国产亚洲欧美在线一区二区| 青草久久国产| 美女扒开内裤让男人捅视频| 成人永久免费在线观看视频| 日韩欧美 国产精品| 宅男免费午夜| 国产黄色小视频在线观看| 热99re8久久精品国产| 欧美一级a爱片免费观看看 | 琪琪午夜伦伦电影理论片6080| a在线观看视频网站| 色av中文字幕| 欧美乱色亚洲激情| 日本免费一区二区三区高清不卡| 欧美黄色片欧美黄色片| a级毛片在线看网站| 精品久久蜜臀av无| 9191精品国产免费久久| 日韩免费av在线播放| 丰满的人妻完整版| 欧美在线一区亚洲| 国产视频内射| 午夜日韩欧美国产| 久久婷婷成人综合色麻豆| 国产精品一及| 一个人观看的视频www高清免费观看 | 亚洲最大成人中文| 精品人妻1区二区| 麻豆国产97在线/欧美 | 久久精品国产99精品国产亚洲性色| 久久久久久久久中文| 12—13女人毛片做爰片一| 五月玫瑰六月丁香| 一边摸一边抽搐一进一小说| 日韩欧美在线二视频| 日本熟妇午夜| 少妇人妻一区二区三区视频| 丝袜美腿诱惑在线| 久久久精品国产亚洲av高清涩受| 日日夜夜操网爽| 一区二区三区高清视频在线| 国产免费av片在线观看野外av| 亚洲av日韩精品久久久久久密| 国模一区二区三区四区视频 | 丰满的人妻完整版| 视频区欧美日本亚洲| 99在线视频只有这里精品首页| 亚洲人成网站高清观看| 亚洲中文字幕日韩| 久久中文看片网| 十八禁人妻一区二区| 天堂影院成人在线观看| 伊人久久大香线蕉亚洲五| 欧美成人性av电影在线观看| 制服人妻中文乱码| 一边摸一边做爽爽视频免费| 日韩精品免费视频一区二区三区| 日本a在线网址| 老司机午夜福利在线观看视频| 国产伦一二天堂av在线观看| 男女午夜视频在线观看| 听说在线观看完整版免费高清| 中文字幕精品亚洲无线码一区| 国产激情偷乱视频一区二区| 午夜福利高清视频| 黄色视频不卡| 操出白浆在线播放| 一区二区三区国产精品乱码| 此物有八面人人有两片| 91成年电影在线观看| 很黄的视频免费| 9191精品国产免费久久| 亚洲真实伦在线观看| 欧美性猛交╳xxx乱大交人| 国产亚洲欧美98| 国产免费男女视频| 丁香欧美五月| 久久久久久久精品吃奶| 日韩欧美在线二视频| 三级男女做爰猛烈吃奶摸视频| 两个人免费观看高清视频| 中国美女看黄片| 亚洲欧洲精品一区二区精品久久久| 一级黄色大片毛片| 88av欧美| 亚洲人成电影免费在线| 男男h啪啪无遮挡| 亚洲精品一区av在线观看| 日韩欧美免费精品| 欧美一级毛片孕妇| 欧美精品亚洲一区二区| 国产精品一及| 国产av又大| 精品高清国产在线一区| 久久久久亚洲av毛片大全| 久久人妻福利社区极品人妻图片| 国产成人啪精品午夜网站| av免费在线观看网站| 免费电影在线观看免费观看| 一本一本综合久久| 久久 成人 亚洲| 欧美又色又爽又黄视频| 亚洲av熟女| 9191精品国产免费久久| 国产午夜精品久久久久久| 天堂影院成人在线观看| 巨乳人妻的诱惑在线观看| 18禁黄网站禁片午夜丰满| 777久久人妻少妇嫩草av网站| 哪里可以看免费的av片| www国产在线视频色| 在线观看免费视频日本深夜| or卡值多少钱| 成年免费大片在线观看| 在线a可以看的网站| 色综合亚洲欧美另类图片| 别揉我奶头~嗯~啊~动态视频| 免费一级毛片在线播放高清视频| 91字幕亚洲| 啪啪无遮挡十八禁网站| 欧洲精品卡2卡3卡4卡5卡区| 一进一出抽搐gif免费好疼| 哪里可以看免费的av片| 51午夜福利影视在线观看| 国产精品 欧美亚洲| 久久国产精品影院| 中文字幕熟女人妻在线| xxxwww97欧美| 欧美成人午夜精品| 五月玫瑰六月丁香| 免费在线观看黄色视频的| 亚洲欧美日韩东京热| 欧美黑人精品巨大| 三级毛片av免费| 一本综合久久免费| 国产精品,欧美在线| 麻豆国产av国片精品| 嫩草影视91久久| 久久久水蜜桃国产精品网| 成熟少妇高潮喷水视频| av福利片在线观看| 90打野战视频偷拍视频| 国产69精品久久久久777片 | 高潮久久久久久久久久久不卡| 波多野结衣高清无吗| 黄频高清免费视频| 啦啦啦观看免费观看视频高清| 午夜福利高清视频| 国产精品 国内视频| 91大片在线观看| 神马国产精品三级电影在线观看 | 日本一本二区三区精品| 亚洲人成网站在线播放欧美日韩| www.999成人在线观看| 久久草成人影院| 亚洲人成网站在线播放欧美日韩| 男女床上黄色一级片免费看| 欧美一级毛片孕妇| 久热爱精品视频在线9| 欧美性猛交╳xxx乱大交人| 亚洲第一欧美日韩一区二区三区| 国产精品久久久久久久电影 | 色av中文字幕| 一区二区三区高清视频在线| 国产精品爽爽va在线观看网站| 亚洲欧洲精品一区二区精品久久久| 国产99白浆流出| 天天添夜夜摸| xxx96com| 久久欧美精品欧美久久欧美| 桃红色精品国产亚洲av| 99国产精品99久久久久| 18禁国产床啪视频网站| tocl精华| 欧美激情久久久久久爽电影| 99精品欧美一区二区三区四区| 精品无人区乱码1区二区| 亚洲成人免费电影在线观看| 国产亚洲欧美在线一区二区| 亚洲欧洲精品一区二区精品久久久| 每晚都被弄得嗷嗷叫到高潮| 日韩av在线大香蕉| 亚洲人成网站高清观看| 日韩成人在线观看一区二区三区| 国产成人影院久久av| 亚洲av中文字字幕乱码综合| 国产精品,欧美在线| 久久久精品国产亚洲av高清涩受| 国产午夜福利久久久久久| 精品久久久久久久毛片微露脸| 日韩欧美国产在线观看| 91字幕亚洲| 亚洲国产欧美一区二区综合| 中文字幕高清在线视频| 国产不卡一卡二| 久久久久性生活片| 日韩中文字幕欧美一区二区| 两个人视频免费观看高清| 国产精品一区二区免费欧美| 一区福利在线观看| 在线观看日韩欧美| 亚洲国产高清在线一区二区三| 九九热线精品视视频播放| 91老司机精品| 久久国产乱子伦精品免费另类| 欧美日韩一级在线毛片| 白带黄色成豆腐渣| 欧美性猛交黑人性爽| 国产在线精品亚洲第一网站| 午夜福利在线在线| 久9热在线精品视频| 国产精品一区二区三区四区免费观看 | 成人精品一区二区免费| 男女做爰动态图高潮gif福利片| 亚洲人成伊人成综合网2020| 国产99白浆流出| 亚洲av第一区精品v没综合| 国产成人精品久久二区二区免费| 久久精品aⅴ一区二区三区四区| 少妇的丰满在线观看| 999久久久精品免费观看国产| 一边摸一边抽搐一进一小说| 亚洲av片天天在线观看| 亚洲18禁久久av| 91麻豆av在线| 欧美乱色亚洲激情| 黄色视频不卡| 精品一区二区三区av网在线观看| av欧美777| 欧美丝袜亚洲另类 | 欧美性猛交╳xxx乱大交人| 国内精品久久久久精免费| 日韩 欧美 亚洲 中文字幕| 成年免费大片在线观看| 欧美日韩黄片免| 母亲3免费完整高清在线观看| 91麻豆av在线| 好男人电影高清在线观看| 我要搜黄色片| 国产aⅴ精品一区二区三区波| 欧美+亚洲+日韩+国产| 免费在线观看黄色视频的| 久热爱精品视频在线9| 夜夜爽天天搞| 在线观看舔阴道视频| 亚洲狠狠婷婷综合久久图片| 久久热在线av| 欧美午夜高清在线| 欧美一级毛片孕妇| 午夜福利18| 日韩有码中文字幕| 身体一侧抽搐| 亚洲精品久久国产高清桃花| 天天一区二区日本电影三级| 久久中文字幕一级| 精品久久久久久久人妻蜜臀av| 久久久水蜜桃国产精品网| 级片在线观看| 国产精品久久久久久精品电影| 校园春色视频在线观看| 天天躁狠狠躁夜夜躁狠狠躁| 免费在线观看成人毛片| 成人av一区二区三区在线看| 亚洲欧美日韩高清专用| 国产精品久久久久久久电影 | 精品国内亚洲2022精品成人| 亚洲18禁久久av| 精品久久久久久久久久久久久| 99久久精品热视频| 欧美一级毛片孕妇| 五月伊人婷婷丁香| xxxwww97欧美| 色在线成人网| 非洲黑人性xxxx精品又粗又长| 成人国产一区最新在线观看| 好男人在线观看高清免费视频| 999精品在线视频| 男人的好看免费观看在线视频 | 一个人免费在线观看电影 | 怎么达到女性高潮| 免费电影在线观看免费观看| 两个人看的免费小视频| 亚洲国产看品久久| 欧洲精品卡2卡3卡4卡5卡区| 男女下面进入的视频免费午夜| 国产单亲对白刺激| 一级a爱片免费观看的视频| 97超级碰碰碰精品色视频在线观看| 午夜福利在线在线| 美女 人体艺术 gogo| 欧美又色又爽又黄视频| 非洲黑人性xxxx精品又粗又长| 伊人久久大香线蕉亚洲五| 在线观看免费午夜福利视频| 亚洲成人久久性| 国产成人一区二区三区免费视频网站| 日韩欧美 国产精品| 三级毛片av免费|