• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于德爾菲法與層次分析法的城市安全領(lǐng)域項(xiàng)目成果評(píng)價(jià)體系分析

    2023-07-10 14:24:43王艷芳時(shí)艷琴朱偉
    科技智囊 2023年6期
    關(guān)鍵詞:評(píng)價(jià)指標(biāo)層次分析法

    王艷芳 時(shí)艷琴 朱偉

    摘? 要:為對(duì)城市安全領(lǐng)域科技項(xiàng)目開展科學(xué)、準(zhǔn)確的成果評(píng)價(jià),文章以國(guó)家對(duì)科技成果評(píng)價(jià)的相關(guān)法規(guī)與標(biāo)準(zhǔn)為指引,結(jié)合城市安全領(lǐng)域項(xiàng)目成果的特點(diǎn),基于公共安全領(lǐng)域的三角形理論及科技評(píng)價(jià)的邏輯模型,分析了城市安全領(lǐng)域科技成果產(chǎn)出及發(fā)揮成效的邏輯機(jī)理,基于邏輯機(jī)理構(gòu)建了評(píng)價(jià)框架,包括知識(shí)產(chǎn)出、成果擴(kuò)散、城市安全防控效果、更廣泛的經(jīng)濟(jì)和社會(huì)影響4個(gè)維度。在此基礎(chǔ)上,文章運(yùn)用德爾菲法和層次分析法篩選了評(píng)價(jià)指標(biāo),并確定指標(biāo)權(quán)重,形成了完善的評(píng)價(jià)指標(biāo)體系,以期為后期相關(guān)評(píng)價(jià)機(jī)構(gòu)開展城市安全領(lǐng)域的科技項(xiàng)目成果評(píng)價(jià)提供參考和借鑒。

    關(guān)鍵詞:城市安全;項(xiàng)目成果評(píng)價(jià);評(píng)價(jià)指標(biāo);德爾菲法;層次分析法

    中圖分類號(hào):X92 文獻(xiàn)標(biāo)識(shí)碼:A DOI:10.19881/j.cnki.1006-3676.2023.06.07

    基金項(xiàng)目:本文系國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目“城市安全成果集成及展示關(guān)鍵技術(shù)與裝備研究”(項(xiàng)目編號(hào):2019YFC0810804)研究成果。

    作者簡(jiǎn)介:王艷芳,女,1985年生,碩士,副研究員,研究方向:績(jī)效評(píng)價(jià)、城市治理。時(shí)艷琴,女,1965年生,研究員,研究方向:管理學(xué)、智慧養(yǎng)老。朱偉,男,1978年生,博士,研究員,研究方向:應(yīng)急安全。

    安全是現(xiàn)代化城市的第一要素。隨著我國(guó)城鎮(zhèn)化的快速推進(jìn),城鎮(zhèn)人口規(guī)模和密度不斷提高,建筑物、基礎(chǔ)設(shè)施和生命線工程發(fā)達(dá)且密集,城鎮(zhèn)組織和經(jīng)濟(jì)社會(huì)活動(dòng)日益復(fù)雜,導(dǎo)致城鎮(zhèn)公共管理和運(yùn)行所面臨的常規(guī)和非常規(guī)風(fēng)險(xiǎn)不斷突出,對(duì)人民群眾的生命和財(cái)產(chǎn)安全帶來重大威脅[1]。為此,“十三五”期間,面向快速推進(jìn)的我國(guó)城鎮(zhèn)化公共安全重大需求,國(guó)家圍繞城市建筑施工與運(yùn)維安全、城市管網(wǎng)管廊安全保障、城市重大災(zāi)害事故防控、城市區(qū)域風(fēng)險(xiǎn)防控與應(yīng)急保障、重大基礎(chǔ)設(shè)施安全等領(lǐng)域設(shè)置了一批重點(diǎn)研發(fā)計(jì)劃項(xiàng)目。那么,這些項(xiàng)目到底取得了哪些成果,這些成果水平如何,對(duì)城市公共安全起到了什么樣的支撐作用,都需要通過開展科學(xué)、準(zhǔn)確的成果評(píng)價(jià)來進(jìn)行判斷。通過成果評(píng)價(jià),一方面可以及時(shí)向政府和公眾展示成效,另一方面可以在評(píng)價(jià)中找出不足,尋找差距,為下一步繼續(xù)提升我國(guó)城市安全領(lǐng)域防范化解重大風(fēng)險(xiǎn)能力提供支撐。

    當(dāng)前,不少專家學(xué)者研究了國(guó)防、交通運(yùn)輸、農(nóng)業(yè)、醫(yī)療衛(wèi)生等行業(yè)領(lǐng)域的科技項(xiàng)目成果評(píng)價(jià)。在國(guó)防領(lǐng)域,王敏芳等從學(xué)術(shù)價(jià)值、政治效益、社會(huì)效益、經(jīng)濟(jì)效益4個(gè)維度建立了成果評(píng)價(jià)指標(biāo)體系[2],寇元虎等構(gòu)建了一個(gè)科學(xué)、綜合和可操作的評(píng)價(jià)指標(biāo)體系,并對(duì)各指標(biāo)的評(píng)判標(biāo)準(zhǔn)進(jìn)行了說明[3];在交通運(yùn)輸領(lǐng)域,董靜等提出了交通運(yùn)輸科技成果的分類標(biāo)準(zhǔn),從技術(shù)指標(biāo)、效益指標(biāo)、轉(zhuǎn)化應(yīng)用指標(biāo)3個(gè)維度出發(fā)構(gòu)建了交通運(yùn)輸科技成果評(píng)價(jià)指標(biāo)體系[4],張勃對(duì)鐵路運(yùn)輸企業(yè)科技成果類別及評(píng)價(jià)模式進(jìn)行了研究,總結(jié)并提出了鐵路運(yùn)輸企業(yè)可實(shí)施的分類評(píng)價(jià)模式[5];在農(nóng)業(yè)領(lǐng)域,賈敬敦等從技術(shù)、效益和風(fēng)險(xiǎn)3個(gè)角度構(gòu)建了應(yīng)用開發(fā)類、軟科學(xué)類與基礎(chǔ)研究類三類農(nóng)業(yè)科技成果的評(píng)價(jià)指標(biāo)體系[6],于磊等學(xué)者引入模糊評(píng)價(jià)法和動(dòng)態(tài)收益分成率兩個(gè)關(guān)鍵,對(duì)農(nóng)業(yè)科技成果價(jià)值評(píng)估收益法進(jìn)行了改進(jìn)[7];在醫(yī)學(xué)領(lǐng)域,白波等人基于邏輯模型和回報(bào)模型構(gòu)建了醫(yī)學(xué)科技計(jì)劃績(jī)效評(píng)估框架[8],沈娟等學(xué)者針對(duì)基礎(chǔ)研究、臨床與轉(zhuǎn)化研究(包括新藥研發(fā))和管理學(xué)領(lǐng)域,提出了醫(yī)學(xué)科技評(píng)價(jià)體系框架和不同專業(yè)領(lǐng)域評(píng)價(jià)體系構(gòu)建的具體建議[9]。然而,專門針對(duì)城市安全領(lǐng)域的科技項(xiàng)目成果評(píng)價(jià)研究幾乎沒有。上述研究結(jié)合各個(gè)領(lǐng)域業(yè)務(wù)及成果特點(diǎn),探索了定性或定量開展科技項(xiàng)目成果評(píng)價(jià)的指標(biāo)和方法,對(duì)城市安全領(lǐng)域科技項(xiàng)目成果評(píng)價(jià)工作的開展極具借鑒意義。但是,各個(gè)行業(yè)領(lǐng)域在成果產(chǎn)出類型、成果擴(kuò)散及成效發(fā)揮方面具有顯著的差異,要開展城市安全領(lǐng)域的科技成果評(píng)價(jià),還需構(gòu)建符合城市安全領(lǐng)域科技項(xiàng)目特點(diǎn)的評(píng)價(jià)指標(biāo)體系。

    筆者以《科技評(píng)估工作規(guī)定(試行)》(國(guó)科發(fā)證〔2016〕382號(hào))[10]、《國(guó)務(wù)院辦公廳關(guān)于完善科技成果評(píng)價(jià)機(jī)制的指導(dǎo)意見》(國(guó)辦發(fā)〔2021〕26號(hào))[11]、《科技評(píng)估基本術(shù)語》(GB/T 40148-2021)[12]、《科技評(píng)估通則》(GB/T 40147-2021)[13]等相關(guān)政策和標(biāo)準(zhǔn)為指引,結(jié)合城市安全領(lǐng)域科技項(xiàng)目成果產(chǎn)出以及發(fā)揮成效的特點(diǎn),基于公共安全領(lǐng)域的三角形理論以及科技評(píng)價(jià)的邏輯模型,分析城市安全領(lǐng)域的科技成果產(chǎn)出及發(fā)揮成效的邏輯機(jī)理,基于邏輯機(jī)理構(gòu)建評(píng)價(jià)體系框架,并在此基礎(chǔ)上運(yùn)用德爾菲法和層次分析法篩選評(píng)價(jià)指標(biāo),確定指標(biāo)權(quán)重,形成完善的評(píng)價(jià)指標(biāo)體系,以期為后續(xù)相關(guān)評(píng)價(jià)機(jī)構(gòu)開展城市安全領(lǐng)域的科技項(xiàng)目成果評(píng)價(jià)提供參考和借鑒。

    一、構(gòu)建評(píng)價(jià)框架

    筆者根據(jù)城市安全領(lǐng)域科技成果的特點(diǎn),借鑒國(guó)際上科技評(píng)價(jià)的相關(guān)經(jīng)驗(yàn),選擇了“投入—產(chǎn)出邏輯模型”[14]和“公共安全三角形理論”[15]相結(jié)合的方式進(jìn)行成果評(píng)價(jià)的框架設(shè)計(jì)。

    (一)理論模型

    評(píng)價(jià)模型采用了邏輯模型的邏輯主線,同時(shí)在成效部分結(jié)合公共安全三角形理論進(jìn)行了成效分類,從而將邏輯模型和公共安全三角形理論相結(jié)合,使評(píng)估模型更加適用于城市安全項(xiàng)目群成果評(píng)價(jià)。

    如圖1所示,構(gòu)建的城市安全領(lǐng)域科技項(xiàng)目成果評(píng)價(jià)模型由以下4個(gè)維度構(gòu)成:戰(zhàn)略目標(biāo)、投入、管理/活動(dòng)、成效。其中,戰(zhàn)略目標(biāo)主要是根據(jù)上級(jí)政策規(guī)劃、城市安全防控需求和科學(xué)發(fā)展需求等方面進(jìn)行設(shè)計(jì);投入包括為實(shí)現(xiàn)城市安全戰(zhàn)略目標(biāo)所投入的人力、物力、經(jīng)費(fèi)、時(shí)間和技術(shù)等資源;管理/活動(dòng)包括兩個(gè)層面,第一個(gè)層面是指整個(gè)城市安全科技專項(xiàng)的主管方所采取的組織方式和管理措施,第二個(gè)層面是指城市安全領(lǐng)域科技項(xiàng)目執(zhí)行方的實(shí)施活動(dòng);成效是指城市安全領(lǐng)域?qū)m?xiàng)/項(xiàng)目直接的效果和作用,包括知識(shí)的直接產(chǎn)出、能力建設(shè)、成果擴(kuò)散、應(yīng)用于城市安全防控、更廣泛的經(jīng)濟(jì)和社會(huì)影響等方面。

    通過該評(píng)價(jià)模型,將目標(biāo)—投入—管理/活動(dòng)—成效邏輯線路上的所有要素囊括在內(nèi),有助于了解各環(huán)節(jié)之間的因果關(guān)系,分析城市安全領(lǐng)域科技成果作用于城市安全防控的邏輯機(jī)理,為開展成果評(píng)價(jià)打下基礎(chǔ)。

    (二)分析邏輯機(jī)理

    基于構(gòu)建的評(píng)價(jià)模型,結(jié)合我國(guó)在城市安全領(lǐng)域的科技布局、城市安全領(lǐng)域項(xiàng)目實(shí)施及成果特點(diǎn),可得出城市安全領(lǐng)域科技項(xiàng)目成果產(chǎn)出及成效邏輯機(jī)理(見圖2)。

    從國(guó)家和政府的實(shí)際操作來看,城市安全領(lǐng)域是作為公共安全專項(xiàng)中的一個(gè)板塊進(jìn)行科技布局的。如圖2所示,公共安全科技工作面臨著保障公共安全、提升科技水平、建立安全體系等需求。因此,根據(jù)實(shí)際安全問題和科技發(fā)展需求,政府制定了公共安全科技專項(xiàng)戰(zhàn)略目標(biāo),并確定了財(cái)政資源規(guī)模。同時(shí),政府組織科技機(jī)構(gòu)、科技項(xiàng)目牽頭人員等進(jìn)行投入。在給予一定的投入后,政府公共安全專項(xiàng)組織管理部門開始組織管理活動(dòng),包括資源整合優(yōu)化、確定重點(diǎn)支持領(lǐng)域、確定優(yōu)先資助項(xiàng)目、遴選項(xiàng)目承擔(dān)單位、開展過程監(jiān)督管理等,這些都是公共安全專項(xiàng)關(guān)鍵的管理環(huán)節(jié)。經(jīng)過復(fù)雜的科技投入和管理活動(dòng),公共安全專項(xiàng)的直接結(jié)果就是組織部署了一系列項(xiàng)目。其中,城市安全領(lǐng)域包括城鎮(zhèn)安全、社區(qū)安全、地下管網(wǎng)、建筑安全及基礎(chǔ)設(shè)施等方面,且這些項(xiàng)目形成了一系列成果,成果通過擴(kuò)散推廣對(duì)城市安全防控產(chǎn)生影響,主要表現(xiàn)在風(fēng)險(xiǎn)評(píng)估與預(yù)防、監(jiān)測(cè)預(yù)測(cè)及預(yù)警、應(yīng)急處置與救援、綜合保障4個(gè)方面。同時(shí),這些成果還將對(duì)社會(huì)與經(jīng)濟(jì)的發(fā)展產(chǎn)生重要影響。

    (三)構(gòu)建評(píng)價(jià)框架

    邏輯機(jī)理圖展示了政府在城市安全領(lǐng)域進(jìn)行科技投入、管理和產(chǎn)生成果,以及發(fā)揮成效的前因后果和關(guān)鍵環(huán)節(jié)。其中,科技成果評(píng)估重點(diǎn)關(guān)注直接產(chǎn)出、成果擴(kuò)散、城市安全防控效果、更廣泛的經(jīng)濟(jì)社會(huì)影響4個(gè)關(guān)鍵環(huán)節(jié)(見圖3),這些關(guān)鍵環(huán)節(jié)因此構(gòu)成了城市安全領(lǐng)域項(xiàng)目成果評(píng)價(jià)的維度(見表1)。

    二、建立指標(biāo)體系

    在構(gòu)建成果評(píng)價(jià)框架之后,首先需要確定成果評(píng)價(jià)準(zhǔn)則,在此基礎(chǔ)上,運(yùn)用德爾菲法,通過“預(yù)選—咨詢—篩選”的技術(shù)路徑,建立城市安全領(lǐng)域項(xiàng)目成果評(píng)價(jià)指標(biāo)體系。

    (一)確定評(píng)價(jià)準(zhǔn)則

    評(píng)價(jià)框架上的關(guān)鍵環(huán)節(jié)對(duì)應(yīng)著城市安全領(lǐng)域項(xiàng)目成果成效發(fā)揮過程中的“可能”斷點(diǎn),這些環(huán)節(jié)上做得好或差,將直接影響成果的績(jī)效,而做得好壞的標(biāo)準(zhǔn),也就對(duì)應(yīng)著具體的評(píng)價(jià)準(zhǔn)則。筆者根據(jù)城市安全領(lǐng)域科技成果的特點(diǎn),綜合國(guó)家在科技成果評(píng)價(jià)方面的政策文件,參考各地科技成果評(píng)價(jià)標(biāo)準(zhǔn),以及各類期刊、論著中關(guān)于成果評(píng)價(jià)的研究成果,形成了城市安全領(lǐng)域科技成果評(píng)價(jià)的評(píng)估準(zhǔn)則(見表2)。

    (二)評(píng)價(jià)指標(biāo)預(yù)選

    結(jié)合評(píng)估準(zhǔn)則,在評(píng)價(jià)框架下,研究團(tuán)隊(duì)通過文獻(xiàn)分析、項(xiàng)目資料文本分析及相關(guān)領(lǐng)域?qū)<艺{(diào)研等方式,調(diào)查獲取了城市安全領(lǐng)域的項(xiàng)目成果相關(guān)指標(biāo),并進(jìn)行了實(shí)驗(yàn)性預(yù)選,初步形成了城市安全領(lǐng)域項(xiàng)目成果評(píng)價(jià)指標(biāo)體系,包括4個(gè)一級(jí)指標(biāo),7個(gè)二級(jí)指標(biāo),26個(gè)三級(jí)指標(biāo)(見表3)。

    (三)基于德爾菲法的評(píng)價(jià)指標(biāo)篩選

    1.咨詢問卷的編制

    根據(jù)初始指標(biāo)體系,筆者編制了“城市安全領(lǐng)域項(xiàng)目成果評(píng)價(jià)”德爾菲專家咨詢表。咨詢表包括研究背景介紹、填表說明、專家基本信息、指標(biāo)評(píng)價(jià)、專家權(quán)威程度量化評(píng)價(jià)5個(gè)部分的內(nèi)容。指標(biāo)評(píng)價(jià)部分重點(diǎn)對(duì)各項(xiàng)指標(biāo)的重要性和可行性進(jìn)行咨詢,分為高、中、低三個(gè)等級(jí),分別賦予5分、3分及1分。專家根據(jù)指標(biāo)重要程度及實(shí)際評(píng)價(jià)操作中的數(shù)據(jù)可獲取性進(jìn)行打分,分值越大表示該指標(biāo)越重要。同時(shí),專家可以對(duì)其認(rèn)為不合理的內(nèi)容或表達(dá)方式進(jìn)行修改,也可以增加指標(biāo)。

    2.咨詢專家的選擇

    在遴選形成專家小組時(shí),為了切實(shí)符合城市安全領(lǐng)域的項(xiàng)目成果特點(diǎn),筆者主要遵循以下遴選標(biāo)準(zhǔn):從事城市安全相關(guān)領(lǐng)域的科研工作;具有高級(jí)及以上技術(shù)職稱;具有良好的學(xué)術(shù)道德及職業(yè)道德。最終選取的咨詢專家,包括公共安全、火災(zāi)科學(xué)、地下空間工程、交通安全、建筑安全等方面的專家17人。其中,在城市安全領(lǐng)域具有10年及以上工作年限的專家占94%,所有專家全部為高級(jí)職稱。

    3.專家咨詢統(tǒng)計(jì)分析結(jié)果

    研究進(jìn)行了兩輪調(diào)查問卷。第一輪邀請(qǐng)了17名專家,有15名專家返回評(píng)分結(jié)果,問卷回收率約為88.2%;第二輪邀請(qǐng)了15名專家,有14名專家返回評(píng)分結(jié)果,問卷回收率約為93%。研究對(duì)專家權(quán)威程度Cr進(jìn)行了量化評(píng)價(jià),主要請(qǐng)專家填寫判斷依據(jù)Ca和對(duì)問題的熟悉程度Cs,其量化表見表4,計(jì)算公式為:Cr=(Ca+Cs)/2,數(shù)值越大表明專家對(duì)咨詢內(nèi)容的權(quán)威程度越高。通過計(jì)算兩輪專家權(quán)威程度均在0.7~0.95之間。這說明專家參與本次研究的積極性較高,參與的專家權(quán)威程度也比較高,所形成的評(píng)價(jià)指標(biāo)體系比較可信。

    通過對(duì)兩輪咨詢結(jié)果的數(shù)據(jù)統(tǒng)計(jì)與分析,得出專家意見的均數(shù)及選擇率。第一輪和第二輪的協(xié)調(diào)系數(shù)分別為0.241和0.299,統(tǒng)計(jì)結(jié)果如表5所示。兩輪的協(xié)調(diào)系數(shù)經(jīng)x2檢驗(yàn),P值均小于0.05,說明專家的意見具有較好的協(xié)調(diào)性,咨詢結(jié)果可信且具有一致性。

    4.評(píng)價(jià)指標(biāo)最終篩選結(jié)果

    研究在遴選評(píng)價(jià)指標(biāo)的過程中,使用國(guó)際上常用的界值法,選取了選擇率均值、變異系數(shù)均值作為界值,根據(jù)每項(xiàng)指標(biāo)重要性和可行性的算數(shù)均數(shù)、變異系數(shù)和選擇率計(jì)算參考值。其中,選擇率為正向指標(biāo),變異系數(shù)為負(fù)向指標(biāo),得分高于選擇率均值、低于變異系數(shù)均值的保留;為了防止重要指標(biāo)被刪除,只有某個(gè)指標(biāo)的得分低于選擇率均值,且低于變異系數(shù)均值,才會(huì)被刪除;對(duì)部分界值得分不滿足的指標(biāo),將其納入下一輪進(jìn)一步經(jīng)專家篩選。運(yùn)用SPSS對(duì)每一輪的專家函評(píng)分值進(jìn)行數(shù)據(jù)統(tǒng)計(jì)分析(見表6)。第一輪專家咨詢的指標(biāo)選擇率均值為0.96(高和中合計(jì)選擇率),變異系數(shù)均值為0.26。那么,變異系數(shù)低于0.26且選擇率大于96%的指標(biāo),認(rèn)為是專家公認(rèn)保留的指標(biāo),將不在第二輪咨詢中出現(xiàn),如專利、新技術(shù)/新方法、新產(chǎn)品/裝置/系統(tǒng)、開展的應(yīng)用示范、成果納入標(biāo)準(zhǔn)/產(chǎn)出標(biāo)準(zhǔn)、服務(wù)于風(fēng)險(xiǎn)評(píng)估實(shí)效等指標(biāo);統(tǒng)計(jì)結(jié)果顯示第一輪中沒有明確需要?jiǎng)h除的指標(biāo),僅增加了二級(jí)指標(biāo)“所解決城市安防問題的重要性”及其下屬三級(jí)指標(biāo)“所解決問題的重要性”。第二輪專家咨詢的指標(biāo)選擇率均值為0.95,變異系數(shù)均值為0.29。那么,變異系數(shù)低于0.29且選擇率大于95%的指標(biāo),認(rèn)為是專家形成統(tǒng)一意見進(jìn)行保留的指標(biāo)。第二輪專家咨詢結(jié)果顯示,專家意見基本趨于一致。其中,大部分指標(biāo)得到保留,刪除了指標(biāo)“專著”(選擇率0.89,變異系數(shù)0.24),尚有6個(gè)指標(biāo)不滿足部分界值,包括“新理論/原理”“成果的成熟度”“成果被政策文件引用”“成果的轉(zhuǎn)讓”“技術(shù)的培訓(xùn)”“降低城市建設(shè)脆弱性”,需要根據(jù)全面性、科學(xué)性、可行性等原則經(jīng)討論后取舍。進(jìn)一步綜合專家的意見及相關(guān)選擇情況,可以發(fā)現(xiàn),本評(píng)價(jià)框架及指標(biāo)體系的專家認(rèn)同度較高,評(píng)價(jià)指標(biāo)的選擇率均數(shù)較高,需要進(jìn)一步討論的6項(xiàng)指標(biāo)的選擇率(可行性+重要性)均高于93%(14人中1人未選則為93%);部分指標(biāo)的變異系數(shù)大于均數(shù),差異化也主要體現(xiàn)在“中”和“高”上。基于此,經(jīng)過討論,考慮到指標(biāo)體系的全面性等原則,6項(xiàng)指標(biāo)全部保留。最終形成的城市安全領(lǐng)域項(xiàng)目成果評(píng)價(jià)指標(biāo)體系,包括一級(jí)指標(biāo)4個(gè),二級(jí)指標(biāo)8個(gè),三級(jí)指標(biāo)26個(gè)。

    三、基于層次分析法確定指標(biāo)權(quán)重

    指標(biāo)權(quán)重系數(shù)是影響評(píng)價(jià)指標(biāo)體系科學(xué)性的重要因素,研究采用最為常用的層次分析法測(cè)量指標(biāo)賦權(quán)。

    (一)建立遞階層次結(jié)構(gòu)模型

    研究選用了Yaahp軟件作為層次分析法的輔助軟件,構(gòu)建了包括目標(biāo)層、準(zhǔn)則層和指標(biāo)層的遞階層次結(jié)構(gòu)模型(見圖4)。

    (二)形成調(diào)查表

    根據(jù)城市安全領(lǐng)域項(xiàng)目成果評(píng)價(jià)指標(biāo)的層次結(jié)構(gòu)模型,利用yaahp軟件,生成權(quán)重調(diào)查表,發(fā)放給15名前期參與指標(biāo)篩選的專家進(jìn)行指標(biāo)的重要性排序評(píng)分,形成兩兩判斷矩陣。

    (三)建立判別矩陣及權(quán)重求解

    將專家咨詢結(jié)果輸入yaahp軟件計(jì)算,一級(jí)指標(biāo)判別矩陣如表7所示。經(jīng)軟件計(jì)算,CR=0.0000<0.10,層次分析結(jié)果的一致性理想,即權(quán)重系數(shù)分配合理(見表8)。

    根據(jù)該運(yùn)算方法,對(duì)二級(jí)和三級(jí)指標(biāo)權(quán)重分別進(jìn)行計(jì)算、匯總、推導(dǎo)運(yùn)算,最終獲得結(jié)果(見表9)。

    四、成果評(píng)價(jià)指標(biāo)體系的使用

    在城市安全領(lǐng)域項(xiàng)目成果評(píng)價(jià)指標(biāo)體系構(gòu)建后,可使用模糊綜合評(píng)價(jià)法進(jìn)行評(píng)價(jià)。使用yaahp軟件輔助生成專家測(cè)評(píng)表,將生成的評(píng)測(cè)表分發(fā)給評(píng)價(jià)專家,由專家根據(jù)相關(guān)項(xiàng)目成果資料,對(duì)每個(gè)項(xiàng)目的每項(xiàng)指標(biāo)進(jìn)行等級(jí)判定?;厥赵u(píng)測(cè)表后,使用yaahp軟件模糊綜合評(píng)價(jià)的“導(dǎo)入”功能,可進(jìn)行評(píng)價(jià)結(jié)果計(jì)算。

    在模糊綜合評(píng)價(jià)計(jì)算中,最后一個(gè)計(jì)算步驟是去模糊,從而得到最終的評(píng)價(jià)分值。去模糊有多種方法可用,可采用設(shè)定評(píng)價(jià)等級(jí)論域,然后加權(quán)平均的方法,為各個(gè)評(píng)價(jià)等級(jí)設(shè)定分值,如優(yōu)(100分)、良(80分)、中(60分)、差(30分)。

    五、結(jié)語

    研究基于公共安全領(lǐng)域的三角形理論以及科技評(píng)價(jià)的邏輯模型建立了評(píng)價(jià)模型,在分析城市安全領(lǐng)域科技成果績(jī)效形成機(jī)理的基礎(chǔ)上,運(yùn)用德爾菲法篩選了評(píng)價(jià)指標(biāo),包括知識(shí)產(chǎn)出、成果擴(kuò)散、城市安全防控效果、更廣泛的經(jīng)濟(jì)和社會(huì)影響4個(gè)一級(jí)指標(biāo),8個(gè)二級(jí)指標(biāo)以及26個(gè)三級(jí)指標(biāo);運(yùn)用層次分析法確定了各級(jí)指標(biāo)的權(quán)重,從而形成了科學(xué)完善的城市安全領(lǐng)域科技項(xiàng)目成果評(píng)價(jià)指標(biāo)體系,為我國(guó)城市安全領(lǐng)域科技項(xiàng)目及科技計(jì)劃的成果評(píng)價(jià)工作提供支撐。

    該成果評(píng)價(jià)體系的評(píng)價(jià)框架是基于城市安全領(lǐng)域項(xiàng)目成果從產(chǎn)出到發(fā)揮成效的邏輯機(jī)理而構(gòu)建的,具有堅(jiān)實(shí)的理論基礎(chǔ);而評(píng)價(jià)指標(biāo)的預(yù)選,則是深度結(jié)合“十三五”期間城市安全領(lǐng)域國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目的成果產(chǎn)出及成效特點(diǎn),可謂理論與實(shí)踐的有效結(jié)合。從整個(gè)評(píng)價(jià)體系的指標(biāo)及權(quán)重上來看,該評(píng)價(jià)體系更加注重成果的實(shí)際效果評(píng)價(jià),城市安全防控效果權(quán)重占到了0.5442;同時(shí),知識(shí)產(chǎn)出部分也不單純以論文發(fā)表數(shù)量、級(jí)別為準(zhǔn)則進(jìn)行評(píng)價(jià),而是運(yùn)用模糊綜合評(píng)價(jià)法,由專家根據(jù)領(lǐng)域特點(diǎn)、資金投入情況等來判斷產(chǎn)出成果的數(shù)量、水平等級(jí),是破“四唯”后科技成果評(píng)價(jià)的進(jìn)一步探索。

    研究構(gòu)建的項(xiàng)目成果評(píng)價(jià)體系及方法在城市安全領(lǐng)域具有一定的通用性和普適性,但城市安全領(lǐng)域依然是一個(gè)相對(duì)綜合的領(lǐng)域,涉及城市建筑、管網(wǎng)管廊、基礎(chǔ)設(shè)施、重大災(zāi)害事故等具體領(lǐng)域,且每個(gè)行業(yè)領(lǐng)域都具有自身的專業(yè)特點(diǎn)。因此,在實(shí)際評(píng)價(jià)工作中,指標(biāo)體系可根據(jù)成果所在專業(yè)領(lǐng)域進(jìn)一步細(xì)化或調(diào)整。

    參考文獻(xiàn):

    [1] 周曉峰,朱偉.我國(guó)城市綜合體安全面臨的挑戰(zhàn)與對(duì)策[J].科技智囊,2020(11):31-37.

    [2] 王敏芳,黨芬,余楠.國(guó)防科技成果的評(píng)價(jià)方法[J].國(guó)防技術(shù)基礎(chǔ),2005(06):16-18.

    [3] 寇元虎,陶瑞.國(guó)防科技成果評(píng)價(jià)指標(biāo)體系與評(píng)判標(biāo)準(zhǔn)構(gòu)建研究[J].科學(xué)管理研究,2015(03):32-35.

    [4] 董靜,牛犇,尚文豪,等.新形勢(shì)下交通運(yùn)輸科技成果分類評(píng)價(jià)指標(biāo)體系研究[J].公路交通科技(應(yīng)用技術(shù)版),2019(10):289-292.

    [5] 張勃.鐵路運(yùn)輸企業(yè)科技成果類別及評(píng)價(jià)模式研究[J].中國(guó)鐵路,2022(06):125-129.

    [6] 賈敬敦,吳飛鳴,孫傳范,等.農(nóng)業(yè)科技成果評(píng)價(jià)指標(biāo)體系構(gòu)建研究[J].中國(guó)農(nóng)業(yè)科技導(dǎo)報(bào),2015(06):1-7.

    [7] 于磊,吳東立,王萌,等.農(nóng)業(yè)科技成果價(jià)值評(píng)估收益法改進(jìn)研究[J].農(nóng)業(yè)經(jīng)濟(jì),2023(04):24-26.

    [8] 白波,王艷芳.基于邏輯模型和回報(bào)模型的醫(yī)學(xué)科技計(jì)劃績(jī)效評(píng)估框架構(gòu)建[J].技術(shù)與創(chuàng)新管理,2015(02):131-137.

    [9] 沈娟,郭欣,關(guān)健.新時(shí)期醫(yī)學(xué)領(lǐng)域科技評(píng)價(jià)影響因素及評(píng)價(jià)體系構(gòu)建原則和建議[J].科技管理研究,2022(22):71-76.

    [10] 科學(xué)技術(shù)部,財(cái)政部,國(guó)家發(fā)展和改革委員會(huì).科技部 財(cái)政部 發(fā)展改革委關(guān)于印發(fā)《科技評(píng)估工作規(guī)定(試行)》的通知[EB/OL].(2017-01-17)[2021-07-02].http://www.most.gov.cn/kjzc/gjkjzc/kjjhgl/201701/t20170117_130544.html.

    [11] 國(guó)務(wù)院辦公廳.國(guó)務(wù)院辦公廳關(guān)于完善科技成果評(píng)價(jià)機(jī)制的指導(dǎo)意見[J].科學(xué)中國(guó)人,2021(22):30-32.

    [12] 全國(guó)科技評(píng)估標(biāo)準(zhǔn)化技術(shù)委員會(huì).科技評(píng)估基本術(shù)語:GB/T 40148-2021[S].北京:中國(guó)標(biāo)準(zhǔn)出版社,2021.

    [13] 全國(guó)科技評(píng)估標(biāo)準(zhǔn)化技術(shù)委員會(huì).科技評(píng)估通則:GB/T 40147-2021[S].北京:中國(guó)標(biāo)準(zhǔn)出版社,2021.

    [14] Annie M,Ronald S,Simeone,et al.Logic Models:A Systems Tool for Performance Management[J].Evaluation and Program Planning,2001(01):73-81.

    [15] 劉奕,倪順江,翁文國(guó),等.公共安全體系發(fā)展與安全保障型社會(huì)[J].中國(guó)工程科學(xué),2017(01):118-123.

    Analysis of Project Achievement Evaluation System in Urban Safety Field Based on Delphi Method and Analytic Hierarchy Process

    Wang Yanfang1 Shi Yanqin2 Zhu Wei1

    (1.Institute of Urban Systems Engineering,Beijing Academy of Science and Technology,Beijing,100089;2.Institute for Smart Ageing,Beijing Academy of Science and Technology,Beijing,100089)

    Abstract:In order to carry out scientific and accurate achievement evaluation of projects in the field of urban safety,the article analyzes the logical mechanism of the output and effectiveness of scientific and technological achievements in the field of urban safety,guided by the relevant national regulations and standards for the evaluation of scientific and technological achievements,combined with the characteristics of project achievements in the field of urban safety,based on the public security triangular theory and the logical model,based on the logical mechanism,the evaluation framework is constructed,including four dimensions of knowledge production,achievement diffusion,urban safety prevention and control effect and economic and social impact. On this basis,the delphi method and analytic hierarchy process are used to screen the evaluation indexes,determine the index weight and form a perfect evaluation index system,in order to provides reference and reference for the later relevant evaluation institutions to carry out the evaluation of scientific and technological projects in the field of urban safety.

    Key words:Urban safety;Project achievement evaluation;Evaluating indicator;Delphi method;Analytic hierarchy process

    猜你喜歡
    評(píng)價(jià)指標(biāo)層次分析法
    旅游產(chǎn)業(yè)與文化產(chǎn)業(yè)融合理論與實(shí)證分析
    中國(guó)藥品安全綜合評(píng)價(jià)指標(biāo)體系研究
    第三方物流企業(yè)績(jī)效評(píng)價(jià)研究綜述
    商(2016年33期)2016-11-24 23:50:25
    微電子科學(xué)與工程專業(yè)評(píng)價(jià)指標(biāo)體系研究
    基于UML的高校思想政治教育工作評(píng)價(jià)系統(tǒng)的分析與研究
    公共文化服務(wù)體系評(píng)價(jià)指標(biāo)的國(guó)際經(jīng)驗(yàn)與啟示
    基于AHP—GRA的工程施工項(xiàng)目進(jìn)度風(fēng)險(xiǎn)管理研究
    關(guān)于三江源生態(tài)移民創(chuàng)業(yè)能力評(píng)價(jià)指標(biāo)體系構(gòu)建的研究
    基層社會(huì)管理關(guān)鍵績(jī)效指標(biāo)體系構(gòu)建研究
    基于層次分析法的乳制品品牌顧客滿意度實(shí)證研究
    老熟妇乱子伦视频在线观看| 无人区码免费观看不卡 | 亚洲精品一二三| 人人妻,人人澡人人爽秒播| 精品少妇一区二区三区视频日本电影| 男男h啪啪无遮挡| 国产精品久久电影中文字幕 | 欧美乱码精品一区二区三区| 两个人看的免费小视频| 最新在线观看一区二区三区| 51午夜福利影视在线观看| 国产精品久久久av美女十八| 欧美精品啪啪一区二区三区| 大片电影免费在线观看免费| 黄色视频,在线免费观看| 日韩欧美三级三区| 欧美+亚洲+日韩+国产| 中文字幕最新亚洲高清| 国产精品偷伦视频观看了| 日本黄色日本黄色录像| www.自偷自拍.com| 老司机深夜福利视频在线观看| 熟女少妇亚洲综合色aaa.| 久久精品91无色码中文字幕| 久久av网站| 亚洲专区中文字幕在线| 精品久久久精品久久久| 欧美中文综合在线视频| 汤姆久久久久久久影院中文字幕| 99re6热这里在线精品视频| 久久精品熟女亚洲av麻豆精品| 美国免费a级毛片| 国产高清国产精品国产三级| 国产精品久久电影中文字幕 | 亚洲性夜色夜夜综合| 国产欧美日韩一区二区三区在线| 亚洲午夜理论影院| 老司机午夜福利在线观看视频 | 欧美成狂野欧美在线观看| 90打野战视频偷拍视频| 成年动漫av网址| 欧美日韩亚洲高清精品| 久久精品亚洲精品国产色婷小说| 丁香六月欧美| 中文字幕av电影在线播放| 啦啦啦在线免费观看视频4| 精品高清国产在线一区| 搡老熟女国产l中国老女人| 啦啦啦视频在线资源免费观看| 最新在线观看一区二区三区| av片东京热男人的天堂| 狂野欧美激情性xxxx| 精品欧美一区二区三区在线| 午夜久久久在线观看| 伦理电影免费视频| 久久午夜亚洲精品久久| 极品教师在线免费播放| 成年动漫av网址| 不卡一级毛片| 欧美日韩国产mv在线观看视频| 国产激情久久老熟女| 制服诱惑二区| 免费高清在线观看日韩| 久久狼人影院| 国产精品久久久久久精品古装| 99九九在线精品视频| av一本久久久久| 国产欧美日韩综合在线一区二区| 丁香欧美五月| 少妇 在线观看| 在线观看舔阴道视频| 亚洲自偷自拍图片 自拍| av不卡在线播放| 777久久人妻少妇嫩草av网站| 首页视频小说图片口味搜索| 亚洲人成电影观看| 黑丝袜美女国产一区| 黄片小视频在线播放| 一个人免费看片子| 美女视频免费永久观看网站| 女性被躁到高潮视频| 精品卡一卡二卡四卡免费| 黑人欧美特级aaaaaa片| 亚洲精品国产色婷婷电影| 亚洲 欧美一区二区三区| 色综合婷婷激情| 国产精品熟女久久久久浪| 9热在线视频观看99| 久久国产亚洲av麻豆专区| 脱女人内裤的视频| 亚洲午夜理论影院| 啦啦啦在线免费观看视频4| 青青草视频在线视频观看| 50天的宝宝边吃奶边哭怎么回事| 亚洲 欧美一区二区三区| 亚洲欧洲日产国产| 国产亚洲欧美精品永久| 伦理电影免费视频| 日本av手机在线免费观看| 无限看片的www在线观看| av电影中文网址| 美女福利国产在线| 久久青草综合色| 免费av中文字幕在线| 国产免费现黄频在线看| 亚洲精品成人av观看孕妇| 久久99热这里只频精品6学生| av网站在线播放免费| 国产精品美女特级片免费视频播放器 | 一本大道久久a久久精品| 怎么达到女性高潮| 熟女少妇亚洲综合色aaa.| 欧美日韩福利视频一区二区| 欧美精品一区二区大全| 91成年电影在线观看| 国产午夜精品久久久久久| 国产真人三级小视频在线观看| 色在线成人网| 日韩精品免费视频一区二区三区| 黄片小视频在线播放| 女人久久www免费人成看片| 丝袜美腿诱惑在线| 岛国毛片在线播放| 考比视频在线观看| 色在线成人网| 日本欧美视频一区| 欧美在线黄色| 亚洲视频免费观看视频| 国产三级黄色录像| 亚洲国产精品一区二区三区在线| a在线观看视频网站| 后天国语完整版免费观看| 亚洲精华国产精华精| 在线观看免费日韩欧美大片| 亚洲国产av影院在线观看| 国产欧美日韩一区二区精品| 免费在线观看黄色视频的| aaaaa片日本免费| 久久久国产成人免费| 日韩有码中文字幕| 一本色道久久久久久精品综合| 国产一区二区 视频在线| 天天躁日日躁夜夜躁夜夜| 久热爱精品视频在线9| 老熟女久久久| 国产一区二区三区视频了| a级毛片黄视频| 国产在视频线精品| 中文字幕高清在线视频| 色视频在线一区二区三区| svipshipincom国产片| 老司机福利观看| 日韩大片免费观看网站| 国产麻豆69| 人人妻人人澡人人看| 亚洲熟女精品中文字幕| 1024视频免费在线观看| 交换朋友夫妻互换小说| 亚洲精品中文字幕一二三四区 | 亚洲av美国av| 热99久久久久精品小说推荐| 精品国产一区二区三区四区第35| 在线永久观看黄色视频| 国产免费av片在线观看野外av| 久久久精品免费免费高清| 黄片小视频在线播放| 国产欧美亚洲国产| 亚洲精品中文字幕一二三四区 | 国产成人精品久久二区二区免费| 久久 成人 亚洲| 久久99热这里只频精品6学生| 国产成+人综合+亚洲专区| 中文亚洲av片在线观看爽 | 一级毛片女人18水好多| svipshipincom国产片| 亚洲欧洲日产国产| www.精华液| 国产男女内射视频| 色综合欧美亚洲国产小说| 91麻豆av在线| 人妻久久中文字幕网| 婷婷丁香在线五月| 少妇的丰满在线观看| 中文字幕色久视频| av又黄又爽大尺度在线免费看| 18禁裸乳无遮挡动漫免费视频| av片东京热男人的天堂| 夜夜夜夜夜久久久久| 女人精品久久久久毛片| 亚洲免费av在线视频| 99久久国产精品久久久| 99热国产这里只有精品6| 国产欧美日韩综合在线一区二区| 日本撒尿小便嘘嘘汇集6| 国产一区二区 视频在线| 99九九在线精品视频| 日本vs欧美在线观看视频| 视频在线观看一区二区三区| 久久精品成人免费网站| 黄色片一级片一级黄色片| 国产精品免费大片| 美女福利国产在线| 亚洲欧美激情在线| 精品亚洲成国产av| 欧美日韩黄片免| 女人被躁到高潮嗷嗷叫费观| 老司机靠b影院| 99久久人妻综合| 天天躁狠狠躁夜夜躁狠狠躁| 午夜福利乱码中文字幕| 亚洲男人天堂网一区| 欧美日韩中文字幕国产精品一区二区三区 | 日韩一卡2卡3卡4卡2021年| 在线播放国产精品三级| 一区二区三区乱码不卡18| 侵犯人妻中文字幕一二三四区| 在线观看www视频免费| tube8黄色片| 天堂动漫精品| 亚洲国产欧美一区二区综合| 操美女的视频在线观看| 怎么达到女性高潮| 久久精品亚洲熟妇少妇任你| 亚洲色图av天堂| 又紧又爽又黄一区二区| 亚洲欧美激情在线| 久久婷婷成人综合色麻豆| 日韩免费av在线播放| 女人高潮潮喷娇喘18禁视频| 亚洲成人免费av在线播放| 新久久久久国产一级毛片| 国产淫语在线视频| 久久国产精品男人的天堂亚洲| 老汉色av国产亚洲站长工具| av网站免费在线观看视频| 国产区一区二久久| 99精品在免费线老司机午夜| 在线观看66精品国产| 天天躁狠狠躁夜夜躁狠狠躁| 啦啦啦 在线观看视频| 五月开心婷婷网| 欧美日韩亚洲综合一区二区三区_| 香蕉丝袜av| 视频在线观看一区二区三区| 精品熟女少妇八av免费久了| 自拍欧美九色日韩亚洲蝌蚪91| 精品第一国产精品| 王馨瑶露胸无遮挡在线观看| 一区二区三区激情视频| 国产又色又爽无遮挡免费看| 99精国产麻豆久久婷婷| 精品国产一区二区久久| 亚洲欧美日韩高清在线视频 | 99re6热这里在线精品视频| 久久精品国产亚洲av高清一级| 日本vs欧美在线观看视频| 少妇猛男粗大的猛烈进出视频| 欧美亚洲日本最大视频资源| 日本五十路高清| 欧美日韩成人在线一区二区| 麻豆国产av国片精品| av又黄又爽大尺度在线免费看| 日日摸夜夜添夜夜添小说| 在线观看www视频免费| 另类亚洲欧美激情| 51午夜福利影视在线观看| 亚洲人成伊人成综合网2020| 精品一区二区三区av网在线观看 | 在线十欧美十亚洲十日本专区| 曰老女人黄片| 黄色 视频免费看| 免费看a级黄色片| 欧美变态另类bdsm刘玥| 久久久水蜜桃国产精品网| 狠狠婷婷综合久久久久久88av| 最近最新免费中文字幕在线| 操出白浆在线播放| 国产成人欧美在线观看 | 成人国语在线视频| 国产人伦9x9x在线观看| 色综合婷婷激情| 亚洲色图av天堂| 少妇粗大呻吟视频| 国产在线观看jvid| 高清视频免费观看一区二区| 黄色视频,在线免费观看| 一级,二级,三级黄色视频| 99久久国产精品久久久| svipshipincom国产片| 国产亚洲午夜精品一区二区久久| netflix在线观看网站| 亚洲少妇的诱惑av| 俄罗斯特黄特色一大片| 久久久久久亚洲精品国产蜜桃av| 一本大道久久a久久精品| 免费黄频网站在线观看国产| 老司机影院毛片| 亚洲一区二区三区欧美精品| 无人区码免费观看不卡 | 中文字幕精品免费在线观看视频| 一级a爱视频在线免费观看| 黑人巨大精品欧美一区二区蜜桃| 亚洲久久久国产精品| 啪啪无遮挡十八禁网站| 欧美中文综合在线视频| 国产精品免费视频内射| 午夜福利一区二区在线看| 亚洲一码二码三码区别大吗| 欧美一级毛片孕妇| 91精品国产国语对白视频| 精品少妇一区二区三区视频日本电影| 国产日韩欧美在线精品| 国产亚洲精品久久久久5区| 黄色片一级片一级黄色片| 搡老乐熟女国产| 国产精品国产高清国产av | 国产精品免费视频内射| tube8黄色片| 男女之事视频高清在线观看| 人人妻人人澡人人看| 丝袜美足系列| 国产男靠女视频免费网站| 一个人免费在线观看的高清视频| 欧美日韩成人在线一区二区| 欧美一级毛片孕妇| 日日爽夜夜爽网站| 欧美成人午夜精品| 欧美av亚洲av综合av国产av| 国产在线免费精品| 汤姆久久久久久久影院中文字幕| av又黄又爽大尺度在线免费看| 99国产精品99久久久久| 成人特级黄色片久久久久久久 | 在线天堂中文资源库| 1024视频免费在线观看| 久久精品国产99精品国产亚洲性色 | 久久人人97超碰香蕉20202| 日韩欧美三级三区| 欧美精品人与动牲交sv欧美| 桃花免费在线播放| 91精品国产国语对白视频| 亚洲成人免费电影在线观看| 久久精品熟女亚洲av麻豆精品| 丝袜美腿诱惑在线| 18禁黄网站禁片午夜丰满| 亚洲欧洲精品一区二区精品久久久| 亚洲自偷自拍图片 自拍| 久久人人97超碰香蕉20202| 欧美黑人欧美精品刺激| 免费观看a级毛片全部| 老司机福利观看| 亚洲中文日韩欧美视频| 中文字幕制服av| 中文字幕人妻丝袜一区二区| tocl精华| 亚洲中文日韩欧美视频| 无遮挡黄片免费观看| 免费观看av网站的网址| 亚洲伊人久久精品综合| 一级毛片精品| 91字幕亚洲| 免费高清在线观看日韩| 国产成人欧美在线观看 | 嫁个100分男人电影在线观看| 最新在线观看一区二区三区| 成人精品一区二区免费| 丝袜在线中文字幕| 免费在线观看完整版高清| 欧美亚洲 丝袜 人妻 在线| 欧美精品av麻豆av| 变态另类成人亚洲欧美熟女 | 国产成人系列免费观看| 一级片免费观看大全| 一级片'在线观看视频| 国产精品一区二区精品视频观看| 高清视频免费观看一区二区| 操出白浆在线播放| 女人爽到高潮嗷嗷叫在线视频| 国产精品香港三级国产av潘金莲| 久久久久国内视频| 男女高潮啪啪啪动态图| 五月天丁香电影| 亚洲第一av免费看| 1024视频免费在线观看| 亚洲av成人一区二区三| 啦啦啦免费观看视频1| 这个男人来自地球电影免费观看| 久久 成人 亚洲| 国产亚洲精品第一综合不卡| av有码第一页| 国产极品粉嫩免费观看在线| 中文字幕av电影在线播放| 飞空精品影院首页| 在线天堂中文资源库| 在线观看免费午夜福利视频| 在线 av 中文字幕| 亚洲熟妇熟女久久| 搡老乐熟女国产| 成人av一区二区三区在线看| 美女高潮喷水抽搐中文字幕| 国产色视频综合| 中文字幕av电影在线播放| 日本欧美视频一区| 交换朋友夫妻互换小说| 日本撒尿小便嘘嘘汇集6| 国产av国产精品国产| 久久精品国产综合久久久| 久久久久久久大尺度免费视频| 久久久水蜜桃国产精品网| 中文字幕人妻熟女乱码| 男男h啪啪无遮挡| 丝瓜视频免费看黄片| 久久国产精品大桥未久av| 夜夜夜夜夜久久久久| 国产成+人综合+亚洲专区| 丁香欧美五月| 欧美精品人与动牲交sv欧美| 在线播放国产精品三级| 建设人人有责人人尽责人人享有的| 精品乱码久久久久久99久播| 亚洲av国产av综合av卡| 亚洲精品国产色婷婷电影| 日韩中文字幕欧美一区二区| 男女床上黄色一级片免费看| 成人黄色视频免费在线看| 两性午夜刺激爽爽歪歪视频在线观看 | 天堂中文最新版在线下载| 99久久精品国产亚洲精品| 久久国产精品影院| 国产精品.久久久| 午夜老司机福利片| 精品卡一卡二卡四卡免费| 午夜视频精品福利| 欧美日本中文国产一区发布| 嫁个100分男人电影在线观看| 久久性视频一级片| 国精品久久久久久国模美| 在线观看一区二区三区激情| 欧美日韩一级在线毛片| 亚洲欧美精品综合一区二区三区| 亚洲性夜色夜夜综合| 欧美另类亚洲清纯唯美| 精品亚洲乱码少妇综合久久| 女人久久www免费人成看片| 色尼玛亚洲综合影院| 99国产极品粉嫩在线观看| 免费人妻精品一区二区三区视频| 女人爽到高潮嗷嗷叫在线视频| 国产免费av片在线观看野外av| 麻豆国产av国片精品| 不卡av一区二区三区| 国产精品九九99| www.熟女人妻精品国产| 新久久久久国产一级毛片| 黄片大片在线免费观看| 一本大道久久a久久精品| 欧美激情 高清一区二区三区| 99精品久久久久人妻精品| 99九九在线精品视频| 精品人妻在线不人妻| 夜夜夜夜夜久久久久| 妹子高潮喷水视频| 男女下面插进去视频免费观看| 国产99久久九九免费精品| 国产真人三级小视频在线观看| 99热国产这里只有精品6| 精品少妇一区二区三区视频日本电影| 亚洲性夜色夜夜综合| 亚洲综合色网址| 亚洲成人免费电影在线观看| 久久精品亚洲av国产电影网| 黄色a级毛片大全视频| 99国产极品粉嫩在线观看| 久久久久久久久久久久大奶| 看免费av毛片| videos熟女内射| 国产精品 国内视频| xxxhd国产人妻xxx| 一个人免费看片子| 最新的欧美精品一区二区| 国产av国产精品国产| 搡老岳熟女国产| 69精品国产乱码久久久| 久久久久网色| 亚洲精品美女久久av网站| 久久久精品94久久精品| 日韩欧美国产一区二区入口| 国产色视频综合| 国产精品久久久久久精品电影小说| 女性生殖器流出的白浆| 中文字幕最新亚洲高清| 久久久国产欧美日韩av| 亚洲五月婷婷丁香| 亚洲午夜理论影院| 国产91精品成人一区二区三区 | 天天躁日日躁夜夜躁夜夜| av在线播放免费不卡| 别揉我奶头~嗯~啊~动态视频| 国产精品一区二区精品视频观看| 成在线人永久免费视频| 色视频在线一区二区三区| 国产av一区二区精品久久| 夜夜夜夜夜久久久久| 蜜桃国产av成人99| 91av网站免费观看| av国产精品久久久久影院| 另类亚洲欧美激情| 精品久久久久久电影网| 免费在线观看影片大全网站| 久久久久久久久久久久大奶| 午夜福利视频精品| kizo精华| 2018国产大陆天天弄谢| 亚洲美女黄片视频| 美女主播在线视频| 亚洲精品一卡2卡三卡4卡5卡| 精品少妇黑人巨大在线播放| 精品久久蜜臀av无| 久久精品国产a三级三级三级| 国产色视频综合| 女性被躁到高潮视频| 色94色欧美一区二区| 一级毛片女人18水好多| 久久久欧美国产精品| 成人三级做爰电影| 国产精品98久久久久久宅男小说| 中文字幕人妻丝袜一区二区| 欧美日韩亚洲国产一区二区在线观看 | 亚洲中文av在线| av国产精品久久久久影院| 波多野结衣av一区二区av| 18在线观看网站| 日日摸夜夜添夜夜添小说| 久久精品aⅴ一区二区三区四区| 菩萨蛮人人尽说江南好唐韦庄| 日韩中文字幕欧美一区二区| 在线看a的网站| 丝袜美足系列| 精品少妇黑人巨大在线播放| 欧美中文综合在线视频| 新久久久久国产一级毛片| 成人黄色视频免费在线看| 国产精品一区二区精品视频观看| 俄罗斯特黄特色一大片| 国产精品电影一区二区三区 | 老熟女久久久| 国产欧美日韩一区二区精品| 亚洲五月色婷婷综合| 国产精品成人在线| 久久久久久免费高清国产稀缺| 久久性视频一级片| 老汉色∧v一级毛片| 国产成人一区二区三区免费视频网站| 久久久久久人人人人人| 亚洲国产av影院在线观看| 国产在线一区二区三区精| 两人在一起打扑克的视频| videos熟女内射| 少妇的丰满在线观看| 亚洲国产看品久久| 欧美日韩亚洲国产一区二区在线观看 | 国产精品 欧美亚洲| 国产不卡av网站在线观看| 91老司机精品| 日韩三级视频一区二区三区| 国产免费视频播放在线视频| 美女高潮到喷水免费观看| 亚洲国产欧美网| 久久人妻福利社区极品人妻图片| 老司机深夜福利视频在线观看| 久久精品国产亚洲av高清一级| 亚洲午夜精品一区,二区,三区| 亚洲精华国产精华精| 国产精品99久久99久久久不卡| 亚洲一区二区三区欧美精品| 精品国产超薄肉色丝袜足j| 欧美日韩一级在线毛片| 欧美+亚洲+日韩+国产| 一区二区av电影网| 新久久久久国产一级毛片| 国产成人一区二区三区免费视频网站| 国产在线一区二区三区精| 色婷婷av一区二区三区视频| 国产在线观看jvid| 黄色丝袜av网址大全| 成年人免费黄色播放视频| 国产高清国产精品国产三级| 中文字幕人妻丝袜一区二区| www.熟女人妻精品国产| 久久精品国产综合久久久| 国内毛片毛片毛片毛片毛片| 国产精品99久久99久久久不卡| 日本a在线网址| 亚洲午夜精品一区,二区,三区| 桃红色精品国产亚洲av| 999精品在线视频| 日本撒尿小便嘘嘘汇集6| 777久久人妻少妇嫩草av网站| 欧美午夜高清在线| 亚洲 欧美一区二区三区| 精品免费久久久久久久清纯 | 国产在视频线精品| 亚洲性夜色夜夜综合| 国产精品久久久久久精品电影小说| 久久免费观看电影| 亚洲色图av天堂| 91国产中文字幕| 久久久久久久大尺度免费视频| 操美女的视频在线观看| 国产成人系列免费观看| 色尼玛亚洲综合影院| 日韩三级视频一区二区三区| 一本久久精品| 色精品久久人妻99蜜桃| 美女视频免费永久观看网站|