• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)體系構(gòu)建及實(shí)證研究

    2022-01-04 12:39:34黃曉林蔣欣宏
    關(guān)鍵詞:指標(biāo)體系報(bào)告矩陣

    王 輝,黃曉林,蔣欣宏

    (湖南省科學(xué)技術(shù)信息研究所,湖南 長(zhǎng)沙 410001)

    1 引言

    科技報(bào)告是科學(xué)技術(shù)報(bào)告的簡(jiǎn)稱(chēng)。我國(guó)國(guó)家標(biāo)準(zhǔn)《科技報(bào)告編寫(xiě)規(guī)則》將科技報(bào)告定義為:科技人員為了描述其從事的科研、設(shè)計(jì)、工程、試驗(yàn)和鑒定等活動(dòng)的過(guò)程、進(jìn)展和結(jié)果,按照規(guī)定的標(biāo)準(zhǔn)格式編寫(xiě)而成的特種文獻(xiàn)。[1]452-458。在我國(guó),科技報(bào)告一般由政府財(cái)政資金支持的科技項(xiàng)目產(chǎn)出,是科技項(xiàng)目研究?jī)?nèi)容學(xué)術(shù)性的完整表述,具有科研管理和學(xué)術(shù)參考的雙重價(jià)值,是國(guó)家重要的基礎(chǔ)性、戰(zhàn)略性科技信息資源。[2]788-792

    我國(guó)的科技報(bào)告起源于1984年國(guó)防科技報(bào)告體系建設(shè)工作的開(kāi)展。2014年國(guó)家全面推進(jìn)部門(mén)、地方科技報(bào)告工作,除國(guó)防科技項(xiàng)目,科技部、國(guó)家自科基金委、交通運(yùn)輸部以及各省(市)主管的科技項(xiàng)目均開(kāi)始陸續(xù)提交科技報(bào)告,我國(guó)科技報(bào)告數(shù)量迅速增長(zhǎng)。截至2019年1月,國(guó)家科技報(bào)告服務(wù)系統(tǒng)已收藏各類(lèi)科技報(bào)告17萬(wàn)余份。由于我國(guó)科技報(bào)告的管理和運(yùn)行機(jī)制尚處于探索階段,隨著科技報(bào)告數(shù)量的激增,科技報(bào)告質(zhì)量參差不齊的問(wèn)題日益顯現(xiàn)。從國(guó)家到各省,雖然已有一些關(guān)于科技報(bào)告質(zhì)量控制與評(píng)價(jià)方面的研究,但多集中在宏觀層面或質(zhì)量評(píng)價(jià)全體系指標(biāo)構(gòu)建層面,且提出的部分指標(biāo)概念抽象、在實(shí)際操作中定量評(píng)價(jià)困難,需加強(qiáng)包括文獻(xiàn)質(zhì)量控制與評(píng)價(jià)在內(nèi)的微觀層面研究,以進(jìn)一步對(duì)二級(jí)指標(biāo)進(jìn)行細(xì)化,明晰三級(jí)指標(biāo)并確定有關(guān)權(quán)重,才能更好地應(yīng)用于實(shí)際工作中科技報(bào)告質(zhì)量的初步評(píng)判,準(zhǔn)確評(píng)價(jià)科技報(bào)告文獻(xiàn)質(zhì)量,有效引導(dǎo)科技報(bào)告質(zhì)量提升。為此,本文結(jié)合科技報(bào)告管理工作實(shí)際,借鑒國(guó)內(nèi)外科技報(bào)告質(zhì)量評(píng)價(jià)已有研究,運(yùn)用頭腦風(fēng)暴法、層次分析法等方法和工具,構(gòu)建了一套包括3個(gè)二級(jí)指標(biāo)、14個(gè)三級(jí)指標(biāo)的科技報(bào)告的文獻(xiàn)質(zhì)量評(píng)價(jià)體系,以期為專(zhuān)家進(jìn)行科技報(bào)告專(zhuān)業(yè)質(zhì)量和效益質(zhì)量評(píng)價(jià)提供參考,為科技報(bào)告的綜合評(píng)價(jià)實(shí)踐提供決策參考,為本省推進(jìn)科技報(bào)告資源體系建設(shè)提供一定支撐。

    2 國(guó)內(nèi)外科技報(bào)告質(zhì)量評(píng)價(jià)體系研究現(xiàn)狀

    科技報(bào)告制度起源于美國(guó),科技報(bào)告質(zhì)量的控制與評(píng)價(jià)研究最早也開(kāi)始于美國(guó)。在美國(guó),政府資助的科技報(bào)告被認(rèn)為是一種典型的政府信息。因而,美國(guó)信息質(zhì)量評(píng)價(jià)體系從總體上代表了美國(guó)科技報(bào)告質(zhì)量評(píng)價(jià)體系的要素要求。1996年,美國(guó)學(xué)者Wang即提出了信息質(zhì)量IQ四維評(píng)價(jià)體系[3]5-33,隨后美國(guó)政府對(duì)其加以利用頒布了《信息質(zhì)量法案》,提出了包括客觀性、實(shí)用性和完整性的三級(jí)信息質(zhì)量控制體系,對(duì)包括科技報(bào)告在內(nèi)的政府信息質(zhì)量作出了原則性的要求。[4]12-18

    在我國(guó),劉冠偉等最早描述了層次分析法在國(guó)防科技報(bào)告評(píng)價(jià)指標(biāo)體系研究中的應(yīng)用,其中的國(guó)防科技報(bào)告評(píng)價(jià)指標(biāo)體系包括報(bào)告撰寫(xiě)水平、技術(shù)內(nèi)容和應(yīng)用價(jià)值3個(gè)二級(jí)指標(biāo),含報(bào)告正文撰寫(xiě)綜合文字水平等9個(gè)三級(jí)指標(biāo),并分別確定了其權(quán)重。[5]381-385南京大學(xué)裴雷等最早開(kāi)始民口科技報(bào)告質(zhì)量控制與評(píng)價(jià)研究,提出了科技報(bào)告質(zhì)量評(píng)價(jià)指標(biāo)體系設(shè)計(jì)的原則、方法、描述框架和參考體系,將科技報(bào)告質(zhì)量分為文獻(xiàn)質(zhì)量、專(zhuān)業(yè)質(zhì)量和效益質(zhì)量3個(gè)層次,其中文獻(xiàn)質(zhì)量評(píng)價(jià)參考指標(biāo)包括語(yǔ)法質(zhì)量、形式質(zhì)量2個(gè)二級(jí)指標(biāo),下含4個(gè)三級(jí)指標(biāo)。[6]813-823朱麗波、陸海燕等分別建立了一套包括報(bào)告編撰水平、技術(shù)屬性、實(shí)用價(jià)值3個(gè)二級(jí)指標(biāo)的科技報(bào)告質(zhì)量評(píng)價(jià)指標(biāo)體系,其中前者包括9個(gè)三級(jí)指標(biāo)[7]80-84[8]57;后者構(gòu)建的農(nóng)業(yè)領(lǐng)域?qū)I(yè)研究所科技報(bào)告質(zhì)量控制評(píng)價(jià)體系共計(jì)包括18個(gè)指標(biāo),報(bào)告編撰水平包括報(bào)告記錄內(nèi)容完整性等9個(gè)指標(biāo)。[9]353-356任惠超等參考借鑒國(guó)防科技報(bào)告評(píng)價(jià)經(jīng)驗(yàn),將科技報(bào)告質(zhì)量分為科學(xué)價(jià)值、編制質(zhì)量和使用價(jià)值3個(gè)方面,將科技報(bào)告質(zhì)量評(píng)價(jià)分為驗(yàn)收階段和收錄1~2年后兩個(gè)階段,并分別賦予不同的評(píng)價(jià)指標(biāo)及其權(quán)重。[10]42-49。喬振等從科技報(bào)告質(zhì)量控制與評(píng)價(jià)標(biāo)準(zhǔn)、評(píng)價(jià)指標(biāo)體系、控制與評(píng)價(jià)方法3個(gè)方面,對(duì)當(dāng)前國(guó)內(nèi)科技報(bào)告質(zhì)量控制研究現(xiàn)狀進(jìn)行了闡述與總結(jié),并對(duì)山東省在科技報(bào)告質(zhì)量控制與評(píng)價(jià)中的做法進(jìn)行了梳理。[11]124-127杜薇薇從科技報(bào)告撰寫(xiě)各要素(引言、研究過(guò)程、結(jié)論等)的完整性與準(zhǔn)確性角度設(shè)計(jì)了最終科技報(bào)告文本質(zhì)量評(píng)價(jià)指標(biāo)和質(zhì)量評(píng)價(jià)參考標(biāo)準(zhǔn)。[12]96-100陳潔基于全面質(zhì)量管理理論,結(jié)合科技報(bào)告形成過(guò)程,構(gòu)建了包括報(bào)告文本格式和技術(shù)內(nèi)容2個(gè)一級(jí)指標(biāo),其中文本格式評(píng)價(jià)包括元數(shù)據(jù)規(guī)范性等5個(gè)指標(biāo)的科技報(bào)告質(zhì)量評(píng)價(jià)體系。[13]55-60

    從上可知,由于我國(guó)民口的科技報(bào)告制度建設(shè)啟動(dòng)較晚,國(guó)內(nèi)有關(guān)科技報(bào)告質(zhì)量評(píng)價(jià)體系研究方面的文獻(xiàn)相對(duì)較少,且多集中在科技報(bào)告質(zhì)量宏觀層面分析或全體系指標(biāo)構(gòu)建方面。大部分學(xué)者認(rèn)為,科技報(bào)告的質(zhì)量可分為文獻(xiàn)質(zhì)量(撰寫(xiě)水平、編制質(zhì)量)、專(zhuān)業(yè)質(zhì)量(技術(shù)內(nèi)容、科學(xué)價(jià)值)和效益質(zhì)量(應(yīng)用價(jià)值、使用價(jià)值)3個(gè)層次,文獻(xiàn)質(zhì)量是指科技報(bào)告的各個(gè)要素的完備性、格式的規(guī)范性和語(yǔ)言組織水平等,也即科技報(bào)告的編輯水平及規(guī)范性。在科技報(bào)告3個(gè)質(zhì)量層次中,文獻(xiàn)質(zhì)量為最基本的層次,是整個(gè)科技報(bào)告質(zhì)量的基礎(chǔ),專(zhuān)業(yè)質(zhì)量和效益質(zhì)量均需以文獻(xiàn)質(zhì)量為前提。關(guān)于科技報(bào)告文獻(xiàn)質(zhì)量的評(píng)價(jià),國(guó)內(nèi)學(xué)者從不同的角度提出了多個(gè)指標(biāo)體系,包含的二級(jí)指標(biāo)2~9個(gè)不等。研究組在上述研究基礎(chǔ)上,從分層次進(jìn)行質(zhì)量控制的角度出發(fā),結(jié)合工作實(shí)際,將科技報(bào)告質(zhì)量評(píng)價(jià)體系分為文獻(xiàn)質(zhì)量、專(zhuān)業(yè)質(zhì)量和效益質(zhì)量3個(gè)一級(jí)指標(biāo)和與之相關(guān)的8個(gè)二級(jí)指標(biāo),具體如表1所示。

    表1 科技報(bào)告質(zhì)量評(píng)價(jià)體系

    3 科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)體系構(gòu)建

    科技報(bào)告文獻(xiàn)質(zhì)量的影響因素作用于科技報(bào)告形成的全過(guò)程,進(jìn)而影響科技報(bào)告文獻(xiàn)質(zhì)量,同樣,這些影響因素也影響著科技報(bào)告文獻(xiàn)質(zhì)量的所有構(gòu)成要素。對(duì)科技報(bào)告文獻(xiàn)質(zhì)量的構(gòu)成要素進(jìn)行整理并建立評(píng)價(jià)體系,可以有效地對(duì)科技報(bào)告文獻(xiàn)質(zhì)量進(jìn)行定量的評(píng)判。適宜的科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)體系也是國(guó)家和省級(jí)科技報(bào)告管理服務(wù)機(jī)構(gòu)對(duì)科技報(bào)告文獻(xiàn)質(zhì)量加強(qiáng)控制的重要工具。

    (1)評(píng)價(jià)體系構(gòu)建原則

    在科技報(bào)告質(zhì)量評(píng)價(jià)指標(biāo)體系的構(gòu)建原則上,裴雷[6]813-823認(rèn)為應(yīng)包括:最低質(zhì)量標(biāo)準(zhǔn)與自由裁量原則,一致性原則,成本效益原則,多元評(píng)價(jià)原則,評(píng)價(jià)激勵(lì)原則。文獻(xiàn)質(zhì)量是科技報(bào)告質(zhì)量的一部分,本研究認(rèn)為,科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)指標(biāo)體系構(gòu)建在不違背上述總體原則的基礎(chǔ)上,重點(diǎn)應(yīng)遵循如下3個(gè)原則:(1)一致性。評(píng)價(jià)標(biāo)準(zhǔn)必須與現(xiàn)有的科技報(bào)告標(biāo)準(zhǔn)規(guī)范和相關(guān)的制度規(guī)范保持一致,如GB/T15416-2014、GB/T7713.3-2014、GB/T3034-2014、GB/T3035-2014、《國(guó)家科技報(bào)告管理辦法》等規(guī)范對(duì)科技報(bào)告編寫(xiě)的具體要求。(2)完備性。一份規(guī)范完整的科技報(bào)告由基本信息頁(yè)、目次、引言、主體、結(jié)論、參考文獻(xiàn)和附錄等部分組成,評(píng)價(jià)指標(biāo)體系應(yīng)盡可能覆蓋所有構(gòu)成元素。(3)可操作性。過(guò)于模糊籠統(tǒng)或復(fù)雜的指標(biāo)設(shè)計(jì),都會(huì)使評(píng)價(jià)不準(zhǔn)確或因成本高昂而變得不可行,適量地選擇與科技報(bào)告實(shí)體對(duì)應(yīng)關(guān)系明了、易于判斷操作的指標(biāo),是指標(biāo)體系具有實(shí)用價(jià)值的前提。

    (2)各級(jí)評(píng)價(jià)指標(biāo)的篩選

    遵循上述指標(biāo)體系構(gòu)建原則,首先收集原始指標(biāo)。本文基于前人的研究、作者工作經(jīng)驗(yàn),收集得到所有與科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)相關(guān)的原始指標(biāo)63個(gè),其中包括《科技報(bào)告編寫(xiě)規(guī)則》(GB/T7713.3-2014)中的科技報(bào)告構(gòu)成元素19個(gè),裴雷、朱麗波等前人的科技報(bào)告文獻(xiàn)質(zhì)量設(shè)計(jì)指標(biāo)27個(gè)[6]-[13],科技報(bào)告編寫(xiě)常見(jiàn)問(wèn)題17個(gè)[14]142-147。然后采用研究小組頭腦風(fēng)暴法進(jìn)行多輪討論,并征詢(xún)行業(yè)專(zhuān)家意見(jiàn),對(duì)指標(biāo)篩選和歸并。最終形成了對(duì)應(yīng)科技報(bào)告輯要頁(yè)表格的基本信息質(zhì)量,對(duì)科技報(bào)告篇章行文語(yǔ)法的結(jié)構(gòu)布局質(zhì)量,對(duì)科技報(bào)告文檔格式的正文格式質(zhì)量3個(gè)二級(jí)指標(biāo),下含14個(gè)三級(jí)指標(biāo)的科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)指標(biāo)體系。同時(shí)還制定了評(píng)判指標(biāo)完成情況的評(píng)分標(biāo)準(zhǔn),以便指標(biāo)體系應(yīng)用于實(shí)際工作中。評(píng)價(jià)指標(biāo)體系層次結(jié)構(gòu)關(guān)系、指標(biāo)說(shuō)明及評(píng)分標(biāo)準(zhǔn)如表2。

    表2 科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)指標(biāo)體系及其說(shuō)明

    (3)構(gòu)造判斷矩陣

    按照層次分析法(AHP)計(jì)算評(píng)價(jià)指標(biāo)體系權(quán)重的基本步驟,首先對(duì)評(píng)價(jià)指標(biāo)進(jìn)行標(biāo)度,構(gòu)造判斷矩陣。本文采用專(zhuān)家調(diào)研法,讓研究組成員及2名專(zhuān)家共5人,對(duì)準(zhǔn)則層基本信息質(zhì)量(B1)、結(jié)構(gòu)布局質(zhì)量(B2)和正文格式質(zhì)量(B3),采用1~9標(biāo)度法[15]39-44分別進(jìn)行兩兩標(biāo)度,并構(gòu)造判斷矩陣。然后對(duì)標(biāo)度結(jié)果進(jìn)行整理,對(duì)標(biāo)度不一致的地方進(jìn)行研究小組討論,重新標(biāo)度,直至結(jié)果完全統(tǒng)一。最終的準(zhǔn)則層判斷矩陣如下:

    采用同樣的方法,對(duì)指標(biāo)層的各指標(biāo)標(biāo)度并構(gòu)造判斷矩陣,對(duì)應(yīng)的3個(gè)判斷矩陣如下:

    (4)計(jì)算評(píng)價(jià)指標(biāo)相對(duì)權(quán)重和矩陣一致性檢驗(yàn)

    在層次分析法中,各個(gè)指標(biāo)在評(píng)價(jià)體系中所占的權(quán)重,被轉(zhuǎn)化為求指標(biāo)所屬判斷矩陣最大特征根λmax對(duì)應(yīng)的歸一化特征向量W。本文采用方根法[11]求得準(zhǔn)則層判斷矩陣A1最大特征根λmax為3,對(duì)應(yīng)的特征向量經(jīng)歸一化處理之后為WA=(0.1,0.6,0.3)T,也即準(zhǔn)則層3個(gè)指標(biāo)的相對(duì)權(quán)重分別為WB1=0.1,WB2=0.6,WB3=0.3。

    同理,可求得指標(biāo)層各判斷矩陣B1、B2、B3的最大特征根λmax和各個(gè)指標(biāo)相對(duì)權(quán)重對(duì)應(yīng)的歸一化特征向量W。計(jì)算結(jié)果如下:

    λB1=4.00,λB2=4.00,λB3=6.00

    WB1=(0.5238,0.2708,0.1354,0.0700)T

    WB2=(0.2215,0.6265,0.0760,0.0760)T

    WB3=(0.1336,0.0736,0.2428,0.4413,0.0386,0.0701)T

    在層次分析法中,判斷矩陣是否構(gòu)造得合理,需要對(duì)其一致性進(jìn)行檢驗(yàn)。避免判斷矩陣構(gòu)造的不合理而造成指標(biāo)權(quán)重計(jì)算的失真。

    一致性檢驗(yàn)時(shí)引入一致性檢驗(yàn)指標(biāo)CI

    其中λ為最大特征根,n為矩陣階數(shù)。

    同時(shí)查找矩陣階數(shù)對(duì)應(yīng)的隨機(jī)一致性指標(biāo)RI,計(jì)算檢驗(yàn)系數(shù)CR

    一般的,當(dāng)CI=0時(shí),判斷矩陣有完全的一致性,CI越大,判斷矩陣一致性越差。當(dāng)CR<0.1時(shí),可認(rèn)為判斷矩陣具有一致性,計(jì)算的權(quán)重值可以接受。否則需要調(diào)整判斷矩陣指標(biāo)標(biāo)度,直至符合條件。

    本文對(duì)以上判斷矩陣A1,B1、B2、B3的一致性進(jìn)行檢驗(yàn)計(jì)算,得到的CR分別為0、0.0008、0.0006、0.0051,表明各判斷矩陣均有很好的一致性。

    (5)計(jì)算評(píng)價(jià)指標(biāo)綜合權(quán)重

    將上述計(jì)算得到的各指標(biāo)相對(duì)權(quán)重與對(duì)應(yīng)準(zhǔn)則層的相對(duì)權(quán)重相乘,得到各指標(biāo)對(duì)目標(biāo)層的加權(quán)權(quán)重,計(jì)算結(jié)果如表3所示:

    在求得科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)體系各個(gè)指標(biāo)的綜合權(quán)重后,即可以參照表2給出的評(píng)分標(biāo)準(zhǔn),對(duì)某一份科技報(bào)告文獻(xiàn)質(zhì)量的各個(gè)指標(biāo)進(jìn)行評(píng)分,再對(duì)評(píng)分結(jié)果進(jìn)行歸一化處理之后,乘以各指標(biāo)的綜合權(quán)重。經(jīng)過(guò)歸一化和加權(quán)處理的評(píng)分之和,即為該份科技報(bào)告文獻(xiàn)質(zhì)量的評(píng)價(jià)得分結(jié)果。

    4 實(shí)證分析

    為驗(yàn)證上述評(píng)價(jià)體系的科學(xué)性和合理性,我們將上述科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)體系用于真實(shí)科技報(bào)告評(píng)價(jià),并將上述評(píng)價(jià)體系的評(píng)價(jià)結(jié)果與專(zhuān)家評(píng)價(jià)法的結(jié)果進(jìn)行了對(duì)比??紤]到評(píng)價(jià)結(jié)果的代表性,本文以國(guó)家科技報(bào)告服務(wù)系統(tǒng)(http://www.nstrs.cn)中科學(xué)技術(shù)部“國(guó)家科技支撐計(jì)劃”類(lèi)目下的科技報(bào)告為研究對(duì)象,抽取其中最新、公開(kāi)的45份科技報(bào)告作為樣本,進(jìn)行實(shí)證評(píng)價(jià)。

    對(duì)選取的科技報(bào)告,按照表2評(píng)分標(biāo)準(zhǔn)制作的打分表進(jìn)行逐一打分,將每個(gè)單項(xiàng)的打分結(jié)果除以該項(xiàng)滿(mǎn)分,進(jìn)行歸一化處理,再乘以表3中該項(xiàng)的綜合權(quán)重,最后轉(zhuǎn)換為百分制,即得最終評(píng)分結(jié)果。與科技報(bào)告文獻(xiàn)質(zhì)量相關(guān)的各評(píng)價(jià)指標(biāo)單項(xiàng)得分、綜合得分和得分排序如表4。

    表4 科技報(bào)告文獻(xiàn)質(zhì)量評(píng)分結(jié)果(部分)

    由表可知,國(guó)家科技報(bào)告服務(wù)系統(tǒng)收錄的“國(guó)家科技支撐計(jì)劃”科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)得分大部分在50~90分之間,樣本文獻(xiàn)質(zhì)量平均得分72.30分,總體處于良好的狀態(tài)。從表4和表5中可知,3個(gè)二級(jí)指標(biāo)中,(1)基本信息質(zhì)量的評(píng)分變異系數(shù)最小,得分率最高,各三級(jí)指標(biāo)的評(píng)分較也為穩(wěn)定,可能是由于這部分內(nèi)容在科技報(bào)告中是以表格形式展現(xiàn)的,作者只需要根據(jù)表格要求正確填寫(xiě),不容易出現(xiàn)文獻(xiàn)質(zhì)量問(wèn)題。(2)結(jié)構(gòu)布局質(zhì)量變異系數(shù)最大,而其中正文內(nèi)容指標(biāo)的變異系數(shù)較高,得分率組內(nèi)最低??梢?jiàn)科技報(bào)告的文獻(xiàn)質(zhì)量在結(jié)構(gòu)布局方面的差異較大,這可能是由于這部分文獻(xiàn)質(zhì)量與科技報(bào)告的專(zhuān)業(yè)質(zhì)量聯(lián)系緊密,結(jié)構(gòu)布局質(zhì)量不僅是形式上的正確表達(dá),更涉及研究?jī)?nèi)容本身是否完成,正確的形式表達(dá)是以完整的研究?jī)?nèi)容為前提。(3)正文格式質(zhì)量得分率最低,其中參考文獻(xiàn)指標(biāo)的變異系數(shù)最高,得分率最低。查看具體的科技報(bào)告可發(fā)現(xiàn)這是由于許多研究者不太重視參考文獻(xiàn)的規(guī)范編寫(xiě),甚至沒(méi)有參考文獻(xiàn)而導(dǎo)致的。

    表5 評(píng)分結(jié)果統(tǒng)計(jì)分析

    目前,我國(guó)的科技項(xiàng)目每年有數(shù)萬(wàn)份科技報(bào)告產(chǎn)生,標(biāo)準(zhǔn)化、程序化的科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià),其目的之一是輔助高成本、非程序化的專(zhuān)家評(píng)價(jià),減少專(zhuān)家評(píng)價(jià)的工作量。因此該評(píng)價(jià)體系的評(píng)價(jià)結(jié)果與專(zhuān)家評(píng)價(jià)結(jié)果的符合度,是該評(píng)價(jià)體系科學(xué)性和合理性的重要參考。

    本文從湖南省科技報(bào)告管理中心及有關(guān)市州科技報(bào)告管理機(jī)構(gòu)共邀請(qǐng)9名資深科技報(bào)告審核人員組成專(zhuān)家評(píng)價(jià)組,抽取前10份報(bào)告進(jìn)行專(zhuān)家評(píng)價(jià)。由于專(zhuān)家之間并沒(méi)有統(tǒng)一的打分標(biāo)準(zhǔn),只是對(duì)科技報(bào)告文獻(xiàn)質(zhì)量的總體評(píng)價(jià),因此只要求專(zhuān)家按科技報(bào)告文獻(xiàn)質(zhì)量?jī)?yōu)劣進(jìn)行排序,最后綜合各位專(zhuān)家的排序結(jié)果,進(jìn)行平均、取整,形成專(zhuān)家評(píng)價(jià)排名。將專(zhuān)家評(píng)價(jià)排序結(jié)果與應(yīng)用本文評(píng)價(jià)指標(biāo)體系的評(píng)價(jià)排序結(jié)果進(jìn)行比較,如表6。

    表6 專(zhuān)家評(píng)價(jià)與本文方法評(píng)價(jià)結(jié)果比較

    由表可知,本文構(gòu)建的指標(biāo)體系評(píng)分排序結(jié)果與專(zhuān)家排序的結(jié)果誤差均未超過(guò)1位,其中有6份報(bào)告的排序結(jié)果完全一致,另外4份報(bào)告的排序結(jié)果存在1位誤差。造成誤差的原因可能有二:一是由于參與排序評(píng)價(jià)的報(bào)告較多,而部分報(bào)告文獻(xiàn)質(zhì)量差距不大,造成專(zhuān)家評(píng)價(jià)排序不準(zhǔn)確。二是專(zhuān)家對(duì)科技報(bào)告文獻(xiàn)質(zhì)量概念認(rèn)知是定性的、總體的,而本文對(duì)科技報(bào)告文獻(xiàn)質(zhì)量已經(jīng)過(guò)充分討論并量化分解,因此,兩者可能存在細(xì)微的差異,造成評(píng)價(jià)排序結(jié)果誤差。從總體來(lái)看,排序結(jié)果并未出現(xiàn)大于2位的誤差,由此可知,本文構(gòu)建的評(píng)價(jià)指標(biāo)體系的打分排序結(jié)果和專(zhuān)家排序的結(jié)果重合度較高,評(píng)價(jià)結(jié)果較理想。

    5 結(jié)論與討論

    質(zhì)量是科技報(bào)告的生命,科技報(bào)告內(nèi)容伴隨科技項(xiàng)目管理全過(guò)程而產(chǎn)生,由于項(xiàng)目管理的環(huán)節(jié)多、周期長(zhǎng)等特點(diǎn),加之部分科研人員的科研記錄不詳盡、不完整習(xí)慣問(wèn)題,因此,如何完整、規(guī)范表述整個(gè)科技項(xiàng)目的研究?jī)?nèi)容,有效進(jìn)行質(zhì)量管理控制一直是科技報(bào)告研究的重要方面。開(kāi)展科技報(bào)告質(zhì)量評(píng)價(jià),是規(guī)范科技報(bào)告管理,促進(jìn)科技報(bào)告質(zhì)量提升的有效措施??萍紙?bào)告質(zhì)量按層次可分為文獻(xiàn)質(zhì)量、專(zhuān)業(yè)質(zhì)量和效益質(zhì)量,其中文獻(xiàn)質(zhì)量是基礎(chǔ)質(zhì)量,開(kāi)展科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)是對(duì)科技報(bào)告質(zhì)量的初步評(píng)判。科技報(bào)告文獻(xiàn)質(zhì)量的好壞可以在一定程度上反映科研人員的科研態(tài)度、科技項(xiàng)目執(zhí)行情況和文獻(xiàn)組織能力,是科技報(bào)告質(zhì)量的重要組成部分。

    本文構(gòu)建了一套基于實(shí)際需求、直觀、可操作性強(qiáng)的科技報(bào)告文獻(xiàn)質(zhì)量評(píng)價(jià)體系,在面對(duì)海量科技報(bào)告時(shí),能較高效地對(duì)科技報(bào)告文獻(xiàn)質(zhì)量作出評(píng)價(jià),有效縮小專(zhuān)家進(jìn)行專(zhuān)業(yè)質(zhì)量、效益質(zhì)量評(píng)價(jià)的報(bào)告范圍,為科技報(bào)告總體質(zhì)量的評(píng)估、評(píng)選優(yōu)秀科技報(bào)告等提供了參考依據(jù)和實(shí)用工具。

    本文的兩點(diǎn)不足之處:其一,本文僅僅只是就科技報(bào)告文獻(xiàn)質(zhì)量構(gòu)建了可與實(shí)操層面直接對(duì)接的評(píng)價(jià)指標(biāo)體系,而對(duì)科技報(bào)告的專(zhuān)業(yè)質(zhì)量和效益質(zhì)量尚未進(jìn)行類(lèi)似的研究,這是今后應(yīng)加強(qiáng)研究的方向之一。其二,開(kāi)展科技報(bào)告質(zhì)量評(píng)價(jià)只是科技報(bào)告質(zhì)量控制的措施之一,要做好科技報(bào)告質(zhì)量控制研究和工作,還應(yīng)同時(shí)加強(qiáng)宣傳培訓(xùn),優(yōu)化審核流程,落實(shí)考核和激勵(lì)機(jī)制等工作[11],[12],共同推進(jìn)科技報(bào)告質(zhì)量的穩(wěn)步提升,這也是今后研究和工作需要注意的方面。

    猜你喜歡
    指標(biāo)體系報(bào)告矩陣
    一圖看懂十九大報(bào)告
    層次分析法在生態(tài)系統(tǒng)健康評(píng)價(jià)指標(biāo)體系中的應(yīng)用
    供給側(cè)改革指標(biāo)體系初探
    報(bào)告
    初等行變換與初等列變換并用求逆矩陣
    矩陣
    南都周刊(2015年4期)2015-09-10 07:22:44
    矩陣
    南都周刊(2015年3期)2015-09-10 07:22:44
    報(bào)告
    矩陣
    南都周刊(2015年1期)2015-09-10 07:22:44
    報(bào)告
    亚洲国产色片| 69人妻影院| 国产野战对白在线观看| 在线a可以看的网站| 特级一级黄色大片| 亚洲在线自拍视频| 欧美成狂野欧美在线观看| 90打野战视频偷拍视频| 一级a爱片免费观看的视频| 永久网站在线| 欧美精品啪啪一区二区三区| 精品久久久久久久人妻蜜臀av| 国产精品久久电影中文字幕| 两人在一起打扑克的视频| 久99久视频精品免费| 18禁裸乳无遮挡免费网站照片| 亚洲无线在线观看| 麻豆国产97在线/欧美| 人人妻人人澡欧美一区二区| av天堂中文字幕网| 91在线观看av| 男人和女人高潮做爰伦理| 午夜a级毛片| 精品福利观看| 国产探花极品一区二区| 久久久久久久久中文| 国产在视频线在精品| 桃色一区二区三区在线观看| 国产精品嫩草影院av在线观看 | 精品国内亚洲2022精品成人| 直男gayav资源| 性欧美人与动物交配| 午夜福利视频1000在线观看| 极品教师在线免费播放| 88av欧美| 不卡一级毛片| 日本熟妇午夜| 精品久久久久久久久久免费视频| 国产精品久久久久久久久免 | 国产精品永久免费网站| 桃色一区二区三区在线观看| 嫁个100分男人电影在线观看| 免费大片18禁| 国产一区二区亚洲精品在线观看| 欧美在线黄色| 精品一区二区三区视频在线观看免费| 91九色精品人成在线观看| 啦啦啦观看免费观看视频高清| 国产美女午夜福利| 免费人成视频x8x8入口观看| 欧美日韩中文字幕国产精品一区二区三区| 18禁黄网站禁片免费观看直播| 国产老妇女一区| 日韩欧美在线乱码| 丰满人妻熟妇乱又伦精品不卡| 三级毛片av免费| 99久久无色码亚洲精品果冻| 免费观看人在逋| 国产国拍精品亚洲av在线观看| av欧美777| av天堂在线播放| 99久久久亚洲精品蜜臀av| 国产精品亚洲美女久久久| 中文字幕久久专区| 精品久久久久久成人av| 在线观看午夜福利视频| 露出奶头的视频| 日韩欧美三级三区| 午夜a级毛片| 人人妻,人人澡人人爽秒播| 午夜福利在线观看免费完整高清在 | 亚洲av免费高清在线观看| 欧美在线一区亚洲| 18禁在线播放成人免费| 国产一区二区在线av高清观看| 亚洲专区中文字幕在线| 夜夜看夜夜爽夜夜摸| 人妻制服诱惑在线中文字幕| 在线国产一区二区在线| 免费av观看视频| 国产精品人妻久久久久久| 国产在线男女| 亚洲av中文字字幕乱码综合| 波多野结衣巨乳人妻| 国产大屁股一区二区在线视频| 欧美丝袜亚洲另类 | 日韩欧美免费精品| 女生性感内裤真人,穿戴方法视频| 宅男免费午夜| 日韩中字成人| 亚洲一区二区三区色噜噜| 在线a可以看的网站| 成人国产综合亚洲| 午夜日韩欧美国产| 免费在线观看日本一区| av在线老鸭窝| 精品久久久久久成人av| 亚洲第一欧美日韩一区二区三区| 亚洲欧美激情综合另类| x7x7x7水蜜桃| 97超级碰碰碰精品色视频在线观看| 日韩有码中文字幕| 免费在线观看亚洲国产| 亚洲一区高清亚洲精品| 国产精品亚洲av一区麻豆| 午夜精品在线福利| 欧美成人a在线观看| 精品久久久久久久末码| 十八禁人妻一区二区| 精品久久久久久久末码| 午夜精品在线福利| 国产淫片久久久久久久久 | 国产v大片淫在线免费观看| 欧美国产日韩亚洲一区| 级片在线观看| 99热这里只有精品一区| www.熟女人妻精品国产| 老女人水多毛片| 亚洲av成人精品一区久久| 欧美潮喷喷水| 欧美激情国产日韩精品一区| 国产免费男女视频| 人人妻人人看人人澡| 中文字幕久久专区| 亚洲在线自拍视频| 色综合婷婷激情| 国产成+人综合+亚洲专区| 亚洲国产精品合色在线| 亚洲精品一卡2卡三卡4卡5卡| 在线天堂最新版资源| 久久香蕉精品热| 国内少妇人妻偷人精品xxx网站| 亚洲精品在线观看二区| 亚洲成人中文字幕在线播放| 九九久久精品国产亚洲av麻豆| 五月玫瑰六月丁香| 国产精品日韩av在线免费观看| 午夜福利免费观看在线| 嫩草影院新地址| 日日干狠狠操夜夜爽| 岛国在线免费视频观看| 深爱激情五月婷婷| 91在线精品国自产拍蜜月| 亚洲av第一区精品v没综合| 99久久无色码亚洲精品果冻| 最后的刺客免费高清国语| 天天躁日日操中文字幕| 午夜精品在线福利| 99久久精品国产亚洲精品| 久久久久性生活片| 91麻豆av在线| 99热这里只有精品一区| 精品一区二区三区av网在线观看| 天堂影院成人在线观看| 免费在线观看日本一区| 9191精品国产免费久久| 欧美潮喷喷水| netflix在线观看网站| 亚洲成av人片在线播放无| 国产伦在线观看视频一区| 成年版毛片免费区| 12—13女人毛片做爰片一| 久久国产乱子伦精品免费另类| 亚洲片人在线观看| 一二三四社区在线视频社区8| 国产一区二区三区在线臀色熟女| 久久亚洲真实| 看黄色毛片网站| av专区在线播放| 国内精品一区二区在线观看| 中文亚洲av片在线观看爽| 神马国产精品三级电影在线观看| 五月伊人婷婷丁香| 一进一出好大好爽视频| 久久这里只有精品中国| 日本精品一区二区三区蜜桃| 精品久久久久久久久av| 国内毛片毛片毛片毛片毛片| 色播亚洲综合网| 性色avwww在线观看| 久久午夜亚洲精品久久| 老司机午夜十八禁免费视频| 内地一区二区视频在线| 中文字幕久久专区| 欧美区成人在线视频| 免费看a级黄色片| avwww免费| 在线观看一区二区三区| 波多野结衣高清作品| 美女xxoo啪啪120秒动态图 | 窝窝影院91人妻| 成人高潮视频无遮挡免费网站| 亚洲 欧美 日韩 在线 免费| 神马国产精品三级电影在线观看| 亚洲片人在线观看| 久久99热这里只有精品18| 久久久久久久午夜电影| 免费搜索国产男女视频| 亚洲最大成人手机在线| 精品无人区乱码1区二区| 亚洲久久久久久中文字幕| 国产色婷婷99| 色5月婷婷丁香| 在线观看免费视频日本深夜| 国产av在哪里看| 国产91精品成人一区二区三区| a级毛片a级免费在线| 老鸭窝网址在线观看| 18禁黄网站禁片午夜丰满| 中文字幕人妻熟人妻熟丝袜美| 麻豆一二三区av精品| 欧美区成人在线视频| 日韩欧美国产一区二区入口| 亚洲综合色惰| 亚洲国产欧洲综合997久久,| 日本免费a在线| 国产淫片久久久久久久久 | 精品一区二区三区av网在线观看| 熟妇人妻久久中文字幕3abv| 欧美日韩黄片免| 亚洲精品成人久久久久久| 美女黄网站色视频| 两个人视频免费观看高清| 国产成人aa在线观看| 国产成人欧美在线观看| 午夜久久久久精精品| 国产精品乱码一区二三区的特点| 亚洲中文字幕一区二区三区有码在线看| 精品人妻1区二区| 少妇的逼好多水| 91在线精品国自产拍蜜月| 国内精品久久久久久久电影| 精品久久久久久久久久免费视频| 美女被艹到高潮喷水动态| 国产黄片美女视频| 午夜免费成人在线视频| 亚洲精品色激情综合| 美女xxoo啪啪120秒动态图 | 亚洲色图av天堂| 97碰自拍视频| 久久精品国产清高在天天线| 在线观看美女被高潮喷水网站 | 极品教师在线视频| 成人美女网站在线观看视频| 757午夜福利合集在线观看| 国产精品综合久久久久久久免费| 日韩成人在线观看一区二区三区| 99在线人妻在线中文字幕| 男女视频在线观看网站免费| 麻豆国产av国片精品| 中文字幕精品亚洲无线码一区| 国产亚洲欧美98| 最近最新中文字幕大全电影3| 午夜免费男女啪啪视频观看 | 麻豆国产97在线/欧美| 国产高清有码在线观看视频| 男人的好看免费观看在线视频| 男人狂女人下面高潮的视频| 精品人妻一区二区三区麻豆 | 在线观看免费视频日本深夜| 亚洲乱码一区二区免费版| 露出奶头的视频| 成年人黄色毛片网站| 人妻久久中文字幕网| 国产精品亚洲美女久久久| 国产毛片a区久久久久| 中文字幕av成人在线电影| 国产伦精品一区二区三区视频9| 最近视频中文字幕2019在线8| 亚洲欧美清纯卡通| 婷婷丁香在线五月| a级一级毛片免费在线观看| 亚洲精品成人久久久久久| 在线观看av片永久免费下载| 搡老岳熟女国产| 国产一区二区激情短视频| 亚洲黑人精品在线| 99久久精品国产亚洲精品| 国产精品一区二区免费欧美| 看十八女毛片水多多多| 色在线成人网| 久久精品综合一区二区三区| 亚洲av免费高清在线观看| 一卡2卡三卡四卡精品乱码亚洲| 丰满人妻熟妇乱又伦精品不卡| 在线播放无遮挡| 永久网站在线| 91麻豆精品激情在线观看国产| 日本免费a在线| 精品人妻熟女av久视频| 国产aⅴ精品一区二区三区波| 久久久久免费精品人妻一区二区| 97碰自拍视频| 亚洲av成人av| 日本 欧美在线| 精品午夜福利视频在线观看一区| 精品久久久久久久人妻蜜臀av| 亚洲精品在线美女| 国产主播在线观看一区二区| 观看美女的网站| 成年免费大片在线观看| 亚洲午夜理论影院| 午夜福利高清视频| 国产91精品成人一区二区三区| 天天躁日日操中文字幕| 成年免费大片在线观看| 18+在线观看网站| 两个人的视频大全免费| 日本精品一区二区三区蜜桃| 日韩高清综合在线| 日本三级黄在线观看| 久久久久国产精品人妻aⅴ院| 日韩成人在线观看一区二区三区| 久久久久久久午夜电影| 最近在线观看免费完整版| 99热这里只有是精品50| 亚洲人成网站在线播放欧美日韩| 香蕉av资源在线| 久久精品国产清高在天天线| 日韩欧美三级三区| www.www免费av| 老女人水多毛片| 婷婷精品国产亚洲av| 不卡一级毛片| 丰满的人妻完整版| 日韩欧美精品免费久久 | 好男人电影高清在线观看| 欧美精品国产亚洲| 成人性生交大片免费视频hd| 国产激情偷乱视频一区二区| 又粗又爽又猛毛片免费看| 深爱激情五月婷婷| 精品午夜福利视频在线观看一区| 国产毛片a区久久久久| 热99在线观看视频| 成人无遮挡网站| 国产又黄又爽又无遮挡在线| 亚洲国产高清在线一区二区三| 日本精品一区二区三区蜜桃| 简卡轻食公司| 免费在线观看日本一区| 日韩免费av在线播放| 欧美日韩中文字幕国产精品一区二区三区| 成人av在线播放网站| 日日摸夜夜添夜夜添小说| 九九在线视频观看精品| 国产高清视频在线观看网站| 热99re8久久精品国产| 中文资源天堂在线| av国产免费在线观看| 18美女黄网站色大片免费观看| 久久久久精品国产欧美久久久| 全区人妻精品视频| 麻豆国产97在线/欧美| 欧美黄色淫秽网站| 白带黄色成豆腐渣| 久久精品国产自在天天线| 天天躁日日操中文字幕| 乱码一卡2卡4卡精品| 变态另类成人亚洲欧美熟女| avwww免费| 最近中文字幕高清免费大全6 | 欧美成人免费av一区二区三区| 亚洲男人的天堂狠狠| 欧美乱色亚洲激情| 一个人看的www免费观看视频| 熟女电影av网| 日韩成人在线观看一区二区三区| 一二三四社区在线视频社区8| 亚洲黑人精品在线| 国产精品永久免费网站| 国产免费男女视频| 亚洲专区中文字幕在线| 国产aⅴ精品一区二区三区波| 日韩亚洲欧美综合| 成人鲁丝片一二三区免费| 怎么达到女性高潮| 老司机深夜福利视频在线观看| 国产精品久久久久久久电影| 自拍偷自拍亚洲精品老妇| 一二三四社区在线视频社区8| 99国产精品一区二区蜜桃av| 两人在一起打扑克的视频| 亚洲在线自拍视频| 又黄又爽又免费观看的视频| 大型黄色视频在线免费观看| 色综合亚洲欧美另类图片| 嫩草影院新地址| 久久久色成人| 日韩欧美国产在线观看| 精品国产亚洲在线| 色综合亚洲欧美另类图片| 亚洲性夜色夜夜综合| 国模一区二区三区四区视频| 老司机午夜福利在线观看视频| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 亚洲人成电影免费在线| 久久久精品大字幕| 亚洲av二区三区四区| 久久国产乱子伦精品免费另类| 琪琪午夜伦伦电影理论片6080| 69av精品久久久久久| 老司机午夜福利在线观看视频| 国产av麻豆久久久久久久| 国产乱人伦免费视频| 日韩中字成人| 欧美一区二区亚洲| 51午夜福利影视在线观看| 欧美高清性xxxxhd video| 99久久99久久久精品蜜桃| 国产一级毛片七仙女欲春2| 少妇丰满av| 90打野战视频偷拍视频| 亚洲欧美日韩高清专用| 欧美国产日韩亚洲一区| 国产乱人伦免费视频| eeuss影院久久| 超碰av人人做人人爽久久| 免费在线观看亚洲国产| 亚洲国产精品久久男人天堂| 淫妇啪啪啪对白视频| 一区二区三区高清视频在线| 91麻豆精品激情在线观看国产| 国产精品久久视频播放| 人妻久久中文字幕网| 特级一级黄色大片| 国产不卡一卡二| 一级毛片久久久久久久久女| 亚洲第一电影网av| 在线a可以看的网站| 一进一出好大好爽视频| 国产美女午夜福利| 麻豆一二三区av精品| 色哟哟哟哟哟哟| 国产伦人伦偷精品视频| 99热这里只有是精品在线观看 | 自拍偷自拍亚洲精品老妇| 俄罗斯特黄特色一大片| 精品熟女少妇八av免费久了| 人妻制服诱惑在线中文字幕| 亚洲精品在线观看二区| av在线天堂中文字幕| 久久人妻av系列| 精品一区二区三区视频在线观看免费| 亚洲av免费在线观看| 欧美黄色淫秽网站| 18+在线观看网站| 日韩人妻高清精品专区| 日韩欧美三级三区| 老鸭窝网址在线观看| 成人鲁丝片一二三区免费| 欧美日本视频| 亚洲精品在线美女| 观看免费一级毛片| 99国产精品一区二区三区| 在线观看一区二区三区| 偷拍熟女少妇极品色| 国产中年淑女户外野战色| 精品久久久久久久久久免费视频| 亚洲电影在线观看av| 宅男免费午夜| 成人无遮挡网站| 日韩亚洲欧美综合| 两人在一起打扑克的视频| 亚洲一区二区三区不卡视频| 亚洲精品亚洲一区二区| 90打野战视频偷拍视频| 亚洲成人久久爱视频| 亚洲专区国产一区二区| 九九久久精品国产亚洲av麻豆| 亚洲精品影视一区二区三区av| 91麻豆av在线| 成人高潮视频无遮挡免费网站| 18禁黄网站禁片免费观看直播| 一级毛片久久久久久久久女| 久久久久性生活片| 蜜桃亚洲精品一区二区三区| 亚洲中文日韩欧美视频| 精品久久久久久,| 国产成人影院久久av| 成人一区二区视频在线观看| 亚洲真实伦在线观看| 日本免费a在线| 欧美3d第一页| 成年女人看的毛片在线观看| 在线免费观看的www视频| 人妻久久中文字幕网| 日本成人三级电影网站| 日韩欧美一区二区三区在线观看| 成年女人毛片免费观看观看9| 国产毛片a区久久久久| 日本 av在线| 三级毛片av免费| 看免费av毛片| 久久精品夜夜夜夜夜久久蜜豆| 少妇裸体淫交视频免费看高清| 欧美3d第一页| 日韩精品中文字幕看吧| www.色视频.com| 给我免费播放毛片高清在线观看| 又黄又爽又免费观看的视频| 国产伦精品一区二区三区视频9| 国产一区二区三区在线臀色熟女| 高潮久久久久久久久久久不卡| 国产乱人视频| 在线观看美女被高潮喷水网站 | 久久天躁狠狠躁夜夜2o2o| 日本黄色片子视频| 老熟妇仑乱视频hdxx| 欧美日韩中文字幕国产精品一区二区三区| 精品无人区乱码1区二区| 悠悠久久av| 日本黄色视频三级网站网址| 国产欧美日韩精品亚洲av| 两人在一起打扑克的视频| 在线十欧美十亚洲十日本专区| 人人妻人人澡欧美一区二区| 欧美在线一区亚洲| 亚洲美女搞黄在线观看 | 亚洲欧美日韩东京热| 五月伊人婷婷丁香| 国产黄色小视频在线观看| 人妻久久中文字幕网| 99国产极品粉嫩在线观看| 午夜亚洲福利在线播放| 尤物成人国产欧美一区二区三区| 日本黄大片高清| 亚洲性夜色夜夜综合| 日韩欧美国产在线观看| 亚洲精品成人久久久久久| 免费观看的影片在线观看| 精品久久久久久久人妻蜜臀av| www日本黄色视频网| 亚洲五月天丁香| av专区在线播放| 亚洲国产欧洲综合997久久,| 能在线免费观看的黄片| 国产精品99久久久久久久久| 国产伦精品一区二区三区视频9| 给我免费播放毛片高清在线观看| 中文字幕高清在线视频| 国产一区二区在线av高清观看| 亚洲精品456在线播放app | 女人十人毛片免费观看3o分钟| 99热这里只有精品一区| 亚洲国产高清在线一区二区三| 国产成年人精品一区二区| 亚洲美女搞黄在线观看 | 亚洲片人在线观看| 一本久久中文字幕| 久久香蕉精品热| 制服丝袜大香蕉在线| 一本综合久久免费| 日韩欧美三级三区| 久久久久精品国产欧美久久久| 国内精品美女久久久久久| 综合色av麻豆| 免费人成在线观看视频色| 国产真实伦视频高清在线观看 | 麻豆成人av在线观看| 免费av毛片视频| 久99久视频精品免费| 永久网站在线| 亚洲七黄色美女视频| 国产成+人综合+亚洲专区| 久久精品夜夜夜夜夜久久蜜豆| 在现免费观看毛片| 99国产精品一区二区三区| 亚洲av日韩精品久久久久久密| 亚洲精品456在线播放app | 免费观看的影片在线观看| 真人做人爱边吃奶动态| 日韩成人在线观看一区二区三区| 女人十人毛片免费观看3o分钟| 欧美潮喷喷水| www.色视频.com| 能在线免费观看的黄片| 伦理电影大哥的女人| АⅤ资源中文在线天堂| 国产日本99.免费观看| 成人国产一区最新在线观看| 亚洲成人久久爱视频| 成人国产一区最新在线观看| 国内精品久久久久久久电影| 亚洲 欧美 日韩 在线 免费| 禁无遮挡网站| 国产熟女xx| 久久99热这里只有精品18| 蜜桃久久精品国产亚洲av| 99久久久亚洲精品蜜臀av| 亚洲av熟女| 精品国内亚洲2022精品成人| 国产一区二区在线观看日韩| 亚洲欧美日韩高清专用| 国产精品一区二区性色av| 男女之事视频高清在线观看| 99热这里只有是精品50| 国产一区二区在线观看日韩| 午夜免费激情av| 成人精品一区二区免费| 一进一出好大好爽视频| xxxwww97欧美| 午夜两性在线视频| 一区二区三区四区激情视频 | 久久精品国产亚洲av天美| 午夜福利欧美成人| 能在线免费观看的黄片| 网址你懂的国产日韩在线| a级毛片免费高清观看在线播放| 国产av一区在线观看免费| 国产精品久久久久久精品电影| 国产成人av教育| 内射极品少妇av片p| 国产欧美日韩精品亚洲av| 99久国产av精品|