• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)在高利害考試中應(yīng)用的前景分析

    2019-03-14 13:33彭恒利
    內(nèi)蒙古教育·科研版 2019年1期
    關(guān)鍵詞:前景應(yīng)用

    彭恒利

    摘 要:主觀性試題的評(píng)分是考試界的難題。隨著計(jì)算機(jī)技術(shù)以及測(cè)量技術(shù)的迅猛發(fā)展,主觀性試題的計(jì)算機(jī)自動(dòng)評(píng)分由設(shè)想變成了現(xiàn)實(shí)。自動(dòng)評(píng)分涉及自然語(yǔ)言處理、信息檢索、人工智能等多個(gè)領(lǐng)域,核心是語(yǔ)音和圖像的識(shí)別、特征值的提取、模型的構(gòu)建等。目前,計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)雖然取得重大進(jìn)展,但尚有很大的提升空間,若能在實(shí)評(píng)中克服打保險(xiǎn)分、跑題高評(píng)的不足,完全可以替代人工評(píng)分,在高利害考試中廣泛應(yīng)用。

    關(guān)鍵詞:計(jì)算機(jī)自動(dòng)評(píng)分;高利害考試;應(yīng)用;前景

    【中圖分類(lèi)號(hào)】G 【文獻(xiàn)標(biāo)識(shí)碼】B 【文章編號(hào)】1008-1216(2019)01B-0004-03

    主觀性試題因其命題的角度靈活、測(cè)查的能力維度多樣以及效度方面的優(yōu)勢(shì)在高利害考試中得到了廣泛應(yīng)用,雅思(IELTS)、托福(TOEFL)、中國(guó)漢語(yǔ)水平考試(HSK)、中國(guó)少數(shù)民族漢語(yǔ)水平等級(jí)考試(MHK)以及高考、研究生考試等這些與考生切身利益高度相關(guān)的高利害考試中均設(shè)有主觀性試題。主觀性試題泛指無(wú)固定答案、采用多級(jí)計(jì)分的題目,如筆試中的簡(jiǎn)答、論述題、作文等,口試中的問(wèn)答、口頭報(bào)告等,其特點(diǎn)突出,缺陷也比較明顯:評(píng)分的信度和效度偏低、閱卷的耗費(fèi)大、效率低,等等。雖然網(wǎng)上評(píng)閱技術(shù)的應(yīng)用對(duì)此做了有效彌補(bǔ),但人工評(píng)分的趨中評(píng)分、疲勞效應(yīng)、評(píng)分效率低等問(wèn)題依然突出。隨著計(jì)算機(jī)科學(xué)技術(shù)的快速發(fā)展,自然語(yǔ)言處理技術(shù)、大數(shù)據(jù)、人工智能等有了長(zhǎng)足進(jìn)展。為了克服人工閱卷帶來(lái)的弊端,一些考試機(jī)構(gòu)嘗試用計(jì)算機(jī)自動(dòng)評(píng)分系統(tǒng)來(lái)替代或部分替代人工閱卷員進(jìn)行評(píng)分,試圖破解主觀性試題的評(píng)分難題,由此計(jì)算機(jī)自動(dòng)評(píng)分(Computer-Automated Scoring,CAS)就由設(shè)想變成了可能,許多大公司和考試機(jī)構(gòu)投巨資進(jìn)行攻關(guān),計(jì)算機(jī)自動(dòng)評(píng)分系統(tǒng)被紛紛推出,并展現(xiàn)出了廣闊的應(yīng)用前景。

    一、計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)的發(fā)展沿革

    計(jì)算機(jī)自動(dòng)評(píng)分研究肇始于1966年Ellis Page建立的作文自動(dòng)反饋系統(tǒng)。起初開(kāi)發(fā)這套系統(tǒng)的主要目的是為了在課堂上及時(shí)給學(xué)生進(jìn)行反饋,試圖通過(guò)計(jì)算機(jī)分析學(xué)生的作文,為學(xué)生提供有針對(duì)性的反饋。這種理念也影響了后期MyAccess!TM、WritetoLearnTM以及Criterion的網(wǎng)上寫(xiě)作評(píng)價(jià)系統(tǒng)的開(kāi)發(fā)。亦即最初的計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)主要用于測(cè)試練習(xí),僅給考生報(bào)告機(jī)器評(píng)分,一旦用于高利害、高風(fēng)險(xiǎn)的考試中,則會(huì)比較謹(jǐn)慎,如美國(guó)教育考試服務(wù)中心(ETS)在GRE以及托??荚囍校ǔ?huì)采用“人機(jī)雙評(píng)”,即一個(gè)評(píng)分員和e-rater聯(lián)合評(píng)分,并且在最后的分?jǐn)?shù)報(bào)告中僅采用評(píng)分員評(píng)分。

    口語(yǔ)計(jì)算機(jī)自動(dòng)評(píng)分的應(yīng)用晚于作文。20世紀(jì)90年代初,SpeechRater投入使用,并于2006年用于TPO,口語(yǔ)的評(píng)分直接由機(jī)器完成。之后,培生公司的口語(yǔ)測(cè)試系統(tǒng)Ordinate和SpeechRater齊頭并進(jìn),展現(xiàn)出良好的發(fā)展勢(shì)頭。但兩者的技術(shù)路線卻有較大差異,SpeechRater的核心技術(shù)是自然語(yǔ)言處理,它能夠評(píng)價(jià)考生的發(fā)音、語(yǔ)言表達(dá)的流利程度、語(yǔ)法的準(zhǔn)確性以及一部分作答內(nèi)容,測(cè)試題目多采用非限定性題目,側(cè)重于考查考生的“自由發(fā)揮”的口語(yǔ)能力,評(píng)分準(zhǔn)確度與人工評(píng)分員的相關(guān)為0.7;而以O(shè)rdinate為技術(shù)核心的培生英語(yǔ)口試Versant則更側(cè)重于口語(yǔ)表達(dá)的熟練程度,測(cè)試多采用封閉式的問(wèn)題,答案高度限定,依靠考生大聲朗讀、造句以及列舉反義詞等方式來(lái)“預(yù)測(cè)”考生的口語(yǔ)熟練程度,而非直接測(cè)量考生能力。由于答案的高度限定性,培生英語(yǔ)口試可以直接采用機(jī)器分?jǐn)?shù)為報(bào)告分?jǐn)?shù)。此外,這種技術(shù)顯示出較強(qiáng)的通用性,除了英語(yǔ)版,Versant口語(yǔ)考試還包括中文、西班牙語(yǔ)、阿拉伯語(yǔ)、荷蘭語(yǔ)以及法語(yǔ)口語(yǔ)考試。

    國(guó)內(nèi)的計(jì)算機(jī)自動(dòng)評(píng)分研究與國(guó)外的類(lèi)似,作文的自動(dòng)評(píng)分研究早于口語(yǔ)。因手寫(xiě)體識(shí)別的瓶頸沒(méi)有實(shí)質(zhì)性的突破,作文的自動(dòng)評(píng)分出現(xiàn)了短期的停滯。之后技術(shù)的突破是從英語(yǔ)開(kāi)始的。梁茂成于2008年主持的項(xiàng)目“大規(guī)??荚囉⒄Z(yǔ)作文自動(dòng)評(píng)分系統(tǒng)的研制”通過(guò)了鑒定,有學(xué)者認(rèn)為“該評(píng)分系統(tǒng)的評(píng)分信度高于e-rater并且達(dá)到了可操作水平”。此外,還有外研社開(kāi)發(fā)的新視野大學(xué)英語(yǔ)在線學(xué)習(xí)系統(tǒng)中的自動(dòng)評(píng)分系統(tǒng)、浙江大學(xué)和杭州增慧網(wǎng)絡(luò)科技有限公司聯(lián)合開(kāi)發(fā)的“冰果英語(yǔ)智能評(píng)閱系統(tǒng)”,以及“批改網(wǎng)”等。

    隨著手寫(xiě)識(shí)別技術(shù)的快速發(fā)展,近年來(lái),國(guó)內(nèi)的計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)又有了新的突破。根據(jù)科大訊飛的技術(shù)報(bào)告,計(jì)算機(jī)識(shí)別英文書(shū)寫(xiě)篇章復(fù)雜版面的準(zhǔn)確率可高達(dá)98%,并能讓計(jì)算機(jī)準(zhǔn)確地切分英文,能辨別書(shū)寫(xiě)、空白、涂抹以及插入?yún)^(qū)域,計(jì)算機(jī)線下中英文手寫(xiě)與計(jì)算機(jī)轉(zhuǎn)寫(xiě)的準(zhǔn)確度高達(dá)96.5%。也就是說(shuō),該項(xiàng)技術(shù)實(shí)現(xiàn)了手寫(xiě)體的識(shí)別和評(píng)分,在技術(shù)上領(lǐng)先于e-rater,因?yàn)閑-rater目前僅支持計(jì)算機(jī)輸入,紙筆作答暫時(shí)無(wú)法進(jìn)行計(jì)算機(jī)自動(dòng)評(píng)分。

    而語(yǔ)音識(shí)別技術(shù)的突破則助推了口語(yǔ)測(cè)評(píng)系統(tǒng)在實(shí)際考試中的應(yīng)用。2007年,科大訊飛發(fā)布了首個(gè)口語(yǔ)朗讀測(cè)評(píng)系統(tǒng)作為高利害考試的測(cè)評(píng)平臺(tái),標(biāo)志著口語(yǔ)測(cè)評(píng)進(jìn)入了實(shí)用階段。2012年,廣東高考的英語(yǔ)口語(yǔ)考試開(kāi)始使用訊飛的口語(yǔ)評(píng)測(cè)技術(shù),這在國(guó)內(nèi)高利害考試的評(píng)分中具有了里程碑的意義。目前,普通話(huà)水平測(cè)試(PSC)、中考英語(yǔ)測(cè)試以及中國(guó)少數(shù)民族漢語(yǔ)水平等級(jí)考試(MHK)也采用了訊飛的口語(yǔ)自動(dòng)評(píng)分技術(shù)。

    縱觀國(guó)內(nèi)外的相關(guān)研究和應(yīng)用,我們可以清楚地看到計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)的發(fā)展脈絡(luò):在評(píng)分技術(shù)上,現(xiàn)有的自動(dòng)評(píng)分系統(tǒng)基本上都是建立在語(yǔ)音合成、語(yǔ)音識(shí)別和圖像識(shí)別的技術(shù)之上,通過(guò)特征值的提取、聚類(lèi)、回歸等方式,實(shí)現(xiàn)了不能到能的跨越,在評(píng)分效率、穩(wěn)定性和一致性上接近或超過(guò)了人人評(píng)分;在技術(shù)應(yīng)用上,涉及的題型也在不斷擴(kuò)展,從朗讀、跟讀、簡(jiǎn)答到自由回答,實(shí)現(xiàn)了從封閉性型向半封閉、開(kāi)放性型的拓展;在評(píng)分質(zhì)量研究上,實(shí)現(xiàn)了從單純注重信度(人機(jī)相關(guān)、大分差率)到信效度并重的轉(zhuǎn)變。

    二、計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)涉及的核心問(wèn)題

    計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)的開(kāi)發(fā)和應(yīng)用涉及多個(gè)學(xué)科,是集計(jì)算機(jī)科學(xué)、語(yǔ)言學(xué)、統(tǒng)計(jì)學(xué)、心理與教育測(cè)量學(xué)之大成??谡Z(yǔ)和書(shū)面語(yǔ)的呈現(xiàn)方式不同,語(yǔ)言類(lèi)型的不同,會(huì)給技術(shù)開(kāi)發(fā)的路線帶來(lái)一定的影響,但就計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)來(lái)講,任何一個(gè)自動(dòng)評(píng)分系統(tǒng)的開(kāi)發(fā)和應(yīng)用都離不開(kāi)圖像或者語(yǔ)音識(shí)別、特征值抽取、模型篩選、算法確定、分?jǐn)?shù)報(bào)告與解釋等幾個(gè)核心環(huán)節(jié),其中涉及矢量空間模型技術(shù)、自然語(yǔ)言處理技術(shù)、信息檢索技術(shù)、統(tǒng)計(jì)技術(shù)、人工智能等。為便于理解,下面從語(yǔ)音和圖像識(shí)別、特征值以及模型三個(gè)方面進(jìn)行介紹。

    (一)語(yǔ)音識(shí)別與圖像識(shí)別

    從自動(dòng)評(píng)分的流程上來(lái)劃分,計(jì)算機(jī)自動(dòng)評(píng)分系統(tǒng)大致可分為識(shí)別端和評(píng)分端。語(yǔ)音識(shí)別和圖像識(shí)別屬于識(shí)別端,它是主觀性試題自動(dòng)評(píng)分的起點(diǎn)。語(yǔ)音識(shí)別主要用于口語(yǔ)考試,圖像識(shí)別主要用于書(shū)面的筆答如作文考試等。語(yǔ)音識(shí)別需要根據(jù)聲譜特征確定聲學(xué)模型,然后還要進(jìn)行降噪、聲學(xué)特征提取、說(shuō)話(huà)人自適應(yīng)、轉(zhuǎn)換詞圖、標(biāo)識(shí)置信度等工作。早期的語(yǔ)言識(shí)別模型一般采用隱馬爾可夫模型,如SpeechRater和Ordinate均采用了該模型,但這種模型的識(shí)別率不高,SpeechRater的單詞識(shí)別率僅為50%。現(xiàn)代的語(yǔ)音識(shí)別和圖像識(shí)別均采用了深度神經(jīng)網(wǎng)絡(luò)模型,從而使識(shí)別的速度更快、準(zhǔn)確率更高。據(jù)科大訊飛網(wǎng)上的資料介紹,其語(yǔ)音和手寫(xiě)體的識(shí)別準(zhǔn)確率都達(dá)95%以上。

    (二)特征值抽取

    Bennett &Bejar(1998)提出了自動(dòng)評(píng)分開(kāi)發(fā)以及評(píng)估的兩個(gè)基本步驟:(1)抽取特征值;(2)將這些特征值通過(guò)某種模型統(tǒng)一成一個(gè)總體的分?jǐn)?shù)。確定了特征值,也就代表了自動(dòng)評(píng)分系統(tǒng)會(huì)“按圖索驥”,根據(jù)人工設(shè)定的一系列語(yǔ)法、語(yǔ)義、語(yǔ)用、修辭特征判斷考生的表達(dá)能力處于量表的何處。進(jìn)一步講,特征值即代表了測(cè)試的部分構(gòu)念。

    目前,主觀題自動(dòng)評(píng)分的特征值多集中考查一些淺語(yǔ)言特征,語(yǔ)法、句法等語(yǔ)言特征是最容易獲取也最容易評(píng)分的內(nèi)容。以e-rater為例,它的11項(xiàng)原始特征值中,有9個(gè)是語(yǔ)言特征,另外2個(gè)為內(nèi)容特征。這9個(gè)語(yǔ)言特征分別是:文章結(jié)構(gòu)、行文、語(yǔ)法、語(yǔ)言使用、標(biāo)點(diǎn)拼寫(xiě)等書(shū)寫(xiě)規(guī)則、風(fēng)格、平均詞長(zhǎng)、詞頻、地道程度。每個(gè)原始語(yǔ)言特征還包含一些易于統(tǒng)計(jì)和計(jì)算的子特征,比如書(shū)寫(xiě)規(guī)則就包括拼寫(xiě)、大小寫(xiě)、標(biāo)點(diǎn)符號(hào)、復(fù)合詞規(guī)則,等等。然而有些原始特征僅能依賴(lài)一些非直接的統(tǒng)計(jì)因素,比如文章結(jié)構(gòu)特征值在很大程度上依賴(lài)于文章的長(zhǎng)度。結(jié)構(gòu)和行文兩項(xiàng)特征值中,60%的得分來(lái)自文章長(zhǎng)度,書(shū)寫(xiě)等規(guī)則占該項(xiàng)得分的10%,其余30%則取決于考生的語(yǔ)法句法水平。內(nèi)容特征則更加難于數(shù)據(jù)化,e-rater的兩個(gè)內(nèi)容特征值能夠測(cè)量的內(nèi)容質(zhì)量是非常有限的,而寫(xiě)作的語(yǔ)氣、口吻等內(nèi)容目前的技術(shù)水平還難以測(cè)量。這也是部分非測(cè)量界學(xué)者一直批評(píng)主觀題自動(dòng)評(píng)分的一個(gè)主要原因。目前的特征值僅能測(cè)試一些語(yǔ)言熟練程度以及簡(jiǎn)單交流,而對(duì)內(nèi)容、文章謀篇布局等寫(xiě)作層面上的因素關(guān)注得太少。此外,子特征值是否能夠完全涵蓋原始特征值的全部也是爭(zhēng)議的焦點(diǎn)。如果子特征值無(wú)法完全涵蓋原始特征值,而原始特征值又無(wú)法涵蓋主觀題測(cè)試的構(gòu)念,那么主觀題自動(dòng)評(píng)分的構(gòu)念就值得進(jìn)一步商榷。

    (三)模型構(gòu)建

    確立了特征值,之后就需要通過(guò)數(shù)學(xué)模型將加權(quán)后的特征值綜合評(píng)判給出分?jǐn)?shù)。模型的構(gòu)建是一個(gè)復(fù)雜的過(guò)程,一般來(lái)說(shuō),模型的開(kāi)發(fā)和驗(yàn)證需要500~2000個(gè)樣本,評(píng)分也可采用多種模型,目前實(shí)際用于大規(guī)??荚嚨哪P椭饕ǎ壕€性回歸、多元回歸模型、分類(lèi)樹(shù)模型、基于規(guī)則的專(zhuān)家系統(tǒng)等。

    研究者還嘗試使用了一些新的模型,如貝葉斯網(wǎng)絡(luò)、人工智能網(wǎng)絡(luò)等。McNamara et al.(2015)采用了層級(jí)聚類(lèi)的算法評(píng)閱高中生和大學(xué)新生的寫(xiě)作,研究結(jié)果表明,使用這種算法機(jī)器評(píng)分與人工評(píng)分達(dá)到了55%的絕對(duì)一致率和92%的相鄰一致率。國(guó)內(nèi)自動(dòng)評(píng)分系統(tǒng)常用的模型多為回歸模型。

    在技術(shù)層面上,學(xué)界對(duì)模型的評(píng)判較多關(guān)注的是機(jī)器評(píng)分員與人工評(píng)分員的一致性、人機(jī)一致性和人人一致性的比較、機(jī)器評(píng)分員和人工評(píng)分員平均分的比較等。此外,評(píng)判模型的一個(gè)重要因素還要考查其是否很好地代表了構(gòu)念。

    特征值抽取和模型確定是自動(dòng)評(píng)分技術(shù)中最核心的部分,也是各考試機(jī)構(gòu)以及研究者研究的重點(diǎn)。因考試內(nèi)容和目的不同,各考試機(jī)構(gòu)以及研究者的技術(shù)路線或有差異,但都會(huì)將其中的許多特征值和變量作為技術(shù)內(nèi)核,視為專(zhuān)利或商業(yè)機(jī)密鮮有公布。

    三、計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)在高利害考試中應(yīng)用的前景

    據(jù)Ramineini和Williamson(2013)的調(diào)查,目前,美國(guó)等國(guó)家至少有十種以上的計(jì)算機(jī)自動(dòng)評(píng)分系統(tǒng),最具代表性的包括基于人工智能開(kāi)發(fā)的MyAccess!TM、培生公司基于潛在語(yǔ)義分析技術(shù)開(kāi)發(fā)的Intelligent Essay Assessor (IEA)、美國(guó)教育考試服務(wù)中心(ETS)根據(jù)人工智能以及自然語(yǔ)言處理技術(shù)開(kāi)發(fā)的e-rater等。國(guó)內(nèi)的一些高科技公司也推出了自己研發(fā)的自動(dòng)評(píng)分系統(tǒng),如科大訊飛的多語(yǔ)種智能閱卷系統(tǒng),在普通話(huà)水平測(cè)試(PSC)、中考英語(yǔ)測(cè)試以及中國(guó)少數(shù)民族漢語(yǔ)水平等級(jí)考試(MHK)等考試中得到了廣泛應(yīng)用。MHK已實(shí)現(xiàn)朗讀題的計(jì)算機(jī)自動(dòng)評(píng)分,封閉式簡(jiǎn)答題替代人工進(jìn)行一評(píng),并就作文、口語(yǔ)自由回答進(jìn)行了多次大規(guī)模的人機(jī)評(píng)分的對(duì)比實(shí)驗(yàn)。這些系統(tǒng)一經(jīng)推出便表現(xiàn)出了良好的性能,不僅大大節(jié)省了人力、物力和財(cái)力,還有效避免了疲勞效應(yīng),且具有安全性高、準(zhǔn)確性好、客觀性強(qiáng)、一致性高、穩(wěn)定性好等優(yōu)勢(shì)。基于此,ETS的SpeechRater以及培生的Orindate系統(tǒng)都在口語(yǔ)測(cè)試中占領(lǐng)了相當(dāng)大的市場(chǎng)份額,ETS與Pearson還合作致力于將自動(dòng)評(píng)分技術(shù)應(yīng)用到美國(guó)各州的共同核心標(biāo)準(zhǔn)測(cè)試中,該考試涉及數(shù)學(xué)、寫(xiě)作、知識(shí)性簡(jiǎn)答、口試以及完成模擬任務(wù)等內(nèi)容,顯示出廣闊的應(yīng)用前景。

    目前,計(jì)算機(jī)自動(dòng)評(píng)分在國(guó)內(nèi)的考試領(lǐng)域主要有三個(gè)用途:一是質(zhì)量檢測(cè)。多個(gè)省市已將自動(dòng)評(píng)分系統(tǒng)作為質(zhì)檢系統(tǒng)用于中考、高考等高利害考試中,檢查空白卷、疑似雷同、疑似抄襲、特殊作答等;二是部分替代。在一些等級(jí)考試中,如普通話(huà)水平測(cè)試(PSC)、民族漢考(MHK)等中部分替代人工閱卷;三是完全替代。在一些低利害考試中,如成考、自考中部分分段完全替代人工評(píng)分??梢钥闯?,計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)在國(guó)內(nèi)的高利害考試中的應(yīng)用還是比較隱性低調(diào)的,應(yīng)用的領(lǐng)域也是漸進(jìn)的。未來(lái),隨著人工智能實(shí)現(xiàn)從感知智能到認(rèn)知智能的飛躍,通過(guò)計(jì)算機(jī)對(duì)人類(lèi)的語(yǔ)義理解、知識(shí)表示、邏輯推理和自主學(xué)習(xí)的模擬和學(xué)習(xí),計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)將會(huì)實(shí)現(xiàn)質(zhì)的飛躍,評(píng)分質(zhì)量會(huì)顯著提高,應(yīng)用范圍也會(huì)呈現(xiàn)出竹子效應(yīng),有一個(gè)突飛猛進(jìn)的過(guò)程,更多的省市將在中考、高考等高利害考試中采用該項(xiàng)技術(shù)。更重要的是將實(shí)現(xiàn)與認(rèn)知診斷技術(shù)的有機(jī)融合,不僅能實(shí)現(xiàn)自動(dòng)評(píng)分,而且還能給出個(gè)性化評(píng)價(jià)及反饋指導(dǎo),這在很大程度上就應(yīng)和了1966年P(guān)age開(kāi)發(fā)自動(dòng)測(cè)試系統(tǒng)的初衷。

    盡管計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)發(fā)展的勢(shì)頭很好,我們也應(yīng)清醒地看到,受自身技術(shù)的局限,計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)需要探索的問(wèn)題還很多。核心技術(shù)的“黑箱”如何解釋?zhuān)口呏性u(píng)分、高分偏少、跑題誤判問(wèn)題怎樣解決?如何界定計(jì)算機(jī)自動(dòng)評(píng)分的信度和效度?它們與人工評(píng)分的信度和效度的內(nèi)涵是否一致?等等。在計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)大規(guī)模使用之時(shí),這些問(wèn)題都需要一一解決。

    四、結(jié)束語(yǔ)

    綜上,計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)表現(xiàn)出了良好的應(yīng)用前景。對(duì)此,需要保持清醒的頭腦,盲目樂(lè)觀和消極悲觀同樣不可取。應(yīng)該看到,計(jì)算機(jī)自動(dòng)評(píng)分技術(shù)既有自身難以克服的局限,還有許多問(wèn)題亟待解決,特別是在高利害考試中,計(jì)算機(jī)完全替代人進(jìn)行評(píng)分尚待時(shí)日。同時(shí),對(duì)于考試機(jī)構(gòu)來(lái)說(shuō),是否在實(shí)評(píng)中采用計(jì)算機(jī)自動(dòng)評(píng)分技術(shù),既要過(guò)技術(shù)關(guān),也要過(guò)心理關(guān),用戶(hù)與考生對(duì)這項(xiàng)技術(shù)的了解和認(rèn)可還需要一個(gè)較長(zhǎng)的過(guò)程。無(wú)論人工智能如何發(fā)展,計(jì)算機(jī)都不可能完全照搬人工評(píng)分的模式,它有自身的技術(shù)途徑,要允許和接受差異的存在,允許計(jì)算機(jī)和人的殊途同歸。因此,在相當(dāng)長(zhǎng)的一段時(shí)間內(nèi),比較現(xiàn)實(shí)可行的評(píng)分模式是:用計(jì)算機(jī)替代一評(píng),實(shí)現(xiàn)人機(jī)的優(yōu)勢(shì)互補(bǔ)。

    基金項(xiàng)目:本文為北京語(yǔ)言大學(xué)“民族漢考(MHK)主觀性試題人機(jī)評(píng)分的對(duì)比研究”項(xiàng)目(項(xiàng)目編號(hào):17YJ050004)的成果。

    參考文獻(xiàn):

    [1] Attali& Burstein.(2006). Automated Essay Scoring with e-raterV.2. The Journal of Technology, Learning, and Assessment, 4(3).Retrived from:https://ejournals.bc.edu/ojs/index.php/jtla/article/viewFile/1650/1492

    [2] Bennett, R. E.,&Bejar, I. I. (1998). Validity and automated scoring: It's not only the scoring. Educational Measurement: Issues and Practice, 17(4), 9–17.

    [3] McNamara, D. S., Crossley, S. A., Roscoe, R. D., Allen, L. K., & Dai, J. (2015). A hierarchical classification approach to automated essay scoring. Assessing Writing, 23, 35–59. Print.

    [4] Ramineni, C., & Williamson, D. M. (2013). Automated Essay Scoring: Psychometric Guidelines and Practices. Assessing Writing, 18(1), 25–39. Print.

    [5] Williamson, D. M., Xi, X., & Breyer, F. J. (2012). A Framework for Evaluation and Use of Automated Scoring. Educational Measurement: Issues and Practice, 31(1), 2–13. Print.

    [6]梁茂成,文秋芳.國(guó)外作文自動(dòng)評(píng)分系統(tǒng)評(píng)述及啟示[J].外語(yǔ)電化教學(xué),2007,(10).

    [7]羅凱洲,韓寶成.Ordinate與SpeechRater口語(yǔ)自動(dòng)評(píng)分系統(tǒng)述評(píng)與啟示[J].外語(yǔ)電化教學(xué),2014,(4).

    [8]石曉玲.在線寫(xiě)作自動(dòng)評(píng)改系統(tǒng)在大學(xué)英語(yǔ)寫(xiě)作教學(xué)中的應(yīng)用研究——以句酷批改網(wǎng)為例[J].現(xiàn)代教育技術(shù),2012,(10).

    [9]王士進(jìn),李宏言,柯登峰.面向第二語(yǔ)言學(xué)習(xí)的口語(yǔ)大規(guī)模智能評(píng)估技術(shù)研究[J].中文信息學(xué)報(bào),2011,(6).

    [10]謝賢春.英語(yǔ)作文自動(dòng)評(píng)分及其效度、信度與可操作性探討[J].江西師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)學(xué)版),2010,(2).

    [11]嚴(yán)可,胡國(guó)平,魏思.面向大規(guī)模英語(yǔ)口語(yǔ)機(jī)考的復(fù)述題自動(dòng)評(píng)分技術(shù)[J].清華大學(xué)學(xué)報(bào)( 自然科學(xué)版),2009,(1).

    猜你喜歡
    前景應(yīng)用
    我國(guó)旅游房地產(chǎn)開(kāi)發(fā)前景的探討
    四種作物 北方種植有前景
    離岸央票:需求與前景
    多媒體技術(shù)在小學(xué)語(yǔ)文教學(xué)中的應(yīng)用研究
    分析膜技術(shù)及其在電廠水處理中的應(yīng)用
    GM(1,1)白化微分優(yōu)化方程預(yù)測(cè)模型建模過(guò)程應(yīng)用分析
    煤礦井下坑道鉆機(jī)人機(jī)工程學(xué)應(yīng)用分析
    氣體分離提純應(yīng)用變壓吸附技術(shù)的分析
    會(huì)計(jì)與統(tǒng)計(jì)的比較研究
    量子糾纏的來(lái)歷及應(yīng)用前景
    三级毛片av免费| 人人妻人人澡人人看| 日本a在线网址| 91精品三级在线观看| 欧美日韩中文字幕国产精品一区二区三区 | 桃花免费在线播放| 中文字幕人妻熟女乱码| 男人操女人黄网站| 波多野结衣一区麻豆| 国产精品秋霞免费鲁丝片| 久久香蕉激情| 18禁黄网站禁片午夜丰满| 成人黄色视频免费在线看| 亚洲成人免费av在线播放| 一级a爱视频在线免费观看| 另类精品久久| 成年动漫av网址| 国产精品国产av在线观看| 欧美老熟妇乱子伦牲交| 国产在线视频一区二区| 99re在线观看精品视频| 黄片小视频在线播放| 亚洲欧美一区二区三区黑人| 中文字幕人妻熟女乱码| 国产精品欧美亚洲77777| 亚洲欧美一区二区三区久久| 一级a爱视频在线免费观看| 在线观看人妻少妇| 他把我摸到了高潮在线观看 | 黑人猛操日本美女一级片| 窝窝影院91人妻| 又黄又粗又硬又大视频| 在线十欧美十亚洲十日本专区| 亚洲中文字幕日韩| 69av精品久久久久久 | 日本一区二区免费在线视频| 国产欧美日韩综合在线一区二区| 波多野结衣一区麻豆| 大片电影免费在线观看免费| 精品国产国语对白av| 999久久久精品免费观看国产| 亚洲欧美色中文字幕在线| 男女床上黄色一级片免费看| 99国产综合亚洲精品| 成年人黄色毛片网站| 51午夜福利影视在线观看| 狂野欧美激情性xxxx| 一区二区三区精品91| 波多野结衣一区麻豆| 亚洲成国产人片在线观看| 精品少妇久久久久久888优播| 欧美国产精品va在线观看不卡| 午夜两性在线视频| 丝袜喷水一区| 亚洲精品美女久久久久99蜜臀| 满18在线观看网站| 人成视频在线观看免费观看| 男人操女人黄网站| av网站在线播放免费| 美女福利国产在线| 国产精品一区二区精品视频观看| 国产在视频线精品| 欧美乱码精品一区二区三区| 一本久久精品| 91九色精品人成在线观看| netflix在线观看网站| 亚洲专区字幕在线| 变态另类成人亚洲欧美熟女 | 91字幕亚洲| 亚洲av成人不卡在线观看播放网| 国产又色又爽无遮挡免费看| 精品人妻熟女毛片av久久网站| 国产在线免费精品| 欧美精品一区二区大全| 久9热在线精品视频| 在线av久久热| √禁漫天堂资源中文www| 搡老乐熟女国产| 国产99久久九九免费精品| 两性午夜刺激爽爽歪歪视频在线观看 | 女人久久www免费人成看片| 国产黄色免费在线视频| 在线播放国产精品三级| 久久久久久久大尺度免费视频| 人人妻人人爽人人添夜夜欢视频| 日韩有码中文字幕| 超碰成人久久| 久久精品aⅴ一区二区三区四区| 电影成人av| 国产亚洲午夜精品一区二区久久| 久久婷婷成人综合色麻豆| 日本黄色日本黄色录像| 一进一出抽搐动态| 99久久99久久久精品蜜桃| 女人高潮潮喷娇喘18禁视频| 亚洲黑人精品在线| 国产人伦9x9x在线观看| 不卡一级毛片| 亚洲九九香蕉| 2018国产大陆天天弄谢| 欧美日韩黄片免| 在线天堂中文资源库| 人人妻人人澡人人看| 久久精品国产综合久久久| 精品亚洲乱码少妇综合久久| 麻豆av在线久日| 久久午夜综合久久蜜桃| 久久久久久人人人人人| 狠狠婷婷综合久久久久久88av| 中文字幕色久视频| 亚洲熟女毛片儿| 在线天堂中文资源库| 人人妻人人澡人人看| 午夜福利影视在线免费观看| 黄片小视频在线播放| 99香蕉大伊视频| 99久久99久久久精品蜜桃| 国产在线观看jvid| 纵有疾风起免费观看全集完整版| 亚洲欧美日韩高清在线视频 | 中文字幕色久视频| 成人特级黄色片久久久久久久 | 国产男女内射视频| 老司机靠b影院| 亚洲人成77777在线视频| 国产区一区二久久| 天堂俺去俺来也www色官网| 久久久久精品人妻al黑| 在线av久久热| 一级a爱视频在线免费观看| 99精品欧美一区二区三区四区| 国产熟女午夜一区二区三区| 亚洲va日本ⅴa欧美va伊人久久| 精品人妻在线不人妻| 汤姆久久久久久久影院中文字幕| 99国产精品99久久久久| 久久精品熟女亚洲av麻豆精品| 久久精品91无色码中文字幕| 一进一出抽搐动态| 国产亚洲精品一区二区www | 最新的欧美精品一区二区| 久久人妻av系列| 久久久久久人人人人人| 天天操日日干夜夜撸| 久久久久精品国产欧美久久久| 激情视频va一区二区三区| 五月开心婷婷网| 国产单亲对白刺激| 精品国产亚洲在线| 免费观看av网站的网址| 国产成人av激情在线播放| av线在线观看网站| 中亚洲国语对白在线视频| 午夜免费鲁丝| 日本欧美视频一区| 亚洲熟女精品中文字幕| 在线十欧美十亚洲十日本专区| 国产精品国产av在线观看| 中文字幕人妻熟女乱码| 欧美人与性动交α欧美软件| 一本一本久久a久久精品综合妖精| 国产成人一区二区三区免费视频网站| 欧美人与性动交α欧美软件| 国产精品国产av在线观看| 99精品久久久久人妻精品| 国产在视频线精品| 国产免费av片在线观看野外av| 亚洲天堂av无毛| 久久精品国产综合久久久| 久久亚洲精品不卡| 91国产中文字幕| 精品国产国语对白av| 国产高清激情床上av| 香蕉国产在线看| 亚洲国产欧美网| 日韩 欧美 亚洲 中文字幕| 亚洲五月婷婷丁香| 热re99久久国产66热| 久久国产精品男人的天堂亚洲| 黄片大片在线免费观看| 在线观看免费高清a一片| 国产又爽黄色视频| 黄片大片在线免费观看| 在线观看舔阴道视频| 精品人妻在线不人妻| 亚洲人成电影免费在线| 我要看黄色一级片免费的| 另类亚洲欧美激情| 欧美日韩福利视频一区二区| 又黄又粗又硬又大视频| a级片在线免费高清观看视频| 国产成人一区二区三区免费视频网站| 国产精品久久久久久精品电影小说| 十八禁网站网址无遮挡| 久久久久视频综合| 国产精品亚洲一级av第二区| 性高湖久久久久久久久免费观看| 精品午夜福利视频在线观看一区 | 精品福利永久在线观看| 50天的宝宝边吃奶边哭怎么回事| 国产日韩欧美亚洲二区| 日韩大码丰满熟妇| 免费一级毛片在线播放高清视频 | 人人澡人人妻人| 国产日韩欧美亚洲二区| 国产黄色免费在线视频| 9191精品国产免费久久| 国产欧美日韩一区二区三| 国产欧美日韩综合在线一区二区| 亚洲一区中文字幕在线| 久久久水蜜桃国产精品网| 国产单亲对白刺激| 国产无遮挡羞羞视频在线观看| 国产精品一区二区在线观看99| 熟女少妇亚洲综合色aaa.| 免费在线观看影片大全网站| 在线看a的网站| 50天的宝宝边吃奶边哭怎么回事| 在线观看一区二区三区激情| 91国产中文字幕| 我要看黄色一级片免费的| 美女高潮喷水抽搐中文字幕| 久久久久视频综合| 久久婷婷成人综合色麻豆| 亚洲国产精品一区二区三区在线| 欧美大码av| 国产男靠女视频免费网站| 中国美女看黄片| 丰满少妇做爰视频| 亚洲,欧美精品.| 一本—道久久a久久精品蜜桃钙片| 亚洲成人免费电影在线观看| 丝袜美腿诱惑在线| 一级毛片电影观看| 99久久人妻综合| a在线观看视频网站| 丰满少妇做爰视频| 欧美黄色片欧美黄色片| 久久精品国产99精品国产亚洲性色 | 一级,二级,三级黄色视频| 捣出白浆h1v1| 久久中文看片网| 一夜夜www| 午夜老司机福利片| 久久青草综合色| 午夜两性在线视频| 日韩成人在线观看一区二区三区| 久久久久精品人妻al黑| tocl精华| 2018国产大陆天天弄谢| 欧美国产精品va在线观看不卡| 日本欧美视频一区| 男女之事视频高清在线观看| 亚洲国产欧美在线一区| 欧美激情久久久久久爽电影 | 18禁国产床啪视频网站| 国产黄频视频在线观看| 免费在线观看视频国产中文字幕亚洲| 亚洲男人天堂网一区| 色综合欧美亚洲国产小说| 大型黄色视频在线免费观看| 中亚洲国语对白在线视频| 黑人操中国人逼视频| 男女床上黄色一级片免费看| 亚洲avbb在线观看| 精品人妻1区二区| 久久精品成人免费网站| 超碰成人久久| 女人久久www免费人成看片| 国产精品一区二区在线不卡| 丝袜喷水一区| 免费在线观看黄色视频的| 亚洲精品成人av观看孕妇| 亚洲九九香蕉| 亚洲精品av麻豆狂野| 国产av一区二区精品久久| 亚洲国产av影院在线观看| 不卡一级毛片| 亚洲欧美一区二区三区黑人| 久久影院123| 国产成人欧美在线观看 | 国产伦理片在线播放av一区| 亚洲第一青青草原| 日韩有码中文字幕| 中文字幕精品免费在线观看视频| h视频一区二区三区| 老鸭窝网址在线观看| 亚洲精品国产色婷婷电影| 老司机亚洲免费影院| 在线观看人妻少妇| 国产成人精品在线电影| 亚洲成a人片在线一区二区| 咕卡用的链子| 国产xxxxx性猛交| 久久久久久久久久久久大奶| 国产精品久久电影中文字幕 | 成人18禁在线播放| 亚洲五月色婷婷综合| 国产免费av片在线观看野外av| 嫁个100分男人电影在线观看| 黄色怎么调成土黄色| 三上悠亚av全集在线观看| 高清毛片免费观看视频网站 | 正在播放国产对白刺激| 国产成人系列免费观看| 国产精品秋霞免费鲁丝片| 婷婷成人精品国产| 男女边摸边吃奶| 女性被躁到高潮视频| 黄色视频,在线免费观看| 免费在线观看日本一区| 18禁国产床啪视频网站| √禁漫天堂资源中文www| 在线观看一区二区三区激情| 操美女的视频在线观看| 在线亚洲精品国产二区图片欧美| 桃红色精品国产亚洲av| 免费一级毛片在线播放高清视频 | 日日夜夜操网爽| 一级黄色大片毛片| 天堂动漫精品| av片东京热男人的天堂| 夜夜骑夜夜射夜夜干| 日韩三级视频一区二区三区| 欧美成人免费av一区二区三区 | 黑人巨大精品欧美一区二区mp4| 美女高潮到喷水免费观看| 少妇的丰满在线观看| 亚洲欧美一区二区三区久久| 丝袜喷水一区| a级毛片在线看网站| 亚洲色图综合在线观看| 色在线成人网| cao死你这个sao货| 亚洲欧洲精品一区二区精品久久久| 热re99久久精品国产66热6| 80岁老熟妇乱子伦牲交| 亚洲av日韩在线播放| 搡老乐熟女国产| 亚洲 国产 在线| 国产福利在线免费观看视频| 淫妇啪啪啪对白视频| 国产欧美日韩一区二区三区在线| 精品免费久久久久久久清纯 | 日日爽夜夜爽网站| 十八禁高潮呻吟视频| 国产免费福利视频在线观看| 免费久久久久久久精品成人欧美视频| 少妇 在线观看| 亚洲男人天堂网一区| av片东京热男人的天堂| 久热爱精品视频在线9| 99国产综合亚洲精品| 熟女少妇亚洲综合色aaa.| 在线观看一区二区三区激情| 国产成人欧美在线观看 | 一夜夜www| 成人永久免费在线观看视频 | 国产视频一区二区在线看| 日韩人妻精品一区2区三区| 欧美日韩精品网址| 亚洲av欧美aⅴ国产| a级毛片黄视频| 久久久久久久精品吃奶| 超碰成人久久| 久久精品国产亚洲av高清一级| 中文字幕精品免费在线观看视频| 免费女性裸体啪啪无遮挡网站| 夜夜骑夜夜射夜夜干| 少妇裸体淫交视频免费看高清 | 久久久国产一区二区| 99re在线观看精品视频| 国产亚洲欧美精品永久| 亚洲欧美色中文字幕在线| 成年女人毛片免费观看观看9 | 精品乱码久久久久久99久播| 丰满迷人的少妇在线观看| 人妻一区二区av| 久久国产精品人妻蜜桃| 美女高潮喷水抽搐中文字幕| 亚洲情色 制服丝袜| 国产一卡二卡三卡精品| 丰满迷人的少妇在线观看| kizo精华| 久久人人爽av亚洲精品天堂| 亚洲,欧美精品.| 人人澡人人妻人| 精品少妇黑人巨大在线播放| 人人妻人人添人人爽欧美一区卜| 国产不卡一卡二| 国产成人影院久久av| 99在线人妻在线中文字幕 | 久久狼人影院| 亚洲精品在线观看二区| 亚洲欧美一区二区三区黑人| 搡老乐熟女国产| 国产一区有黄有色的免费视频| 肉色欧美久久久久久久蜜桃| 欧美国产精品一级二级三级| 12—13女人毛片做爰片一| 成人免费观看视频高清| 777米奇影视久久| 欧美激情久久久久久爽电影 | 日韩三级视频一区二区三区| 男女高潮啪啪啪动态图| 一个人免费看片子| 一边摸一边抽搐一进一小说 | 人人妻人人澡人人爽人人夜夜| e午夜精品久久久久久久| 一二三四在线观看免费中文在| 欧美久久黑人一区二区| 欧美性长视频在线观看| 丁香欧美五月| 黄色片一级片一级黄色片| 日日夜夜操网爽| 少妇精品久久久久久久| 国产成人影院久久av| 我的亚洲天堂| 亚洲av成人不卡在线观看播放网| 母亲3免费完整高清在线观看| 天堂8中文在线网| 久久狼人影院| aaaaa片日本免费| 建设人人有责人人尽责人人享有的| 免费观看人在逋| 日本av手机在线免费观看| 日韩 欧美 亚洲 中文字幕| 女警被强在线播放| 欧美成人午夜精品| 69av精品久久久久久 | 两个人免费观看高清视频| 午夜老司机福利片| 久久久久久亚洲精品国产蜜桃av| 国产精品一区二区在线观看99| 丝袜在线中文字幕| 国产成人免费无遮挡视频| 久久国产精品影院| 少妇粗大呻吟视频| 国产伦理片在线播放av一区| 亚洲黑人精品在线| 在线av久久热| 两性午夜刺激爽爽歪歪视频在线观看 | 天天影视国产精品| 亚洲av电影在线进入| 精品久久久久久电影网| 天天躁日日躁夜夜躁夜夜| 久久久国产欧美日韩av| 精品福利永久在线观看| 欧美国产精品一级二级三级| 黄色 视频免费看| 一个人免费在线观看的高清视频| 国产成人一区二区三区免费视频网站| 日韩免费高清中文字幕av| 男女无遮挡免费网站观看| 1024视频免费在线观看| 人人澡人人妻人| 午夜激情av网站| 热99久久久久精品小说推荐| 成人手机av| 一本久久精品| 亚洲少妇的诱惑av| 国产成人精品无人区| 亚洲精品国产色婷婷电影| 精品国产超薄肉色丝袜足j| 亚洲精品粉嫩美女一区| 91麻豆av在线| 亚洲欧美日韩另类电影网站| 国产伦理片在线播放av一区| 欧美人与性动交α欧美精品济南到| 国产成人精品久久二区二区免费| tube8黄色片| 国产精品自产拍在线观看55亚洲 | 男女下面插进去视频免费观看| 久久这里只有精品19| 看免费av毛片| 亚洲专区国产一区二区| 18禁国产床啪视频网站| 亚洲天堂av无毛| 国精品久久久久久国模美| 成人国产一区最新在线观看| 国内毛片毛片毛片毛片毛片| 国产一区二区 视频在线| 精品国产一区二区三区四区第35| 青草久久国产| 不卡av一区二区三区| av在线播放免费不卡| 一级片免费观看大全| 成人18禁高潮啪啪吃奶动态图| 久久婷婷成人综合色麻豆| 露出奶头的视频| 国产激情久久老熟女| 女人被躁到高潮嗷嗷叫费观| 男女之事视频高清在线观看| 久久国产精品人妻蜜桃| 黑人巨大精品欧美一区二区蜜桃| 精品国产乱码久久久久久男人| 久久午夜综合久久蜜桃| 韩国精品一区二区三区| 久久久久久久久久久久大奶| av天堂久久9| 欧美 日韩 精品 国产| 丝袜美腿诱惑在线| 成人18禁在线播放| 午夜视频精品福利| 日韩欧美免费精品| 国产人伦9x9x在线观看| 韩国精品一区二区三区| 久久天躁狠狠躁夜夜2o2o| av国产精品久久久久影院| 乱人伦中国视频| 中文字幕人妻丝袜制服| 久久ye,这里只有精品| 老司机靠b影院| 久久久国产精品麻豆| 男女高潮啪啪啪动态图| 飞空精品影院首页| 久久人妻福利社区极品人妻图片| 成人影院久久| 亚洲专区中文字幕在线| 久久久久久久久久久久大奶| 国产av国产精品国产| 亚洲国产看品久久| 成人黄色视频免费在线看| 中文字幕精品免费在线观看视频| 亚洲成人国产一区在线观看| 日本撒尿小便嘘嘘汇集6| 日韩一区二区三区影片| 国产男女超爽视频在线观看| 午夜成年电影在线免费观看| 日韩免费av在线播放| 久久精品国产亚洲av高清一级| 怎么达到女性高潮| 久久亚洲精品不卡| 后天国语完整版免费观看| 99国产精品一区二区三区| 一本一本久久a久久精品综合妖精| 成人国语在线视频| 日本黄色视频三级网站网址 | 国产av一区二区精品久久| 两性夫妻黄色片| av不卡在线播放| 欧美黑人欧美精品刺激| 亚洲第一欧美日韩一区二区三区 | av欧美777| 一本—道久久a久久精品蜜桃钙片| 每晚都被弄得嗷嗷叫到高潮| 国产成人精品久久二区二区91| 国产成人精品久久二区二区免费| 欧美老熟妇乱子伦牲交| 精品欧美一区二区三区在线| 人人妻人人澡人人爽人人夜夜| 亚洲精品国产色婷婷电影| 国产又爽黄色视频| 国产97色在线日韩免费| 老熟妇仑乱视频hdxx| 最新的欧美精品一区二区| 老司机深夜福利视频在线观看| 午夜福利在线免费观看网站| av有码第一页| 黄色丝袜av网址大全| 亚洲成人免费av在线播放| 欧美人与性动交α欧美精品济南到| 黑人巨大精品欧美一区二区mp4| 中文字幕另类日韩欧美亚洲嫩草| 日日摸夜夜添夜夜添小说| 一区二区日韩欧美中文字幕| av又黄又爽大尺度在线免费看| 丝瓜视频免费看黄片| 亚洲熟女精品中文字幕| 欧美成人午夜精品| 69av精品久久久久久 | 久久久欧美国产精品| 国产精品免费大片| 久久国产精品男人的天堂亚洲| 亚洲色图 男人天堂 中文字幕| 又黄又粗又硬又大视频| 捣出白浆h1v1| 丰满迷人的少妇在线观看| 蜜桃在线观看..| svipshipincom国产片| 亚洲美女黄片视频| 99热网站在线观看| 国产精品影院久久| 老司机午夜十八禁免费视频| 中文字幕制服av| 69精品国产乱码久久久| 日韩中文字幕欧美一区二区| 这个男人来自地球电影免费观看| a级毛片黄视频| 狠狠狠狠99中文字幕| 精品卡一卡二卡四卡免费| 国产精品九九99| 淫妇啪啪啪对白视频| 日韩欧美三级三区| 欧美精品av麻豆av| 国产高清激情床上av| 可以免费在线观看a视频的电影网站| 999久久久国产精品视频| 亚洲天堂av无毛| 老司机靠b影院| 亚洲一卡2卡3卡4卡5卡精品中文| 成人特级黄色片久久久久久久 | 欧美一级毛片孕妇| 久久久国产欧美日韩av| 女人精品久久久久毛片| av天堂在线播放| 黄色片一级片一级黄色片| 好男人电影高清在线观看| 欧美日韩福利视频一区二区| 999久久久国产精品视频| 午夜老司机福利片| www.自偷自拍.com| 性少妇av在线| 乱人伦中国视频| 日本vs欧美在线观看视频|