• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于機(jī)器學(xué)習(xí)算法的引文情感自動(dòng)識(shí)別研究

    2020-07-20 06:41徐琳宏丁堃林原楊陽(yáng)
    現(xiàn)代情報(bào) 2020年1期
    關(guān)鍵詞:自然語(yǔ)言處理情感分析支持向量機(jī)

    徐琳宏 丁堃 林原 楊陽(yáng)

    摘 要:[目的/意義]引文情感分析揭示施引文獻(xiàn)對(duì)被引文獻(xiàn)的褒義、貶義和中性的情感傾向性,解析文獻(xiàn)之間深層語(yǔ)義關(guān)系,能夠幫助更加準(zhǔn)確地評(píng)價(jià)被引文獻(xiàn)和作者。[方法/過(guò)程]以自然語(yǔ)言處理領(lǐng)域文獻(xiàn)的引文情感為數(shù)據(jù)集,利用引文中情感表達(dá)的引文標(biāo)識(shí)位置指引和情感詞匯等特征,采用支持向量機(jī)(SVM)構(gòu)建引文情感的自動(dòng)識(shí)別系統(tǒng),探索生成更大規(guī)模數(shù)據(jù)的方法。[結(jié)果/結(jié)論]實(shí)踐應(yīng)用證明,該系統(tǒng)特征的區(qū)分度較強(qiáng),準(zhǔn)確率達(dá)到93.4%,識(shí)別效果較好。引文情感的自動(dòng)識(shí)別系統(tǒng)實(shí)用價(jià)值較強(qiáng),拓寬了引文網(wǎng)絡(luò)分析的研究方法和內(nèi)容,能夠完善論文評(píng)價(jià)體系。

    關(guān)鍵詞:機(jī)器學(xué)習(xí);引文情感分析;自動(dòng)識(shí)別系統(tǒng);支持向量機(jī);自然語(yǔ)言處理;情感分析

    DOI:10.3969/j.issn.1008-0821.2020.01.004

    〔中圖分類(lèi)號(hào)〕TP312 〔文獻(xiàn)標(biāo)識(shí)碼〕A 〔文章編號(hào)〕1008-0821(2020)01-0035-06

    Citation Sentiment Identification Based on Machine Learning

    ——Natural Language Processing as an Example

    Xu Linhong1,2 Ding Kun1 Lin Yuan1 Yang Yang1

    (1.Institute of Science and Management of Science and Technology and WISE Laboratory,

    Dalian University of Technology,Dalian 116024,China;

    2.Research Center for Language Intelligence,Dalian University of Foreign Languages,Dalian 116044,China)

    Abstract:[Purpose/Significance]Citation affective analysis reveals the positive,negative and neutral emotional tendencies of citation documents,which includes the deep semantic relationship between them and helps evaluate the cited documents and authors more accurately.[Method/Process]This paper took the citation sentiment of the literature in the field of natural language processing as the dataset and analysed the characteristics of citation mark location guidance and emotional vocabulary of emotional expression in citation and constructd an automatic recognition model of citation emotion by using support vector machine(SVM)to explore the method of generating larger-scale data.[Result/Conclusion]The practical application proved that the classification features were highly differentiated,F(xiàn)1 value was 5% higher than the original model,and the recognition effect was better.The characteristics of citation sentiment enriched citation network analysis and can improve the paper evaluation system.Automatic recognition model can improve the recognition effect of citation sentiment classification and has high practical value.

    Key words:machine learning;citation sentiment analysis;automatic recognition system;support vector machine;natural language processing;sentiment analysis

    學(xué)術(shù)論文作為科學(xué)研究活動(dòng)的主要產(chǎn)出形式,是我們度量科學(xué)貢獻(xiàn)的最有效的載體。因此,如何評(píng)價(jià)論文的影響力一直受到了科技界和社會(huì)各界的廣泛關(guān)注。在依據(jù)引用頻次衡量論文質(zhì)量的評(píng)價(jià)體系中,通常認(rèn)為被引文獻(xiàn)對(duì)施引文獻(xiàn)的影響程度相同,沒(méi)有考慮一篇論文中的引用次數(shù)、引用的傾向性和引用位置。這樣的計(jì)量方式比較簡(jiǎn)單,掩蓋了論文之間的差異,缺乏對(duì)引用極性和強(qiáng)度的分析。因此,簡(jiǎn)單的被引頻次不能準(zhǔn)確地衡量學(xué)術(shù)影響力的高低,需要更加全面地分析引文的內(nèi)容。引文情感分析是指分析論文中施引文獻(xiàn)對(duì)被引文獻(xiàn)褒義、貶義和中性的情感傾向性,它能通過(guò)抽取引文中包含的顯示和隱式的情感信息,解析文獻(xiàn)之間深層語(yǔ)義關(guān)系,分析作者對(duì)被引文獻(xiàn)的態(tài)度,從而更客觀地評(píng)價(jià)被引文獻(xiàn)的影響力。

    雖然引文的情感能細(xì)致地區(qū)分引文的性質(zhì),與單純依靠頻次相比能更加準(zhǔn)確地評(píng)估論文的質(zhì)量,但是隨著出版物數(shù)量的不斷增加,人工區(qū)分每條引文情感需要耗費(fèi)巨大的人力資源,困難重重。為了解決人工標(biāo)注耗時(shí)費(fèi)力的問(wèn)題,本文采用人工智能輔助的方式,選取合適的特征,依靠機(jī)器學(xué)習(xí)算法自動(dòng)實(shí)現(xiàn)引文的情感分類(lèi),這樣只需少量的引文情感樣本,就能建立起相對(duì)高效的自動(dòng)識(shí)別系統(tǒng)。接下來(lái)的內(nèi)容安排如下:第二節(jié)介紹了國(guó)內(nèi)外引文情感分析的研究進(jìn)展,第三節(jié)構(gòu)建引文情感的自動(dòng)識(shí)別模型,第四節(jié)報(bào)告了應(yīng)用的案例及效果,第五節(jié)給出了研究的結(jié)論和未來(lái)的改進(jìn)方向。

    1 研究進(jìn)展

    引文情感分析能夠在全文語(yǔ)義分析和理解的基礎(chǔ)上解決引用的同一化問(wèn)題,矯正單純引用頻次分析帶來(lái)的偏差,是引文內(nèi)容分析的重要組成部分。相關(guān)的研究工作主要分為兩部分:一方面是引文情感分析在學(xué)科評(píng)價(jià)中的應(yīng)用;另一方面通過(guò)機(jī)器學(xué)習(xí)模型自動(dòng)識(shí)別引文中的情感,兩者互為補(bǔ)充。因此,下面分別從引文情感分析的應(yīng)用及自動(dòng)識(shí)別兩個(gè)方面介紹相關(guān)的研究工作。

    引文情感分析是引文內(nèi)容分析的熱門(mén)研究領(lǐng)域,早在1982年,Small H[1]就將引文內(nèi)容定義為“Citation Context”,指的是文獻(xiàn)正文中在參考文獻(xiàn)標(biāo)簽周?chē)奈谋緝?nèi)容。2006年,Teufel S等通過(guò)設(shè)置文本窗口的方式調(diào)整引用內(nèi)容的大小[2]。Abujbara A等進(jìn)一步將引文分為顯式和隱式兩類(lèi),認(rèn)為包含特定引文標(biāo)記的句子稱(chēng)為引文句或顯式引文上下文,其他形式為隱式引文上下文[3]。徐健等研究表明有96%的被引片段少于3句[4]。近幾年引文情感分析在很多方面都有廣泛的應(yīng)用,2011年,Small H利用共被引的引用內(nèi)容進(jìn)行了情感分析[5]。2014年,Sula C A分析情感傾向的表述規(guī)律,認(rèn)為引文功能的分類(lèi)可以與情感傾向?qū)?yīng)[6]。2015年,Christian C等關(guān)注負(fù)向引用的作用,發(fā)現(xiàn)了負(fù)向引用與高質(zhì)量文獻(xiàn)之間的關(guān)系[7]。2017年,尹莉引入“極性”概念,將引用內(nèi)容分為正、負(fù)和零3類(lèi),并分析引用發(fā)生的語(yǔ)境,指出引用的位置與論文的一般結(jié)構(gòu)有關(guān)[8]。Yousif A等綜述了最近幾年英文引文情感分析方面的工作[9]。2018年,遲玉琢等嘗試創(chuàng)建一套引用內(nèi)容分析框架,并選擇32篇英文文獻(xiàn)樣本進(jìn)行了實(shí)證分析[10]。劉盛博等提出引文評(píng)價(jià)的3個(gè)指標(biāo),其中引文情感分為正面引用、負(fù)面引用和中立引用[11]。

    除了上述分析引文情感特點(diǎn)的文獻(xiàn),近幾年也出現(xiàn)一些引文情感自動(dòng)識(shí)別的研究。2006年,Teufel S等[2]對(duì)引用內(nèi)容進(jìn)行情感分類(lèi),構(gòu)建引用功能的自動(dòng)識(shí)別系統(tǒng)。2011年,Awais A等選擇Ngram、否定窗口和依賴(lài)關(guān)系等特征利用SVM和樸素貝葉斯等機(jī)器學(xué)習(xí)算法實(shí)現(xiàn)引文情感自動(dòng)識(shí)別[12-13]。2013年,Bei Yu分析了人工引文情感分析與自動(dòng)引文情感識(shí)別的不同[14]。2014年,Wan X等分析引文的重要性,模型在SVM分類(lèi)器中融入引用次數(shù)、引用位置、引文與被引文時(shí)間差、引用句平均長(zhǎng)度、引用句平均密度、是否為自我引用等特征[15]。Jochim C等采用領(lǐng)域自適應(yīng)的方法,在產(chǎn)品評(píng)論數(shù)據(jù)集上訓(xùn)練,將模型遷移到引文極性分類(lèi)[16]。2016年,Ma Z等選擇極性分布、作者單位、作者名和P-index 4個(gè)特征,利用SVM進(jìn)行引文極性分類(lèi),擴(kuò)展H指數(shù)和作者聲譽(yù)度研究[17]。Munkhdalai T等人采用包含多層Attention的雙向LSTM的方法分別對(duì)引文的功能和情感分類(lèi)[18]。Hernández-Alvarez M等在自建的25篇論文中自動(dòng)分析引文的重要性[19]。中文方面,2012年,許德山[20]利用引文上下文信息進(jìn)行引用的觀點(diǎn)傾向性識(shí)別。2018年,遲玉琢等提出了引用內(nèi)容分析的框架包括引用功能、引用數(shù)據(jù)類(lèi)型和引用強(qiáng)度等屬性[10]。廖君華等從PubMed中獲取全文,利用TF-IDF算法篩選出引用情感特征詞,展示引用情感的整體分布情況[21]。國(guó)外引文情感分析的研究開(kāi)展的較早,而國(guó)內(nèi)相關(guān)研究開(kāi)展的較晚,尤其是自動(dòng)識(shí)別方面,還處于起步階段。

    2 引文情感自動(dòng)識(shí)別系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)

    引文情感自動(dòng)識(shí)別功能就是將少量的引文情感通過(guò)人工標(biāo)注,作為系統(tǒng)的原始語(yǔ)料,利用機(jī)器學(xué)習(xí)的算法,自動(dòng)產(chǎn)生更大規(guī)模的數(shù)據(jù),為引文情感分析提供語(yǔ)料支撐。這種方法解決人工標(biāo)注耗時(shí)費(fèi)力的問(wèn)題,只需少量的引文情感樣本,就能建立起相對(duì)有效的模型,為引文情感分析向更多領(lǐng)域推廣提供了有利的技術(shù)支持。

    2.1 數(shù)據(jù)準(zhǔn)備

    無(wú)論是引文情感的分析還是自動(dòng)識(shí)別,都是以帶標(biāo)注的數(shù)據(jù)集為基礎(chǔ)的。標(biāo)注質(zhì)量越好,規(guī)模越大,數(shù)據(jù)分析的準(zhǔn)確性越高。但引文的情感信息與引文網(wǎng)絡(luò)的數(shù)據(jù)不同,前者不能通過(guò)網(wǎng)絡(luò)直接下載得到,需要先制定規(guī)范的標(biāo)注準(zhǔn)則,經(jīng)過(guò)多輪的人工標(biāo)注才能完成,耗時(shí)費(fèi)力。目前國(guó)內(nèi)外引文情感標(biāo)注的數(shù)據(jù)較少,本文選擇Awais的數(shù)據(jù)集作為引文情感分析的研究對(duì)象。Awais數(shù)據(jù)集中的引文來(lái)源于ACL Anthology NetWork(AAN)[22]。AAN論文集收錄了計(jì)算語(yǔ)言學(xué)領(lǐng)域歷年的多個(gè)國(guó)際頂級(jí)會(huì)議的論文,包括ACL、EMNLP和COLING等。該數(shù)據(jù)手工標(biāo)注了每個(gè)引用句的情感、重要性和引文上下文,共8 736條引文信息。

    2.2 實(shí)體及特征抽取

    引文情感包含對(duì)誰(shuí)發(fā)出情感和情感類(lèi)型兩部分,實(shí)體抽取就是識(shí)別引文情感的受體,即被引文獻(xiàn)。而特征抽取是選取有效的特性幫助系統(tǒng)甄別情感的類(lèi)型,褒義、貶義還是中性。兩部分的信息抽取互相依賴(lài),互為補(bǔ)充。

    2.2.1 實(shí)體抽取

    實(shí)體抽取就是找出一段引文中的被引文獻(xiàn),在一段引文中被引文獻(xiàn)通常具有一定的習(xí)慣寫(xiě)法和特點(diǎn),稱(chēng)為引文標(biāo)識(shí)。引文標(biāo)識(shí)有多種表現(xiàn)形式,有的使用作者名,有的使用作者名和發(fā)表年份,還有的使用參考文獻(xiàn)列表中的數(shù)字等。在ANN的數(shù)據(jù)集中,一般采用作者名和發(fā)表年份的方式,例如“McKeown(2000)”或者“(Jing and McKeown,2000)”等。本文的引用標(biāo)識(shí)采用以上多種形式的復(fù)合,即任意一種存在都被識(shí)別為引用標(biāo)識(shí),識(shí)別出的引文標(biāo)識(shí)統(tǒng)一用“〈CIT〉”標(biāo)簽替換和表示。確定引文標(biāo)識(shí)的位置,對(duì)后續(xù)系統(tǒng)的情感識(shí)別作用較大,可以使學(xué)習(xí)算法特別關(guān)注引文標(biāo)識(shí)前后的單詞,增加這些單詞的權(quán)重。

    2.2.2 特征抽取

    1)引文Ngram值和引文依賴(lài)關(guān)系

    引文的Ngram值是指將整個(gè)引文段落中的詞匯按Ngram進(jìn)行劃分,切分出多個(gè)單詞片段,計(jì)算每個(gè)片段在語(yǔ)料中Ngram值。引文依賴(lài)關(guān)系是利用斯坦福依存分析器[23],分析引文語(yǔ)句中的依存關(guān)系,最后采用關(guān)系—詞對(duì)的方式標(biāo)識(shí),再計(jì)算各關(guān)系—詞對(duì)在語(yǔ)料中出現(xiàn)的Tf*idf值。這兩個(gè)特征都是沿用Awais文本情感分類(lèi)模型[13]中提供的方法。

    2)引文標(biāo)識(shí)位置指示

    引文標(biāo)識(shí)位置指示的特征就是加大引文標(biāo)識(shí)(用“〈CIT〉”表示)周?chē)~匯的權(quán)重,因?yàn)橐囊话闶且痪浠蛘邘拙湓?huà)組成的段落,與引文標(biāo)識(shí)越近的詞匯則和被引文獻(xiàn)越相關(guān),也就越可能是施引文獻(xiàn)表達(dá)對(duì)被引文獻(xiàn)情感的詞匯。需要指出的是引文標(biāo)識(shí)周?chē)脑~匯并不是指在原始引文中“〈CIT〉”前后的單詞,而是選擇在依存分析樹(shù)中與引文標(biāo)識(shí)直接相鄰的節(jié)點(diǎn)。

    3)引文情感詞匯

    情感詞匯通常是表達(dá)情感的重要方式,是機(jī)器識(shí)別情感類(lèi)型的重要依據(jù)。引文的情感傾向性雖然有科技論文本身獨(dú)有的特點(diǎn),但很多也是通過(guò)情感詞匯體現(xiàn)的。引文情感詞匯特征就是提取原始引文中包含的情感詞匯,在依存分析樹(shù)中找到該情感詞匯修飾的目標(biāo)詞,最后將包含情感詞匯的關(guān)系—詞對(duì)作為特征值。

    抽取引文中的情感詞匯需要用到專(zhuān)業(yè)的情感詞典。英文方面的情感詞典比較多,主要的情感詞典有普林斯頓大學(xué)的SentiWordNet情感詞典[24]、GI(The General Inquirer)詞典[25]、LIWC(Linguistic Inquiry and Word Count)詞典[26]、MPQA詞典[27]和伊利諾伊大學(xué)的Bing Liu提供的情感詞典[28]。這些詞典基本都給出了每個(gè)詞條的詞性和褒貶含義等,只是數(shù)量上有所差別。本文使用的情感詞匯表是Srijan Kumar[29]從引文數(shù)據(jù)中抽取的,貶義詞匯4924個(gè),褒義詞匯2 789個(gè),標(biāo)注的詞匯情感傾向性比較適合科技論文的引文情感分析。

    2.3 自動(dòng)識(shí)別模型

    將提取出的實(shí)體和特征與機(jī)器學(xué)習(xí)算法融合,通過(guò)人工標(biāo)注的少量引文情感信息,使用機(jī)器學(xué)習(xí)的方法,訓(xùn)練模型,從而完成大規(guī)模引文情感傾向性的自動(dòng)識(shí)別系統(tǒng)。為了能夠完成引文情感的自動(dòng)標(biāo)注,本文構(gòu)建了如圖1所示的整體功能框架圖。

    第一步將原始的引文信息經(jīng)過(guò)分詞、去噪等處理后,采用正則表達(dá)式匹配的方式標(biāo)識(shí)出引文中被引文獻(xiàn)的位置。第二步提取分類(lèi)特征,將一部分?jǐn)?shù)據(jù)作為訓(xùn)練集融入SVM和卷積神經(jīng)網(wǎng)絡(luò)等機(jī)器學(xué)習(xí)算法中,開(kāi)始模型訓(xùn)練。第三步將測(cè)試集中的數(shù)據(jù)裝填到模型中,進(jìn)行自動(dòng)識(shí)別,最后評(píng)估算法及特征的有效性。訓(xùn)練出的模型是否有效,主要依賴(lài)于選取的特征和機(jī)器學(xué)習(xí)算法,本文采用的分類(lèi)模型是支持向量機(jī)(Support Vector Machine,SVM)[30],它是機(jī)器學(xué)習(xí)領(lǐng)域一個(gè)有監(jiān)督的學(xué)習(xí)算法,通常在特征空間上找到最佳的分離超平面使得訓(xùn)練集上正負(fù)樣本間隔最大。

    支持向量機(jī)是一種基于統(tǒng)計(jì)的學(xué)習(xí)方法,它是由Vapnik V[31]于1995年首次提出的。該方法是進(jìn)行二元分類(lèi)的廣義線性分類(lèi)器,它的主要思想是建立一個(gè)超平面作為決策曲面,使得正例和反例之間的間隔邊緣被最大化,其理論基礎(chǔ)是統(tǒng)計(jì)學(xué)習(xí)理論。對(duì)于二維數(shù)據(jù)來(lái)說(shuō),支持向量就是分布在兩條分割線上的點(diǎn)。當(dāng)有少數(shù)樣本點(diǎn)存在于最大間隔之間,則成為噪音數(shù)據(jù),需引入懲罰參數(shù)。

    對(duì)于線性可分的分類(lèi)問(wèn)題,求最優(yōu)分類(lèi)超平面的問(wèn)題即求:

    其中,{x1,x2,…,xn}∈X為數(shù)據(jù)集,yi∈Y∈{-1,1}為xi的類(lèi)標(biāo)記。對(duì)于線性不可分的問(wèn)題,SVM通過(guò)核函數(shù)映射的方法解決,將二維數(shù)據(jù)映射到高維空間,常用的核函數(shù)包括多項(xiàng)式核(Polynomial Kernel)、高斯徑向基函數(shù)核(RBF Kernel)、線性核(Linear Kernel)和Sigmoid核(Sigmoid Kernel)。通過(guò)核函數(shù),可以將非線性可分的數(shù)據(jù)轉(zhuǎn)換為線性可分?jǐn)?shù)據(jù),它的選擇一般和具體的應(yīng)用相關(guān),在不同的領(lǐng)域應(yīng)用核函數(shù)可能也不相同,一般來(lái)說(shuō)高斯徑向基函數(shù)核應(yīng)用的范圍更廣。

    SVM不僅可以用于二分類(lèi),也可以用于多分類(lèi)問(wèn)題,如本文的引文極性分類(lèi),就是一個(gè)典型的三分類(lèi)問(wèn)題。它用于多分類(lèi)是主要有兩種實(shí)現(xiàn)方法:一是直接修改目標(biāo)函數(shù),一次性實(shí)現(xiàn)多分類(lèi)。這種方法計(jì)算復(fù)雜度比較高,只適合小樣本的數(shù)據(jù)集。二是組合多個(gè)二分類(lèi)器來(lái)實(shí)現(xiàn)多分類(lèi)器的構(gòu)造,采用這種方法的比較多。SVM方法具有完善的理論基礎(chǔ),在少量樣本時(shí)能夠獲得較好的分類(lèi)效果,分類(lèi)速度較快,且沒(méi)有分類(lèi)重疊和不可分類(lèi)現(xiàn)象。本文的引文情感分類(lèi)是一個(gè)典型的三分類(lèi)問(wèn)題,從類(lèi)別上看,中性類(lèi)別數(shù)據(jù)較多,褒義和貶義數(shù)據(jù)較少,有明顯的不平衡特性。同時(shí),引文情感數(shù)據(jù)需要人工標(biāo)注獲得,一般數(shù)據(jù)規(guī)模較少,綜合以上實(shí)際問(wèn)題,SVM模型更適合該類(lèi)型的分類(lèi)工作。

    3 案例及效果分析

    目前,本文將引文情感自動(dòng)識(shí)別系統(tǒng)應(yīng)用于自然語(yǔ)言處理領(lǐng)域,選擇該領(lǐng)域是因?yàn)樗扰c目前的大數(shù)據(jù)等許多研究熱點(diǎn)密切相關(guān),同時(shí)也是人工智能方向一個(gè)重要的分支,具有較高的應(yīng)用價(jià)值和廣泛的應(yīng)用前景。

    3.1 數(shù)據(jù)預(yù)處理

    本文選擇Awais的數(shù)據(jù)集作為引文情感分析的研究對(duì)象,該數(shù)據(jù)手工標(biāo)注了計(jì)算語(yǔ)言學(xué)方向194篇頂級(jí)會(huì)議論文的被引信息,包括每個(gè)引用句的情感和引文上下文等,共8 736條引文信息。原始數(shù)據(jù)如圖2所示。

    由圖2可見(jiàn),數(shù)據(jù)集中給出了施引文獻(xiàn)、被引文獻(xiàn)、情感極性和引文原文,在此基礎(chǔ)上想完成引文情感的自動(dòng)分類(lèi)還需要進(jìn)一步做數(shù)據(jù)的預(yù)處理。本文主要的數(shù)據(jù)預(yù)處理工作有解析論文信息、識(shí)別引文標(biāo)識(shí)、獲取引文中詞匯的依賴(lài)關(guān)系、詞性標(biāo)注和識(shí)別情感詞匯及極性。Awais的數(shù)據(jù)集只給出了被引文獻(xiàn)的ID,如果想在引文中解析出被引文獻(xiàn)的位置,需要提取被引文獻(xiàn)的作者和年份等信息。因此,我們首先從網(wǎng)上下載了包含被引文獻(xiàn)信息的XML文件,使用XML解析器解析出文獻(xiàn)的編號(hào)、所有作者和年份。然后通過(guò)正則表示的方式分級(jí)匹配被引文獻(xiàn)標(biāo)識(shí),優(yōu)先查找是否有作者名和年份都匹配的標(biāo)識(shí),如果不存在則繼續(xù)查找存在僅作者名匹配的標(biāo)識(shí)。需要說(shuō)明的是作者名的使用包括3種情況,先用第一作者和第二作者名匹配,然后再用第一作者名單獨(dú)匹配,最后再用其他作者名順序匹配,這樣可以最大限度地找到所有的被引文獻(xiàn)標(biāo)識(shí)。詞法和句法分析方面,本文采用斯坦福的語(yǔ)法分析器[23]完成引文中的依賴(lài)關(guān)系和詞性標(biāo)注,并將依賴(lài)關(guān)系樹(shù)中距離引文標(biāo)識(shí)結(jié)點(diǎn)較近的依賴(lài)關(guān)系權(quán)重。取引文中詞性標(biāo)注后的形容詞、名詞、動(dòng)詞和副詞與情感詞匯表中的詞匯匹配,獲取情感極性信息。

    3.2 參數(shù)設(shè)置及結(jié)果分析

    我們使用WEKA軟件包中的LibSvm分類(lèi),參數(shù)Cost設(shè)置為1 000,采取10倍交叉驗(yàn)證的方式,即將數(shù)據(jù)集分成10份,輪流將其中9份作為訓(xùn)練數(shù)據(jù),1份作為測(cè)試數(shù)據(jù),進(jìn)行試驗(yàn)。最后,評(píng)估方法選擇分類(lèi)中準(zhǔn)確率和召回率的綜合指標(biāo)F1值,評(píng)估褒義、貶義和中性的分類(lèi)質(zhì)量。

    特征是一個(gè)分類(lèi)模型重要的知識(shí)來(lái)源,特征的好壞直接影響系統(tǒng)的分類(lèi)效果。在引文情感分類(lèi)的系統(tǒng)中,本文分別選取了引文Ngram值(Ngram),引文依賴(lài)關(guān)系(Dependency),引文標(biāo)識(shí)位置指示(Identification),引文情感詞匯(SentimentWords)4個(gè)特征。為了全面客觀地衡量識(shí)別結(jié)果,我們采用綜合準(zhǔn)確率和召回率的F1值作為評(píng)估指標(biāo)。融合4個(gè)特征的系統(tǒng)情感分類(lèi)的F1值達(dá)到81%,比Awais系統(tǒng)的F1值提高了5%,其中中性引用的識(shí)別準(zhǔn)確度高達(dá)97%。

    同時(shí),為了驗(yàn)證這4個(gè)特性各自的作用,我們還采用依次逐步添加的方法,添加引文標(biāo)識(shí)位置指示后,總體的F1值增加了5%,尤其是褒義的F1值提高了13%,提升幅度較大。說(shuō)明與引文標(biāo)識(shí)臨近的詞匯比距離較遠(yuǎn)的詞匯更可能體現(xiàn)引文的情感,應(yīng)加大關(guān)注的權(quán)重。從總的實(shí)驗(yàn)結(jié)果來(lái)看,這套自動(dòng)識(shí)別引文情感的系統(tǒng),其區(qū)分度較強(qiáng),分類(lèi)性能較好,能夠滿(mǎn)足特定領(lǐng)域引文情感自動(dòng)分析的功能,基本可以達(dá)到實(shí)際使用的標(biāo)準(zhǔn)。

    4 結(jié) 語(yǔ)

    引文情感分析在諸多研究領(lǐng)域有廣泛的應(yīng)用,尤其在對(duì)科技論文的評(píng)價(jià)和檢索方面,具有較高的應(yīng)用價(jià)值和廣闊的前景。為了探索大規(guī)模引用情感數(shù)據(jù)的生成方法,本文在分析引文情感特征的基礎(chǔ)上,嘗試構(gòu)建一個(gè)引文情感自動(dòng)識(shí)別的模型,為更準(zhǔn)確地揭示引文情感的特點(diǎn)和作用提供數(shù)據(jù)支撐。采用SVM等機(jī)器學(xué)習(xí)方法,在自動(dòng)鑒別引文的情感傾向性中取得了較好的效果,F(xiàn)1值達(dá)到81%,準(zhǔn)確率達(dá)到93.4%,能夠滿(mǎn)足引文情感分析的基本需求。

    引文情感分析從引文內(nèi)容分析的角度,嘗試解決引文的同一化問(wèn)題,是對(duì)傳統(tǒng)引文分析和現(xiàn)有的科技論文評(píng)價(jià)方法的擴(kuò)展。從目前文獻(xiàn)的規(guī)模和增長(zhǎng)速度看,單靠人工完成難以處理,因此本文設(shè)計(jì)了自動(dòng)識(shí)別引文情感的系統(tǒng)。但系統(tǒng)還需要嘗試應(yīng)用在更多研究領(lǐng)域,進(jìn)一步提高系統(tǒng)的準(zhǔn)確率和魯棒性。下一步計(jì)劃利用更多的自然語(yǔ)言處理的技術(shù)手段和機(jī)器學(xué)習(xí)算法,通過(guò)深入交叉研究更好地處理文獻(xiàn)數(shù)據(jù),提高引文情感分析的效果,為情感分析的指標(biāo)用于學(xué)術(shù)論文評(píng)價(jià)打下堅(jiān)實(shí)的基礎(chǔ),最終將引文情感分析實(shí)際應(yīng)用于特定領(lǐng)域的科技管理和科技評(píng)價(jià)工作中。

    參考文獻(xiàn)

    [1]Small H.Citation Context Analysis[J].Progress in Conununication Sciences,1982,(3):287-310.

    [2]Teufel S,Siddharthan A,Athar D.Automatic Classification of Citation Function[C]//Proceedings of the 2006 Conference on EmPirical Methods in Natural Language Processing.Sydney:Association for Computational Linguistics,2006:103-110.

    [3]Abujbara A,Ezra J,Radev D.Purpose and Polarity of Citation:Towards NLP-based Bibliometrics[C]//Proceedings of the 2013 Conference of the North American Chapter of the Association for Computational Linguistics:Human Language Technologies,2013:596-606.

    [4]徐健,李綱,毛進(jìn),等.文獻(xiàn)被引片段特征分析與識(shí)別研究[J].數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn),2017,1(11):37-4.

    [5]Small H.Interpreting Maps of Science Using Citation Context Sentiments:A Preliminary Investigation[J].Scientometrics,2011,87 (2):373-388.

    [6]Sula C A,Miller M.Citations,Contexts,and Humanistic Discourse:Toward Automatic Extraction and Classification[J].Literary and Linguistic Computing,2014,29(3):452-464.

    [7]Christian C,Nicola Lacetera,Alexander Oettl.The Incidence and Role of Negative Citations in Science[J].PNAS,2015,112(45):13823-13826.

    [8]尹莉.“極性”概念在引文分析中應(yīng)用的一個(gè)實(shí)證研究[J].情報(bào)雜志,2017,36 (8):124-143.

    [9]Yousif A,Niu Z,Tarus J K,et al.A Survey on Sentiment Analysis of Scientific Citations[J].Artificial Intelligence Review,2017:1-34.

    [10]遲玉琢,王延飛.面向科學(xué)數(shù)據(jù)管理的科學(xué)數(shù)據(jù)引用內(nèi)容分析框架[J].情報(bào)學(xué)報(bào),2018,(1):43-51.

    猜你喜歡
    自然語(yǔ)言處理情感分析支持向量機(jī)
    基于組合分類(lèi)算法的源代碼注釋質(zhì)量評(píng)估方法
    在線評(píng)論情感屬性的動(dòng)態(tài)變化
    基于支持向量機(jī)的金融數(shù)據(jù)分析研究
    夫妻性生交免费视频一级片| 午夜福利成人在线免费观看| 亚洲成av人片在线播放无| 亚洲国产精品成人久久小说 | 久久精品影院6| 国产高潮美女av| 国产高清三级在线| 欧美xxxx黑人xx丫x性爽| 免费电影在线观看免费观看| .国产精品久久| 级片在线观看| 国产亚洲av嫩草精品影院| 亚洲av免费在线观看| 1024手机看黄色片| 欧美日韩在线观看h| 国产老妇女一区| 欧美最新免费一区二区三区| 在线国产一区二区在线| 精品无人区乱码1区二区| 18禁在线播放成人免费| 免费观看a级毛片全部| 亚洲不卡免费看| 99久久精品国产国产毛片| 爱豆传媒免费全集在线观看| 全区人妻精品视频| 久久这里有精品视频免费| 嫩草影院入口| 丰满人妻一区二区三区视频av| 国产精品.久久久| 国产精品永久免费网站| 日日摸夜夜添夜夜爱| 五月伊人婷婷丁香| 国产精品.久久久| 国产精品永久免费网站| 热99re8久久精品国产| 精品欧美国产一区二区三| videossex国产| 亚洲精品国产av成人精品| 99久久精品国产国产毛片| 亚洲国产色片| 国产视频内射| 欧美高清性xxxxhd video| 精品人妻一区二区三区麻豆| 啦啦啦观看免费观看视频高清| 国产精品99久久久久久久久| 国产黄片美女视频| 在线a可以看的网站| 夫妻性生交免费视频一级片| 在线观看66精品国产| 少妇熟女aⅴ在线视频| 国产探花在线观看一区二区| 午夜a级毛片| av视频在线观看入口| 一区福利在线观看| 亚洲欧美日韩东京热| 午夜免费激情av| 国产午夜福利久久久久久| 一卡2卡三卡四卡精品乱码亚洲| 国产精品日韩av在线免费观看| 中文字幕人妻熟人妻熟丝袜美| 精品久久久久久久久亚洲| 国产精品1区2区在线观看.| 欧美高清成人免费视频www| 中文资源天堂在线| 午夜福利在线在线| 免费大片18禁| 美女高潮的动态| 日韩一区二区视频免费看| 九九在线视频观看精品| 国产蜜桃级精品一区二区三区| 免费大片18禁| 如何舔出高潮| 久久精品国产亚洲av涩爱 | 精品午夜福利在线看| 毛片一级片免费看久久久久| 亚洲久久久久久中文字幕| 天堂av国产一区二区熟女人妻| 亚洲中文字幕日韩| 国产精品人妻久久久影院| 欧美在线一区亚洲| 午夜精品国产一区二区电影 | 黄色一级大片看看| 亚洲精品影视一区二区三区av| 伦理电影大哥的女人| 国产日韩欧美在线精品| 国产美女午夜福利| 午夜爱爱视频在线播放| 老女人水多毛片| 成人永久免费在线观看视频| 18+在线观看网站| 免费观看在线日韩| 综合色av麻豆| av女优亚洲男人天堂| 1024手机看黄色片| 国产高清有码在线观看视频| 国产美女午夜福利| 久久人人爽人人爽人人片va| 在线观看免费视频日本深夜| 精品久久久久久久人妻蜜臀av| 男女那种视频在线观看| 久久久久久久久大av| 国产不卡一卡二| 一区二区三区高清视频在线| 亚洲最大成人中文| 欧美潮喷喷水| 国产 一区 欧美 日韩| 久久精品国产亚洲网站| 啦啦啦啦在线视频资源| 亚洲四区av| 1024手机看黄色片| 国内精品久久久久精免费| 色尼玛亚洲综合影院| 一个人看的www免费观看视频| 亚洲色图av天堂| av天堂中文字幕网| 男人舔奶头视频| 18禁黄网站禁片免费观看直播| 日本av手机在线免费观看| 国产亚洲av嫩草精品影院| 少妇人妻精品综合一区二区 | 久久99热这里只有精品18| 久久久精品欧美日韩精品| 日本一二三区视频观看| 欧洲精品卡2卡3卡4卡5卡区| 麻豆一二三区av精品| 久久99精品国语久久久| 久久欧美精品欧美久久欧美| 亚洲精品成人久久久久久| www.色视频.com| av在线天堂中文字幕| 久久99热6这里只有精品| 欧美丝袜亚洲另类| 麻豆国产av国片精品| 日韩精品有码人妻一区| 亚洲欧美精品综合久久99| 变态另类丝袜制服| 精品午夜福利在线看| 男的添女的下面高潮视频| 日韩成人伦理影院| 黄色欧美视频在线观看| 国产久久久一区二区三区| 99久国产av精品| 女的被弄到高潮叫床怎么办| 少妇熟女欧美另类| 好男人视频免费观看在线| 中文在线观看免费www的网站| 亚洲av男天堂| 老熟妇乱子伦视频在线观看| 国产白丝娇喘喷水9色精品| 欧美高清性xxxxhd video| 亚洲av免费高清在线观看| 国产精华一区二区三区| 欧美xxxx黑人xx丫x性爽| 亚洲av一区综合| 欧美一区二区国产精品久久精品| 菩萨蛮人人尽说江南好唐韦庄 | 麻豆久久精品国产亚洲av| 免费黄网站久久成人精品| 春色校园在线视频观看| 国内精品宾馆在线| 最后的刺客免费高清国语| 少妇裸体淫交视频免费看高清| 久久久久久大精品| 久久精品夜夜夜夜夜久久蜜豆| .国产精品久久| 亚洲第一电影网av| 男人和女人高潮做爰伦理| 99在线视频只有这里精品首页| 国产精品爽爽va在线观看网站| 免费观看a级毛片全部| 精品人妻偷拍中文字幕| 中文字幕av在线有码专区| 亚洲av成人精品一区久久| 国产高清三级在线| 又黄又爽又刺激的免费视频.| 色综合色国产| 成人三级黄色视频| 亚州av有码| 国产成人aa在线观看| 国产高清三级在线| 亚洲最大成人中文| 久久这里有精品视频免费| 国产视频首页在线观看| 久久这里只有精品中国| 久久精品人妻少妇| 日本免费一区二区三区高清不卡| 日韩欧美 国产精品| 一级黄色大片毛片| 亚洲成人精品中文字幕电影| 久久久久久国产a免费观看| 亚洲最大成人手机在线| 精品人妻一区二区三区麻豆| 九九在线视频观看精品| 成人三级黄色视频| 国产精品三级大全| 亚洲国产色片| 国产色爽女视频免费观看| 黄色一级大片看看| 2021天堂中文幕一二区在线观| 丰满乱子伦码专区| 最后的刺客免费高清国语| 国产av麻豆久久久久久久| 天堂中文最新版在线下载 | 九九爱精品视频在线观看| 黄片wwwwww| 九九在线视频观看精品| 啦啦啦观看免费观看视频高清| 成年av动漫网址| 精品无人区乱码1区二区| 女人被狂操c到高潮| 日本黄色片子视频| 国产一级毛片在线| 国产综合懂色| 又黄又爽又刺激的免费视频.| 亚洲av不卡在线观看| 午夜福利视频1000在线观看| 狠狠狠狠99中文字幕| 在线免费观看的www视频| 欧美+亚洲+日韩+国产| 成人一区二区视频在线观看| 成人二区视频| 一本精品99久久精品77| 国产精品一二三区在线看| 国产精品伦人一区二区| 在线播放国产精品三级| 免费在线观看成人毛片| 少妇熟女aⅴ在线视频| 大又大粗又爽又黄少妇毛片口| 日韩一区二区三区影片| 最近2019中文字幕mv第一页| 99热6这里只有精品| 最近的中文字幕免费完整| 非洲黑人性xxxx精品又粗又长| 狂野欧美白嫩少妇大欣赏| 免费黄网站久久成人精品| 插逼视频在线观看| 91av网一区二区| 两个人的视频大全免费| 成人国产麻豆网| 我要看日韩黄色一级片| 六月丁香七月| 一进一出抽搐动态| 观看免费一级毛片| 亚洲成av人片在线播放无| 在线a可以看的网站| 人妻夜夜爽99麻豆av| 亚洲精品日韩av片在线观看| 波多野结衣高清作品| 嫩草影院新地址| 久久久色成人| 国产成人aa在线观看| 欧美色视频一区免费| 国产人妻一区二区三区在| 18禁在线无遮挡免费观看视频| 我要看日韩黄色一级片| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 白带黄色成豆腐渣| 日韩在线高清观看一区二区三区| kizo精华| 日韩欧美在线乱码| 国产精品1区2区在线观看.| 一区二区三区高清视频在线| 在线观看一区二区三区| 看非洲黑人一级黄片| 亚洲av中文av极速乱| 亚洲在线观看片| 成人永久免费在线观看视频| 黄色日韩在线| 国产熟女欧美一区二区| 插逼视频在线观看| 国产三级中文精品| 亚洲精品成人久久久久久| 99久久久亚洲精品蜜臀av| 黄色一级大片看看| 久久久久久久久久成人| 欧美+日韩+精品| 天堂中文最新版在线下载 | av免费观看日本| www日本黄色视频网| 成年女人永久免费观看视频| 精品免费久久久久久久清纯| 国产美女午夜福利| 免费在线观看成人毛片| 精品久久久久久成人av| av专区在线播放| 国产探花极品一区二区| 免费观看在线日韩| 在线天堂最新版资源| 在线观看免费视频日本深夜| 看十八女毛片水多多多| 亚洲中文字幕日韩| 欧美日韩一区二区视频在线观看视频在线 | 国产探花极品一区二区| .国产精品久久| 国产成人精品久久久久久| 欧美日韩综合久久久久久| 欧美日韩一区二区视频在线观看视频在线 | 国产69精品久久久久777片| 热99re8久久精品国产| 韩国av在线不卡| 久久久久网色| 免费观看人在逋| 可以在线观看的亚洲视频| 十八禁国产超污无遮挡网站| 久久精品国产亚洲av天美| 又黄又爽又刺激的免费视频.| 天堂av国产一区二区熟女人妻| 欧美变态另类bdsm刘玥| 少妇高潮的动态图| 国产真实伦视频高清在线观看| 偷拍熟女少妇极品色| 精品一区二区三区视频在线| 日本撒尿小便嘘嘘汇集6| 啦啦啦啦在线视频资源| 国产高清三级在线| 久久久久久久久中文| 最近最新中文字幕大全电影3| 日韩,欧美,国产一区二区三区 | 一区二区三区四区激情视频 | 99riav亚洲国产免费| 精品日产1卡2卡| 欧美性猛交黑人性爽| 欧美+亚洲+日韩+国产| 亚洲国产欧洲综合997久久,| 成人无遮挡网站| 性色avwww在线观看| 蜜桃亚洲精品一区二区三区| 亚洲高清免费不卡视频| 久久午夜亚洲精品久久| 狂野欧美白嫩少妇大欣赏| 国产91av在线免费观看| 99久久成人亚洲精品观看| 又黄又爽又刺激的免费视频.| 人妻制服诱惑在线中文字幕| 九九在线视频观看精品| 亚洲自拍偷在线| 亚洲国产欧美在线一区| 欧美成人a在线观看| 久久精品夜色国产| 欧洲精品卡2卡3卡4卡5卡区| 久久这里有精品视频免费| 国产在线精品亚洲第一网站| 国产免费男女视频| 悠悠久久av| 亚洲欧美精品专区久久| 亚洲av免费在线观看| 一个人免费在线观看电影| 亚洲婷婷狠狠爱综合网| 桃色一区二区三区在线观看| 黄色欧美视频在线观看| 日韩,欧美,国产一区二区三区 | 色视频www国产| 国产大屁股一区二区在线视频| 久久久欧美国产精品| 寂寞人妻少妇视频99o| 久久久久久九九精品二区国产| ponron亚洲| 国产三级中文精品| 久久久久久伊人网av| 舔av片在线| 成人无遮挡网站| 国产亚洲欧美98| 国产久久久一区二区三区| 麻豆乱淫一区二区| 99久久精品一区二区三区| 国产伦在线观看视频一区| 国产黄片美女视频| 亚洲精品成人久久久久久| 日韩欧美三级三区| 1024手机看黄色片| 国产色爽女视频免费观看| 日本成人三级电影网站| 91麻豆精品激情在线观看国产| 亚洲最大成人av| 床上黄色一级片| 男插女下体视频免费在线播放| 日本三级黄在线观看| 日韩欧美国产在线观看| a级一级毛片免费在线观看| h日本视频在线播放| 国内精品美女久久久久久| 成人国产麻豆网| 我要搜黄色片| 日韩一区二区三区影片| 亚洲在线观看片| 精品人妻偷拍中文字幕| 哪里可以看免费的av片| 亚洲国产欧美人成| 欧美三级亚洲精品| 亚洲综合色惰| 一区二区三区免费毛片| 成人鲁丝片一二三区免费| 看片在线看免费视频| 中文欧美无线码| 成人漫画全彩无遮挡| 国产淫片久久久久久久久| 亚洲人与动物交配视频| 一进一出抽搐动态| 日韩强制内射视频| 欧美在线一区亚洲| 免费看av在线观看网站| 免费人成在线观看视频色| 全区人妻精品视频| 18+在线观看网站| 插逼视频在线观看| 91麻豆精品激情在线观看国产| 欧美日韩精品成人综合77777| 99久久精品热视频| 最近视频中文字幕2019在线8| 一区二区三区免费毛片| 国产精品伦人一区二区| 成年av动漫网址| 久久精品国产鲁丝片午夜精品| 成人美女网站在线观看视频| 黄色欧美视频在线观看| 一级毛片aaaaaa免费看小| av在线亚洲专区| 在线国产一区二区在线| 亚洲国产高清在线一区二区三| 少妇丰满av| 淫秽高清视频在线观看| 51国产日韩欧美| 亚洲成av人片在线播放无| 黄片无遮挡物在线观看| 99在线人妻在线中文字幕| 欧美一区二区国产精品久久精品| 久久6这里有精品| 中出人妻视频一区二区| 日日摸夜夜添夜夜添av毛片| 小说图片视频综合网站| 欧美日韩在线观看h| 性插视频无遮挡在线免费观看| 国产精品一二三区在线看| 特大巨黑吊av在线直播| 精品日产1卡2卡| 国产精品1区2区在线观看.| 男女啪啪激烈高潮av片| 亚洲精品色激情综合| 午夜老司机福利剧场| 午夜福利视频1000在线观看| 国产v大片淫在线免费观看| 国产探花在线观看一区二区| 婷婷亚洲欧美| 网址你懂的国产日韩在线| 国产蜜桃级精品一区二区三区| 一夜夜www| 黄色欧美视频在线观看| 男的添女的下面高潮视频| 欧美日韩乱码在线| 天堂影院成人在线观看| 大型黄色视频在线免费观看| 偷拍熟女少妇极品色| 九九爱精品视频在线观看| 22中文网久久字幕| av在线播放精品| 亚洲av电影不卡..在线观看| 波野结衣二区三区在线| 色综合亚洲欧美另类图片| 国内精品宾馆在线| 人人妻人人看人人澡| 国产一区二区三区av在线 | 在线观看午夜福利视频| 麻豆一二三区av精品| 欧美bdsm另类| 午夜精品在线福利| 小蜜桃在线观看免费完整版高清| 久久久成人免费电影| 午夜激情欧美在线| 两性午夜刺激爽爽歪歪视频在线观看| 亚洲精品日韩av片在线观看| 国产成人福利小说| 亚洲精品国产av成人精品| 精品99又大又爽又粗少妇毛片| 一本精品99久久精品77| 国产亚洲av嫩草精品影院| 春色校园在线视频观看| 精品人妻一区二区三区麻豆| 成人亚洲欧美一区二区av| 日韩三级伦理在线观看| 成人无遮挡网站| 中文字幕制服av| 国内精品美女久久久久久| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 久久久国产成人免费| 国产精品野战在线观看| 中文欧美无线码| 成人特级av手机在线观看| 狂野欧美白嫩少妇大欣赏| 免费av观看视频| 国产爱豆传媒在线观看| 成人漫画全彩无遮挡| 免费看av在线观看网站| 全区人妻精品视频| 有码 亚洲区| 国产精品一二三区在线看| 少妇熟女aⅴ在线视频| 99热只有精品国产| 国内精品宾馆在线| 一本精品99久久精品77| 小说图片视频综合网站| 有码 亚洲区| 能在线免费看毛片的网站| 精品久久久久久成人av| 人妻制服诱惑在线中文字幕| 身体一侧抽搐| 亚洲最大成人av| 日本三级黄在线观看| 精品一区二区三区人妻视频| 久久中文看片网| 亚洲欧美中文字幕日韩二区| 啦啦啦韩国在线观看视频| 日韩av不卡免费在线播放| 午夜亚洲福利在线播放| 亚洲精品456在线播放app| 在线观看66精品国产| 亚州av有码| 一本一本综合久久| 一本精品99久久精品77| 精品一区二区三区人妻视频| 欧美性猛交╳xxx乱大交人| 国产美女午夜福利| 免费av观看视频| 精品人妻视频免费看| 午夜福利在线观看吧| 久久久a久久爽久久v久久| 中文字幕av成人在线电影| 欧美性猛交╳xxx乱大交人| 国产91av在线免费观看| 亚洲成人久久性| 观看美女的网站| 国产午夜精品一二区理论片| 精品午夜福利在线看| 色尼玛亚洲综合影院| 在线观看一区二区三区| 99热全是精品| 午夜福利在线观看免费完整高清在 | 国产黄色小视频在线观看| 美女被艹到高潮喷水动态| 色吧在线观看| 蜜桃久久精品国产亚洲av| 精品国产三级普通话版| 99热6这里只有精品| 不卡一级毛片| 插阴视频在线观看视频| 岛国毛片在线播放| 99九九线精品视频在线观看视频| 久久久精品大字幕| 日韩欧美三级三区| av黄色大香蕉| 日本与韩国留学比较| 天美传媒精品一区二区| 别揉我奶头 嗯啊视频| 日韩中字成人| 麻豆成人午夜福利视频| 婷婷亚洲欧美| 成人特级av手机在线观看| 精品99又大又爽又粗少妇毛片| 欧美精品一区二区大全| 国产精品久久久久久av不卡| 99久久精品一区二区三区| 亚洲欧美成人综合另类久久久 | 国产精品一区二区三区四区久久| 欧美3d第一页| 欧美日韩一区二区视频在线观看视频在线 | 欧美精品国产亚洲| 国产单亲对白刺激| 国产老妇女一区| av在线天堂中文字幕| 亚洲av不卡在线观看| 91久久精品电影网| 日本免费a在线| 亚洲在线观看片| 国产午夜精品久久久久久一区二区三区| 久久午夜福利片| 亚洲国产日韩欧美精品在线观看| 国产伦精品一区二区三区视频9| 色播亚洲综合网| 亚洲av成人精品一区久久| 久久精品国产清高在天天线| 一级av片app| 亚洲成人久久性| 六月丁香七月| 久久久久国产网址| 丰满乱子伦码专区| 久久久a久久爽久久v久久| av又黄又爽大尺度在线免费看 | 亚洲自拍偷在线| 成人av在线播放网站| 18+在线观看网站| 色哟哟·www| 啦啦啦啦在线视频资源| 国产毛片a区久久久久| 两个人视频免费观看高清| 人人妻人人看人人澡| 亚洲一级一片aⅴ在线观看| 国产精品久久久久久久久免| 久久欧美精品欧美久久欧美| 国产精品久久视频播放| 赤兔流量卡办理| 99热只有精品国产| 99热这里只有精品一区| 中文字幕av成人在线电影| 亚洲欧美清纯卡通| 欧美不卡视频在线免费观看| 舔av片在线| 成熟少妇高潮喷水视频| 人妻夜夜爽99麻豆av| 国产麻豆成人av免费视频| 天堂中文最新版在线下载 | 国产精品日韩av在线免费观看| 一级av片app| 男的添女的下面高潮视频| 欧美在线一区亚洲| a级一级毛片免费在线观看| 久久婷婷人人爽人人干人人爱|