• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    融合位置權(quán)重的基于注意力交叉注意力的長短期記憶方面情感分析模型

    2019-10-23 12:23:56武婷曹春萍
    計(jì)算機(jī)應(yīng)用 2019年8期
    關(guān)鍵詞:長短期記憶網(wǎng)絡(luò)深度學(xué)習(xí)

    武婷 曹春萍

    摘 要:針對傳統(tǒng)的基于注意力機(jī)制的神經(jīng)網(wǎng)絡(luò)模型不能對方面特征和情感信息進(jìn)行有效關(guān)注,以及不同距離或不同方向的上下文詞對方面詞的情感極性判斷有不同的貢獻(xiàn)等問題,提出一種融合位置權(quán)重的基于注意力交叉注意力的長短期記憶方面情感分析模型(LWAOA-LSTM)。首先,為詞向量加入位置權(quán)重信息;然后,使用長短期記憶(LSTM)網(wǎng)絡(luò)同時(shí)對方面和句子進(jìn)行建模以生成方面表示和句子表示,同時(shí)通過注意力交叉注意力模塊共同學(xué)習(xí)方面和句子的表示以獲得方面到文本和文本到方面的交互關(guān)注,并自動(dòng)關(guān)注句子中的重要部分;最后,在景點(diǎn)、餐飲、住宿不同主題數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),驗(yàn)證了該模型對方面情感分析的準(zhǔn)確性。實(shí)驗(yàn)結(jié)果表明,所提模型在景點(diǎn)、餐飲、住宿主題數(shù)據(jù)集上的準(zhǔn)確率分別達(dá)到78.3%、80.6%和82.1%,取得了比傳統(tǒng)LSTM網(wǎng)絡(luò)模型更好的效果。

    關(guān)鍵詞:深度學(xué)習(xí);方面情感分析;位置加權(quán)詞向量;注意力交叉注意力;長短期記憶網(wǎng)絡(luò)

    中圖分類號:?TP183; TP391.1

    文獻(xiàn)標(biāo)志碼:A

    Aspect level sentiment classification model with location weight and long-short term memory based on attention-over-attention

    WU Ting*, CAO Chunping

    School of Optical-Electrical and Computer Engineering, University of Shanghai for Science and Technology, Shanghai 200082, China

    Abstract:

    The traditional attention-based neural network model can not effectively pay attention to aspect features and sentiment information, and context words of different distances or different directions have different contributions to the sentiment polarity assessment of aspect words. Aiming at these problems, Location Weight and Attention-Over-Attention Long-short Term Memory (LWAOA-LSTM) model was proposed. Firstly, the location weight information was added to the word vectors. Then Long-Short Term Memory (LSTM) network was used to simultaneously model aspects and sentences to generate aspect representation and sentence representation, and the aspect and sentence representations were learned simultaneously through attention-over-attention module to obtain the interactions

    from the aspect to the text and from the text to the aspect, and the important part of the sentence was automatically paid attention to. Finally, the experiments were carried out on different thematic datasets of attractions, catering and accommodation, and the accuracy of the aspect level sentiment analysis by the model was verified. Experimental results show that the accuracy of the model on the datasets of attractions, catering and accommodation is 78.3%, 80.6% and 82.1% respectively, and LWAOA-LSTM has better performance than traditional LSTM network model.

    Key words:

    deep learning; aspect level sentiment classification; location-weighted word vector; attention-over-attention; Long-Short Term Memory (LSTM) network

    0 引言

    隨著互聯(lián)網(wǎng)進(jìn)入Web 2.0時(shí)代,人們越來越喜歡使用網(wǎng)絡(luò)分享知識(shí)、經(jīng)驗(yàn)、意見和感受等,這些評論性文本蘊(yùn)含了大量的情感信息,如何從社交網(wǎng)絡(luò)文本信息中挖掘用戶的情感傾向已得到越來越多研究人員的關(guān)注。不像文檔級情感分析[1],基于方面情感分析是一個(gè)更細(xì)粒度的分類任務(wù),當(dāng)一個(gè)句子中出現(xiàn)了多個(gè)方面時(shí),基于方面情感分析克服了文檔情感分析的一個(gè)局限性,能夠針對文本中特定一方面來分析其情感極性(例如積極、消極、中立)。例如句子“這家飯店味 道不錯(cuò),但服務(wù)不好”,“食物味道”方面的情感極性為積極,而“服務(wù)”方面的情感極性卻是消極的。這個(gè)例子中涉及到兩個(gè)方面,因?yàn)楦鱾€(gè)方面的情感極性不同,句子的整體情感判斷是不準(zhǔn)確的。如果忽略了方面信息,那么將很難獲得特定方面的情感極性。這種錯(cuò)誤普遍存在于情感分析任務(wù)中。在最近的一個(gè)研究中,Jiang等[2]手工評估了Twitter情感分類器,結(jié)果表明40%的情感分類錯(cuò)誤都是因?yàn)闆]有考慮方面信息。因此,方面情感分析具有很大的研究價(jià)值。

    目前,已經(jīng)提出很多方法來處理基于方面情感分析問題。傳統(tǒng)的基于規(guī)則和詞典的方法,大多數(shù)依靠情感詞典的建立,性能好壞與規(guī)則和人工干預(yù)密不可分[3]?;跈C(jī)器學(xué)習(xí)的方法通過監(jiān)督訓(xùn)練來構(gòu)建機(jī)器學(xué)習(xí)分類器,但人工設(shè)計(jì)特征的分類器仍需要依賴復(fù)雜的人工規(guī)則和特征工程[4]。近年來,由于無需特征工程就可以從數(shù)據(jù)中學(xué)習(xí)表示,深度學(xué)習(xí)在自然語言處理任務(wù)中越來越受歡迎[5]。其中,長短期記憶(Long-Short Term Memory, LSTM)網(wǎng)絡(luò)可以解決梯度爆炸或消失的問題,被廣泛應(yīng)用于方面級情感分析,如Target-Dependent LSTM(TD-LSTM)、Target-Connection LSTM(TC-LSTM)等。 同時(shí),結(jié)合注意力機(jī)制的神經(jīng)網(wǎng)絡(luò)模型在自然語言處理任務(wù)中取得了比傳統(tǒng)方法更好的效果,加入注意力機(jī)制不僅可以提高閱讀理解力,而且能關(guān)注句子的特定方面[6-8]。但是對于中文評論尤其是長篇評論,其中會(huì)包含很多與方面情感判斷無關(guān)的單詞,會(huì)對方面情感分析的準(zhǔn)確率產(chǎn)生影響。

    近年來,方面級情感分析任務(wù)取得了很好的發(fā)展,從各種研究中可以發(fā)現(xiàn)研究方面情感分析的關(guān)鍵因素主要有三個(gè):結(jié)合上下文后方面詞的語義信息、方面詞與上下文詞之間的相關(guān)性和方面詞在上下文中的位置信息??紤]到所有三個(gè)關(guān)鍵因素,可以獲得更好的效果,然而,尚未有模型充分考慮上述三個(gè)因素。研究發(fā)現(xiàn)不同位置的單詞對特定方面的情感極性判斷有不同的貢獻(xiàn),并且關(guān)鍵詞總是位于方面的一側(cè),綜合考慮方面情感分析的三個(gè)關(guān)鍵因素,本文提出了

    一種融合位置權(quán)重的基于注意力交叉注意力的長短期記憶方面情感分析模型

    (Location-Weight and Attention-Over-Attention LSTM, LWAOA-LSTM)。該模型首先通過捕獲位置信息為不同單詞生成不同的位置權(quán)重,將此權(quán)重與詞向量合并;然后,使用基于長短期記憶(LSTM)神經(jīng)網(wǎng)絡(luò)來解決方面情感分析,傳統(tǒng)的基于LSTM的方法主要側(cè)重于分別對方面和文本進(jìn)行建模[6-7],而本文使用LSTM同時(shí)對各個(gè)方面和文本進(jìn)行建模。此外,由LSTM生成的方面表示和文本表示通過注意力交叉注意力(Attention-Over-Attention, AOA)模型進(jìn)行交互,AOA模型會(huì)自動(dòng)產(chǎn)生方面到文本以及文本到方面之間的交互關(guān)注。經(jīng)過研究分析發(fā)現(xiàn),一個(gè)句子中只有幾個(gè)詞語會(huì)與方面情感分析相關(guān),并且很多時(shí)候這些情感詞匯都是與方面密切相關(guān)的。例如,“這家酒店環(huán)境不錯(cuò),但價(jià)格有點(diǎn)貴”,根據(jù)人類閱讀經(jīng)驗(yàn),消極詞“貴”更可能描述“價(jià)格”而不是“環(huán)境”。類似地,對于方面的短語也應(yīng)該關(guān)注最重要的對應(yīng)的情感部分,因此本文選擇AOA模型來處理方面和句子中最重要的部分。與傳統(tǒng)基于LSTM神經(jīng)網(wǎng)絡(luò)模型相比,本文的模型能提高情感分類的準(zhǔn)確率。

    1 相關(guān)工作

    1.1 情感分類

    情感分類旨在檢測文本的情感極性。針對這一研究問題提出了許多方法[9],大多數(shù)方法使用機(jī)器學(xué)習(xí)以監(jiān)督的方式進(jìn)行文本分類,例如大多使用樸素貝葉斯算法[10]以及支持向量機(jī)(Support Vector Machine, SVM)來解決此問題[11]。這些方法大多數(shù)依賴于n-gram特征或人工設(shè)計(jì)的特征,因此多種情感詞典被建立[12-14]。但這些方法存在很多缺點(diǎn),比如不可能存在一個(gè)詞典包括所有的情感詞匯,而規(guī)則制定也是需要專家大量的經(jīng)驗(yàn)和耗費(fèi)許多人力成本,并且還可能對某些特征考慮得不夠全面。

    近年來,神經(jīng)網(wǎng)絡(luò)的應(yīng)用大大提高了情感分類的準(zhǔn)確率與效率。基于神經(jīng)網(wǎng)絡(luò)的方法自動(dòng)學(xué)習(xí)特征表示,而無需大量的特征工程。研究者提出了各種神經(jīng)網(wǎng)絡(luò)模型,Socher等[15]將遞歸神經(jīng)網(wǎng)絡(luò)用于情感樹的構(gòu)建,提高了分類的準(zhǔn)確率;Tang等[16]采用循環(huán)神經(jīng)網(wǎng)絡(luò)建立篇章級循環(huán)神經(jīng)網(wǎng)絡(luò)模型,該模型相比標(biāo)準(zhǔn)的循環(huán)神經(jīng)網(wǎng)絡(luò)模型具有較高的優(yōu)越性,在情感分類任務(wù)中取得了進(jìn)步;Tai等[17]改進(jìn)標(biāo)準(zhǔn)的LSTM模型,引入Tree-LSTM模型,該模型建立了樹狀LSTM的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu),在情感分類任務(wù)中有較好的表現(xiàn)。這些方法在情感分析上取得了令人滿意的結(jié)果。

    1.2 方面情感分析

    方面級情感分析是情感分類的一個(gè)分支,其目標(biāo)是識(shí)別句子中某個(gè)特定方面的情感極性。在過去的一些研究中,基于規(guī)則的模型被應(yīng)用于解決方面情感分析[18]。Nasukawa等[19]首次提出對句子進(jìn)行依賴句法分析,然后加入預(yù)先定義的規(guī)則從而判斷某一方面的情感;Jiang等[2]提出目標(biāo)依賴情感分析,通過基于句子的語法結(jié)構(gòu)建立目標(biāo)相關(guān)特征從而達(dá)到對特定目標(biāo)的情感極性判斷。這些與方面相關(guān)的特征與其他文本特征一起反饋到分類器(如SVM)中。

    之后,多種基于神經(jīng)網(wǎng)絡(luò)的模型被應(yīng)用于解決這類方面情感分析問題。典型模型是基于LSTM神經(jīng)網(wǎng)絡(luò),如TD-LSTM[7]在模型中使用兩個(gè)LSTM從而模擬特定方面的上下文,此模型使用兩個(gè)LSTM最后的隱藏層預(yù)測情感。為了更好捕捉句子的重要部分,Wang等[6]使用方面嵌入來生成注意力向量,以此來關(guān)注句子的不同部分。在此基礎(chǔ)上,Ma等[20]使用兩個(gè)LSTM網(wǎng)絡(luò)分別對句子和方面建模,并進(jìn)一步使用由句子生成的隱藏狀態(tài),通過池化操作來計(jì)算方面目標(biāo)的注意力,能夠同時(shí)關(guān)注到句子的重要部分和方面信息。這種方法與本文提出的模型相似,但是,池化操作會(huì)忽略句子與方面之間的詞對交互,并且實(shí)驗(yàn)表明本文提出的模型性能更優(yōu)。

    2 方面情感分析模型

    2.1 問題定義

    在方面情感分析問題中,本文定義句子s={w1,w2,…,wi,…,wj,…,wn},方面目標(biāo)為t={wi,wi+1,…,wi+m-1}。 其中方面標(biāo)簽可以是一個(gè)單詞也可以是一個(gè)長短語。模型的目標(biāo)是分析出句子中某一方面的情感極性。

    本文提出的總體結(jié)構(gòu)如圖1所示,主要由四部分組成:詞向量、雙向長短期記憶網(wǎng)絡(luò)(Bi-directional LSTM, Bi-LSTM)、AOA模型和最終預(yù)測。

    2.2 帶有位置權(quán)重的詞向量

    長度為n的句子表示為s={w1,w2,…,wi,…, wj, …, wn},長度為m的方面詞表示為t={wi,wi+1,…,wi+m-1},本文首先將每個(gè)單詞映射為一個(gè)低維實(shí)值向量,稱為詞向量。對于每個(gè)單詞wi,可以從MV×dw得到向量 v i, 其中 | ?V ?| 是詞典大小,dw為向量維度。詞向量處理之后得到兩組詞向量:句子向量[ v 1; v 2;…; v n]∈ R n×dw和方面向量[ v i; v i+1;…; v i+m-1]∈ R n×dw。 另外,表達(dá)某方面的情感的關(guān)鍵詞總是比較接近方面詞,越接近方面詞匯包含的相關(guān)信息越多。例如句子“這家酒店環(huán)境不錯(cuò),但價(jià)格有點(diǎn)貴”,“不錯(cuò)”是“酒店環(huán)境”評價(jià)的關(guān)鍵詞,而“貴”是“價(jià)格”的關(guān)鍵詞,由于“不錯(cuò)”比“貴”要更接近方面詞“環(huán)境”,所以“不錯(cuò)”對方面“環(huán)境”的情感極性判斷有更多貢獻(xiàn),“貴”對“價(jià)格”有更多貢獻(xiàn)。

    并且,描述方面詞情感的關(guān)鍵詞總是只位于方面詞的一側(cè)。在上述例子中,情感詞“不錯(cuò)”和“貴”都是位于“環(huán)境”和“價(jià)格”的右側(cè),因此,在這個(gè)例子中,方面詞右側(cè)的詞語要比左邊的詞語有更大的影響力。為此,設(shè)計(jì)了兩個(gè)參數(shù)來表示某一詞匯的重要性,此參數(shù)也是通過訓(xùn)練來學(xué)習(xí)。

    直接將詞向量輸入模型中生成的句子向量將包含很多與方面詞無關(guān)的信息,在生成句子向量時(shí)使用位置權(quán)重來強(qiáng)調(diào)與方面詞相關(guān)的情感信息,與此同時(shí),與方面詞無關(guān)的詞也相應(yīng)地被削弱了。加入位置信息有利于獲得更好的結(jié)果,輸入層由位置加權(quán)詞向量組成。由于希望遠(yuǎn)離方面詞的權(quán)重下降得更快,有助于防止與方面無關(guān)的信息的干擾,因此使用Laplacian概率函數(shù)來獲得位置權(quán)重。

    每個(gè)詞向量 V ={ v 1, v 2,…, v n} 對應(yīng)的位置權(quán)重定義為:

    λ=[λ1,λ2,…,λn]

    (1)

    λ=? αlexp ( -βl | i-a |) , i

    αm, i=a

    αrexp ( -βr | i-a |) , i>a

    (2)

    其中:i是各個(gè)單詞的索引;a是方面詞的索引,不同位置的單詞有不同的位置權(quán)重。αl和βl為位于方面詞左側(cè)的詞語的參數(shù),αr和βr是位于方面詞右側(cè)的詞語的參數(shù),αm是方面詞,這些參數(shù)都是通過訓(xùn)練得到。例如,訓(xùn)練時(shí)如果左側(cè)單詞的位置權(quán)重比右側(cè)的大,則說明左側(cè)語句對方面詞的情感表達(dá)決定性要大。最后位置權(quán)重被合并到詞向量中:

    v i′=λi× v i

    (3)

    其中, v i′表示加權(quán)后的詞向量。

    2.3 雙向長短期記憶網(wǎng)絡(luò)(Bi-LSTM)

    在詞向量表示之后,將兩組詞向量分別輸入兩個(gè)Bi-LSTM中,本文用兩個(gè)Bi-LSTM網(wǎng)絡(luò)獲得句子和目標(biāo)詞的隱含語義,每個(gè)Bi-LSTM通過堆疊兩個(gè)LSTM網(wǎng)絡(luò)獲得。使用LSTM的優(yōu)勢在于避免梯度消失或爆炸問題,并且善于挖掘長期依賴。

    通過輸入 s =[ v 1′; v 2′;…; v n′]和前饋LSTM,生成一系列隱藏狀態(tài)

    s ∈ R n×dh,其中dh是隱藏向量的維度,通過將 s 輸入后向LSTM得到另一系列隱藏狀態(tài) ???s 。在Bi-LSTM網(wǎng)絡(luò)中,通過連接 ???s 和?? ?s 輸出最終隱藏向量 h ?s ∈ R n×2dh,并且以相同的方式計(jì)算方面目標(biāo)t的隱藏語義狀態(tài) h ?t 。

    s =LSTM ([ v 1′; v 2′;…; v n′])

    (4)

    s =LSTM ([ v 1′; v 2′;…; v n′])

    (5)

    h ?s =[?? ?s , ???s ]

    (6)

    其中:?? ?s 和?? ?s 分別表示前饋LSTM生成的隱藏狀態(tài)向量和后向LSTM生成的隱藏狀態(tài)向量 h ?s ;LSTM 和LSTM 分別表示前饋LSTM和后向LSTM。

    2.4 注意力交叉注意力機(jī)制

    考慮到文本的隱含語義表示和Bi-LSTM生成的方面目標(biāo),本文通過注意力交叉注意力(AOA)模塊計(jì)算文本的注意力權(quán)值,這是受到了問答研究中使用AOA模型的啟發(fā)[21]。給定目標(biāo)表示為 h ?t ∈ R m×2dh,句子表示為 h ?s ∈ R n×2dh,本文首先計(jì)算一個(gè)成對交互矩陣 I = h ?s ?·? h T t ,其中每個(gè)條目的值表示句子和目標(biāo)之間的一個(gè)詞對的相關(guān)度。通過逐列softmax和逐行softmax,得到目標(biāo)到句子的注意力 α 和句子到目標(biāo)的注意力 β 。 在逐列求平均值 β 之后,得到目標(biāo)級注意力?? ∈ R m,它表示方面中最重要的部分。式(11)給出了每個(gè)單獨(dú)的目標(biāo)到句子注意力 α 的加權(quán)和來計(jì)算最終的句子級關(guān)注度 γ ∈ R n。 考慮到每個(gè)方面詞語的影響,需要關(guān)注句子中每個(gè)詞的重要權(quán)重。

    α ij=exp( I ij) / ∑ i ( I ij)

    (8)

    β ij=exp( I ij) / ∑ j ( I ij)

    (9)

    j= 1 n ∑ i? β ij

    (10)

    γ = α ·?? T

    (11)

    2.5 最終分類

    最終句子表示為句子的注意力,通過AOA模塊得到句子隱藏語義狀態(tài)的加權(quán)和:

    r = h T s ?·? γ

    (12)

    本文將此句子表示作為最終的分類特征,并將它反饋到線性層中,從而將 r 投影到目標(biāo)類C中。

    x= W l· r +bl

    (13)

    其中: W l為權(quán)值矩陣;bl為偏差。在線性層之后,本文使用Softmax層計(jì)算句子 s 中某一方面a的情感極性c(c∈C)。

    P(y=c)=exp(xc) / ∑ i∈C exp(xi)

    (14)

    最終某方面的情感極性判斷只是具有最高概率的標(biāo)簽。

    loss=-∑ i ∑ c∈C I(yi=c)·log(P(yi=c))+λ‖ θ ‖2

    (15)

    其中:I(·)為指標(biāo)函數(shù);λ為L2正規(guī)化參數(shù); θ 為LSTM網(wǎng)絡(luò)和線性層的一組權(quán)重矩陣。本文進(jìn)一步使用Dropout來避免過渡擬合,并且隨機(jī)丟棄LSTM單元的一部分輸入。

    本文使用Adam[22]更新規(guī)則和小批量隨機(jī)梯度下降,最后最小化模型中關(guān)于權(quán)矩陣和偏差項(xiàng)的損失函數(shù)。

    3 實(shí)驗(yàn)及結(jié)果分析

    3.1 數(shù)據(jù)集

    本文通過網(wǎng)絡(luò)爬蟲軟件在螞蜂窩采集了關(guān)于上海的游記2000篇,然后經(jīng)過多主題評論性長文本過濾模型后得到有關(guān)景點(diǎn)、住宿、餐飲的句子集。每條句子都包含一系列的評價(jià)方面以及和該方面相關(guān)的情感極性,其中景點(diǎn)主要包括{地文,水域風(fēng)光,生物景觀,氣象景觀,遺跡遺址,建筑,人文,門票價(jià)格}八個(gè)方面,住宿主要包括{價(jià)格,環(huán)境,服務(wù)}三個(gè)方面,餐飲主要包括{食物味道,服務(wù),價(jià)格,環(huán)境}四個(gè)方面。本文實(shí)驗(yàn)數(shù)據(jù)統(tǒng)計(jì)如表1所示。

    3.2 參數(shù)設(shè)置

    在實(shí)驗(yàn)中,本文首先隨機(jī)選擇20%的訓(xùn)練數(shù)據(jù)作為驗(yàn)證集來調(diào)整超參數(shù)。所有權(quán)重矩陣從均勻分布U(-10-4,10-4)隨機(jī)初始化,并且所有偏差項(xiàng)都設(shè)置為0。L2正則化系數(shù)設(shè)置為10-4,丟失保持率為0.2。詞向量使用300維GloVe[23]詞向量進(jìn)行初始化,并在訓(xùn)練期間固定。

    對于單詞表外的詞匯,從均勻分布U(-0.01,0.01)中隨機(jī)初始化。LSTM隱藏層的維度設(shè)置為150,Adam優(yōu)化器的初始學(xué)習(xí)率為0.01。如果訓(xùn)練損失在每三個(gè)時(shí)期之后沒有下降,則將學(xué)習(xí)率降低一半,批量大小設(shè)置為25。

    3.3 對比實(shí)驗(yàn)

    本文分別對景點(diǎn)、住宿、飯店三個(gè)主題下的文本進(jìn)行方面級情感分析訓(xùn)練和評估模型,使用準(zhǔn)確度指標(biāo)來衡量績效。為了進(jìn)一步驗(yàn)證模型的性能,將本文方法與以下幾種方法進(jìn)行對比:

    1)SVM:是一種基本的機(jī)器學(xué)習(xí)的方法,它將訓(xùn)練集中最大的情感極性分配給測試集中的每一個(gè)樣本。

    2)LSTM:使用標(biāo)準(zhǔn)LSTM網(wǎng)絡(luò)模型對句子建模,最后隱藏層用作最終分類的句子表示。

    3) TD-LSTM。 文獻(xiàn)[7]提出的TD-LSTM網(wǎng)絡(luò)模型:它使用兩個(gè)LSTM網(wǎng)絡(luò)來模擬圍繞方面術(shù)語的前后環(huán)境,這兩個(gè)LSTM網(wǎng)絡(luò)的最后隱藏層被連接起來以預(yù)測情感極性。

    4) AT-LSTM。 文獻(xiàn)[6]提出的基于注意力機(jī)制的LSTM網(wǎng)絡(luò)模型AT-LSTM:它首先通過LSTM模型對句子進(jìn)行建模,然后將LSTM網(wǎng)絡(luò)生成的隱藏向量與方面詞向量相結(jié)合生成注意力向量,最終的句子表示是隱藏層的加權(quán)和。

    5) ATAE-LSTM: 文獻(xiàn)[6]在第二部分進(jìn)一步擴(kuò)展AT-LSTM得到的ATAE-LSTM網(wǎng)絡(luò)模型:它將方面詞向量附加到每一個(gè)詞向量中。

    6) IAN。 文獻(xiàn)[20]提出的結(jié)合交互式注意力機(jī)制的LSTM網(wǎng)絡(luò)模型IAN:它使用兩個(gè)LSTM分別對句子和方面術(shù)語進(jìn)行建模,使用句子中的隱藏狀態(tài)為目標(biāo)生成注意力向量,最后基于這兩個(gè)注意力向量輸出一個(gè)句子表示和一個(gè)目標(biāo)表示用于分類。

    3.4 結(jié)果分析

    3.4.1 不同模型對比實(shí)驗(yàn)結(jié)果分析

    本文采用準(zhǔn)確率來評估方面情感分析模型的效果,各個(gè)模型的準(zhǔn)確率如表2所示。

    從表2可以看出,本文提出的LWAOA-LSTM模型在3個(gè)不同的主題下都取得了不錯(cuò)的效果,其中在餐飲主題下進(jìn)行方面情感分析效果最好,準(zhǔn)確率達(dá)到82.1%,比IAN模型提高了4.45%,比ATAE-LSTM模型提升了6.35%,驗(yàn)證了本文提出方法的有效性。

    沒有加入注意力機(jī)制的LSTM模型和TD-LSTM模型的分類效果并不理想,在景點(diǎn)主題下的方面情感分析的準(zhǔn)確率分別達(dá)到68.5%和69.7%,而加入注意力機(jī)制的AT-LSTM模型和ATAE-LSTM準(zhǔn)確率達(dá)到71.9%和73.8%,比TD-LSTM分別提高了3.16%和5.88%。這是因?yàn)闆]有加入注意力機(jī)制的神經(jīng)網(wǎng)絡(luò)模型不能關(guān)注方面的特征信息,此類模型認(rèn)為同一句子的不同方面有相同的情感。加入注意力機(jī)制后可以高度關(guān)注某一方面的情感特征,準(zhǔn)確判斷同一句子不同方面的情感極性。

    另外,不僅加入注意力機(jī)制而且使用兩個(gè)LSTM的IAN模型以及本文提出的LWAOA-LSTM模型能夠?qū)渥雍头矫孢M(jìn)行分別建模,并且考慮到句子之間的相互聯(lián)系,在各個(gè)主題下進(jìn)行方面情感分析都取得了很好的效果,但I(xiàn)AN模型中的池化操作會(huì)忽略句子與目標(biāo)之間的詞對交互,而本文提出的模型在景點(diǎn)、住宿、餐飲三個(gè)主題下的方面情感分析與IAN模型相比分別提高了3.98%、4.81%和4.45%,說明本文提出的模型在方面情感分析中有較好的效果。

    3.4.2 位置加權(quán)的詞向量的影響

    本文在處理單詞的位置信息時(shí)使用了Laplacian概率函數(shù)來為詞向量添加位置權(quán)重,與不考慮位置信息的AOA-LSTM模型及加入絕對位置信息權(quán)重的基于注意力機(jī)制的LSTM(Attention-Enabled and Location-Aware LSTM,AELA-LSTM)方面情感分析模型[24]進(jìn)行對比,結(jié)果如表3所示。從表3可以看出,LWAOA-LSTM在所有數(shù)據(jù)集上都優(yōu)于不帶有位置信息的AOA-LSTM和帶有絕對位置信息權(quán)重的AELA-LSTM,從中可以得出結(jié)論:具有位置權(quán)重的模型有利于對方面詞的情感極性進(jìn)行分類。AELA-LSTM中雖然考慮了位置信息,但只是使用絕對位置,沒有考慮到不同方向上下文詞語對方面詞情感分類的影響,而且線性下降位置權(quán)重不能大幅降低遠(yuǎn)離方面詞的詞語的權(quán)重,因此該模型的情感分類效果不佳。

    4 結(jié)語

    在方面情感分析任務(wù)中,傳統(tǒng)的方法不能對方面信息和情感信息進(jìn)行有效判斷,并且位置信息對情感分類結(jié)果具有很大影響,因此本文提出融合上下文詞的位置信息生成位置加權(quán)詞向量,然后利用注意力交叉注意力模塊來學(xué)習(xí)方面和句子中的重要部分,從而生成句子的最終表示來進(jìn)行方面情感判斷。與傳統(tǒng)的方法相比,本文提出的模型能有效地學(xué)習(xí)方面和句子中的詞對信息。通過在不同主題的數(shù)據(jù)集上的對比實(shí)驗(yàn)結(jié)果表明,與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型相比,本文模型的準(zhǔn)確率和穩(wěn)定性都有所提高。

    但本文提出的模型無法有效處理以下情況:一種是復(fù)雜的情感表達(dá);一種是不常見的習(xí)語,尤其是對景點(diǎn)主題進(jìn)行方面情感分析時(shí),使用大量四字詞語而導(dǎo)致準(zhǔn)確率較低,因此,在未來的工作中,將探索如何改進(jìn)模型來解決此類問題。

    參考文獻(xiàn)

    [1]?RAO G, HUANG W, FENG Z, et al. LSTM with sentence representations for document-level sentiment classification [J]. Neurocomputing, 2018, 308: 49-57.

    [2]?JIANG L, YU M, ZHOU M, et al. Target-dependent Twitter sentiment classification [C]// Proceedings of the 49th Meeting of the Association for Computational Linguistics. Stroudsburg, PA:Association for Computational Linguistics, 2012: 151-160.

    [3]?劉全,梁斌,徐進(jìn),等. 一種用于基于方面情感分析的深度分層網(wǎng)絡(luò)模型[J]. 計(jì)算機(jī)學(xué)報(bào),2018,41(12): 2637-2652. (LIU Q, LIANG B, XU J, et al. A deep hierarchical neural network model for aspect-based sentiment analysis [J]. Chinese Journal of Computers, 2018, 41(12): 2637-2652.)

    [4]??KIRITCHENKO S, ZHU X, CHERRY C, et al. NRC-Canada-2014: detecting aspects and sentiment in customer reviews [C]// Proceedings of the 8th International Workshop on Semantic Evaluation. Stroudsburg, PA: Association for Computational Linguistics, 2014: 437-442.

    [5]?TANG D, QIN B, LIU T. Aspect level sentiment classification with deep memory network [C]// Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing. Stroudsburg, PA: Association for Computer Linguistics, 2016: 214-224.

    [6]?WANG Y, HUANG M, ZHAP L, et al. Attention-based LSTM for aspect-level sentiment classification [C]// Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing. Stroudsburg, PA: Association for Computational Linguistics, 2016: 606-615.

    [7]?TANG D, QIN B, FENG X, et al. Effective LSTMs for target-dependent sentiment classification [C]// Proceedings of the 26th International Conference on Computational Linguistics. Stroudsburg, PA: Association for Computational Linguistics and Chinese Language Processing, 2016: 3298-3307.

    [8]?胡朝舉, 梁寧. 基于深層注意力的LSTM的特定主題情感分析[J/OL]. 計(jì)算機(jī)應(yīng)用研究, 2019, 36(4): 1075-1079. (HU C J, LIANG N. Deeper attention-based LSTM for aspect sentiment analysis [J]. Application Research of Computers, 2019, 36(4): 1075-1079.)

    [9]?MEDHAT W, HASSAN A, KORASHY H. Sentiment analysis algorithms and applications [J]. Ain Shams Engineering Journal, 2014, 5(4): 1093-1113.

    [10] ?LIU B, BLASCH E, CHEN Y, et al. Scalable sentiment classification for big data analysis using naive Bayes classifier [C]// Proceedings of the 2013 IEEE International Conference on Big Data. Piscataway, NJ: IEEE, 2013: 99-104.

    [11]?WANG S, MANNING C D. Baselines and bigrams: simple, good sentiment and topic classification [C]// Proceedings of the 50th Annual Meeting of the Association for Computational Linguistics: Short Papers. Stroudsburg, PA: Association for Computational Linguistics, 2012: 90-94.

    [12]?NEVIAROUSKAYA A, PRENDINGER H, ISHIZUKA M. SentiFul: generating a reliable lexicon for sentiment analysis [C]// Proceedings of the 3rd International Conference on Affective Computing & Intelligent Interaction & Workshops. Piscataway, NJ: IEEE, 2009: 1-6.

    [13]?QIU G, LIU B, BU J, et al. Expanding domain sentiment lexicon through double propagation [C]// Proceedings of the 2009 International Joint Conference on Artificial Intelligence. San Francisco, CA: Morgan Kaufmann Publishers Inc., 2009: 1199-1204

    [14]?TABOADA M, BROOKE J, TOFILOSKI M, et al. Lexicon-based methods for sentiment analysis [J]. Computational Linguistics, 2011, 37(2):267-307.

    [15]?SOCHER R, PERELYGIN A, WU J Y, et al. Recursive deep models for semantic compositionality over a sentiment treebank [C]// Proceedings of the 2013 Conference on Empirical Methods in Natural Language Processing. Stroudsburg, PA: Association for Computational Linguistics, 2013: 1631-1642.

    [16]?TANG D, QIN B, LIU T. Document modeling with gated recurrent neural network for sentiment classification [C] // Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing. Stroudsburg, PA: Association for Computational Linguistics, 2015: 1422-1432.

    [17]?TAI K S, SOCHER R, MANNING C D. Improved semantic representations from tree-structured long short-term memory networks [C]// Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7rd International Joint Conference on Natural Language Processing. Stroudsburg, PA: Association for Computational Linguistics, 2015: 1556-1566.

    [18]?DING X, LIU B. The utility of linguistic rules in opinion mining [C]// Proceedings of the 30th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval. New York: ACM, 2007: 811-812.

    [19]?NASUKAWA T, YI J. Sentiment analysis: Capturing favorability using natural language processing [C]// Proceedings of the 2nd International Conference on Knowledge Capture. New York: ACM, 2003: 70-77.

    猜你喜歡
    長短期記憶網(wǎng)絡(luò)深度學(xué)習(xí)
    從餐館評論中提取方面術(shù)語
    多種算法對不同中文文本分類效果比較研究
    LSTM—RBM—NMS模型下的視頻人臉檢測方法研究
    餐飲業(yè)客流預(yù)測的深度聯(lián)合模型
    商情(2018年47期)2018-11-26 09:12:38
    基于LSTM的媒體網(wǎng)站用戶流量預(yù)測與負(fù)載均衡方法
    基于LSTM自動(dòng)編碼機(jī)的短文本聚類方法
    有體驗(yàn)的學(xué)習(xí)才是有意義的學(xué)習(xí)
    電子商務(wù)中基于深度學(xué)習(xí)的虛假交易識(shí)別研究
    MOOC與翻轉(zhuǎn)課堂融合的深度學(xué)習(xí)場域建構(gòu)
    大數(shù)據(jù)技術(shù)在反恐怖主義中的應(yīng)用展望
    成人特级黄色片久久久久久久| 极品教师在线免费播放| 国产精品嫩草影院av在线观看 | 欧美在线一区亚洲| 午夜激情欧美在线| 国产精品人妻久久久久久| 悠悠久久av| 丰满人妻一区二区三区视频av| 99国产综合亚洲精品| 午夜精品久久久久久毛片777| 色尼玛亚洲综合影院| 欧美激情国产日韩精品一区| 久久人人精品亚洲av| 深夜精品福利| 嫁个100分男人电影在线观看| 精品久久久久久成人av| 天天一区二区日本电影三级| 丁香欧美五月| 少妇裸体淫交视频免费看高清| 无人区码免费观看不卡| 少妇的逼水好多| 少妇高潮的动态图| 3wmmmm亚洲av在线观看| 美女xxoo啪啪120秒动态图 | 久久久久久九九精品二区国产| 他把我摸到了高潮在线观看| 欧美成人a在线观看| 99热这里只有是精品在线观看 | 欧美日韩中文字幕国产精品一区二区三区| 精品久久久久久久末码| 两人在一起打扑克的视频| 国产aⅴ精品一区二区三区波| 伊人久久精品亚洲午夜| 国产野战对白在线观看| 免费看美女性在线毛片视频| 成年免费大片在线观看| 18+在线观看网站| 每晚都被弄得嗷嗷叫到高潮| 日本精品一区二区三区蜜桃| 一本久久中文字幕| 婷婷丁香在线五月| 国产在线男女| 久久久久久九九精品二区国产| 欧美黄色片欧美黄色片| 夜夜爽天天搞| 91麻豆av在线| 婷婷精品国产亚洲av| 国产午夜精品久久久久久一区二区三区 | 琪琪午夜伦伦电影理论片6080| 久久久久九九精品影院| 日本一本二区三区精品| 九九在线视频观看精品| 丰满人妻一区二区三区视频av| 我要看日韩黄色一级片| 18禁黄网站禁片午夜丰满| 国产在线精品亚洲第一网站| 日本黄大片高清| 欧美黑人欧美精品刺激| 精品熟女少妇八av免费久了| 国产亚洲精品综合一区在线观看| 日韩欧美精品v在线| 一级毛片久久久久久久久女| 欧美另类亚洲清纯唯美| 女同久久另类99精品国产91| 99在线人妻在线中文字幕| 1024手机看黄色片| 国产亚洲精品综合一区在线观看| 搡老岳熟女国产| 精品免费久久久久久久清纯| 久久精品国产99精品国产亚洲性色| 窝窝影院91人妻| 1000部很黄的大片| 黄片小视频在线播放| 日韩高清综合在线| 可以在线观看毛片的网站| av在线蜜桃| 亚洲国产欧洲综合997久久,| 很黄的视频免费| 国产在线男女| 免费av不卡在线播放| 久久国产乱子免费精品| 日韩欧美精品免费久久 | 国产精品三级大全| 非洲黑人性xxxx精品又粗又长| 麻豆一二三区av精品| 国产乱人视频| 亚洲av熟女| 成人亚洲精品av一区二区| 老熟妇乱子伦视频在线观看| 88av欧美| 少妇人妻精品综合一区二区 | 国产av不卡久久| 午夜精品久久久久久毛片777| av专区在线播放| 欧美一区二区精品小视频在线| 久久久久久国产a免费观看| 51国产日韩欧美| 在线播放无遮挡| 2021天堂中文幕一二区在线观| 美女xxoo啪啪120秒动态图 | 久久久久久久午夜电影| 中文字幕精品亚洲无线码一区| netflix在线观看网站| 日本与韩国留学比较| 天美传媒精品一区二区| 天堂影院成人在线观看| 一进一出抽搐gif免费好疼| 亚洲国产欧美人成| 老司机福利观看| 国产精品1区2区在线观看.| 91麻豆精品激情在线观看国产| 男人的好看免费观看在线视频| 亚洲在线自拍视频| 亚洲 国产 在线| 听说在线观看完整版免费高清| 日本黄色片子视频| .国产精品久久| 久久中文看片网| 男人和女人高潮做爰伦理| 人妻丰满熟妇av一区二区三区| 悠悠久久av| 亚洲最大成人av| 香蕉av资源在线| 一本一本综合久久| 好看av亚洲va欧美ⅴa在| 一级a爱片免费观看的视频| 欧美在线一区亚洲| 国产伦精品一区二区三区四那| 亚洲精品在线观看二区| 黄色视频,在线免费观看| 国产精品久久久久久久久免 | 国产黄色小视频在线观看| 色综合欧美亚洲国产小说| 亚洲av五月六月丁香网| 国产精品三级大全| 亚洲男人的天堂狠狠| 成人特级黄色片久久久久久久| 少妇的逼好多水| 午夜激情欧美在线| 亚洲精品一卡2卡三卡4卡5卡| 久久精品国产清高在天天线| 亚洲欧美激情综合另类| 亚洲精品一卡2卡三卡4卡5卡| 久久久久久久久久黄片| 夜夜夜夜夜久久久久| 99久久九九国产精品国产免费| 一进一出好大好爽视频| 中文字幕精品亚洲无线码一区| 欧美绝顶高潮抽搐喷水| 亚州av有码| 熟女人妻精品中文字幕| 国产白丝娇喘喷水9色精品| 国产精品一及| 久久99热6这里只有精品| 亚洲国产精品合色在线| 国产精品三级大全| 日韩欧美在线二视频| 国产午夜福利久久久久久| 国产精品日韩av在线免费观看| 亚洲成a人片在线一区二区| 国产精品国产高清国产av| 97超视频在线观看视频| 性欧美人与动物交配| 婷婷精品国产亚洲av| 十八禁网站免费在线| 少妇人妻精品综合一区二区 | 高清毛片免费观看视频网站| 国产精品电影一区二区三区| 少妇丰满av| 久久九九热精品免费| 中文字幕av在线有码专区| 日韩成人在线观看一区二区三区| 听说在线观看完整版免费高清| 一级黄片播放器| 国产在线男女| av在线蜜桃| 听说在线观看完整版免费高清| 日韩欧美在线二视频| 人妻夜夜爽99麻豆av| 美女xxoo啪啪120秒动态图 | 在线观看美女被高潮喷水网站 | 精华霜和精华液先用哪个| 国模一区二区三区四区视频| 91在线观看av| 日韩欧美三级三区| 婷婷丁香在线五月| 91字幕亚洲| 最近中文字幕高清免费大全6 | 99久久99久久久精品蜜桃| 久久精品夜夜夜夜夜久久蜜豆| 一本一本综合久久| 99久久九九国产精品国产免费| 亚洲精品色激情综合| 很黄的视频免费| 久久国产精品影院| 欧美性感艳星| 亚洲三级黄色毛片| 在线观看一区二区三区| 51国产日韩欧美| 一个人看的www免费观看视频| 国产高清视频在线观看网站| 中文字幕免费在线视频6| 我的老师免费观看完整版| 欧美一区二区亚洲| 成人欧美大片| 91麻豆精品激情在线观看国产| 午夜激情福利司机影院| 久久精品91蜜桃| 在线观看美女被高潮喷水网站 | 少妇被粗大猛烈的视频| 很黄的视频免费| 小说图片视频综合网站| 最近中文字幕高清免费大全6 | 搞女人的毛片| 久久精品综合一区二区三区| 天堂影院成人在线观看| 五月伊人婷婷丁香| 国产中年淑女户外野战色| av天堂中文字幕网| 51午夜福利影视在线观看| 欧美一级a爱片免费观看看| 深夜a级毛片| 国产精华一区二区三区| 少妇高潮的动态图| 亚洲av一区综合| 午夜精品一区二区三区免费看| 亚洲成人中文字幕在线播放| 热99re8久久精品国产| 亚洲av二区三区四区| 琪琪午夜伦伦电影理论片6080| 内地一区二区视频在线| 村上凉子中文字幕在线| 精品熟女少妇八av免费久了| 夜夜看夜夜爽夜夜摸| 制服丝袜大香蕉在线| 亚洲在线自拍视频| 免费av毛片视频| 老司机午夜十八禁免费视频| 99久久久亚洲精品蜜臀av| 毛片一级片免费看久久久久 | 婷婷亚洲欧美| 我要搜黄色片| 波多野结衣巨乳人妻| 国产私拍福利视频在线观看| 欧美3d第一页| 午夜福利高清视频| 亚洲欧美清纯卡通| 国产精品国产高清国产av| 欧美性猛交黑人性爽| 日本三级黄在线观看| 日韩精品青青久久久久久| 99riav亚洲国产免费| 久久精品国产亚洲av涩爱 | 欧美日本视频| 精品久久国产蜜桃| 亚洲在线自拍视频| 国产91精品成人一区二区三区| 欧美丝袜亚洲另类 | 国产精品一区二区三区四区久久| 高清在线国产一区| 国产不卡一卡二| 国内精品久久久久久久电影| 两个人的视频大全免费| a在线观看视频网站| 久久久久久久久久成人| 国产一区二区三区在线臀色熟女| 国产av麻豆久久久久久久| 日韩欧美一区二区三区在线观看| 最新中文字幕久久久久| 亚洲成a人片在线一区二区| 国产一级毛片七仙女欲春2| 亚洲欧美日韩卡通动漫| 日日摸夜夜添夜夜添av毛片 | 精品欧美国产一区二区三| 人妻制服诱惑在线中文字幕| 欧美性猛交╳xxx乱大交人| 淫妇啪啪啪对白视频| 国内揄拍国产精品人妻在线| 亚洲欧美精品综合久久99| 日韩欧美国产一区二区入口| 精品一区二区三区视频在线| 一区二区三区激情视频| 欧美xxxx黑人xx丫x性爽| 欧美激情国产日韩精品一区| 乱人视频在线观看| 看片在线看免费视频| 亚洲av.av天堂| 色av中文字幕| 五月伊人婷婷丁香| 两人在一起打扑克的视频| 每晚都被弄得嗷嗷叫到高潮| 真人一进一出gif抽搐免费| h日本视频在线播放| 深爱激情五月婷婷| 人人妻人人看人人澡| 日本精品一区二区三区蜜桃| 观看免费一级毛片| 国产精品久久久久久精品电影| 久久草成人影院| 老熟妇仑乱视频hdxx| 久久久久九九精品影院| 国产老妇女一区| 亚洲av熟女| 一本综合久久免费| 听说在线观看完整版免费高清| 免费在线观看日本一区| 国产精品久久久久久精品电影| 欧美成人免费av一区二区三区| 国产精品影院久久| 午夜激情福利司机影院| 亚洲精品亚洲一区二区| 国产麻豆成人av免费视频| 999久久久精品免费观看国产| 一区二区三区四区激情视频 | 最近最新免费中文字幕在线| 99久久九九国产精品国产免费| 欧美性猛交╳xxx乱大交人| 可以在线观看毛片的网站| 男女床上黄色一级片免费看| 最近最新中文字幕大全电影3| 久久亚洲精品不卡| 欧洲精品卡2卡3卡4卡5卡区| 丁香欧美五月| 亚洲第一欧美日韩一区二区三区| 深夜a级毛片| 日本撒尿小便嘘嘘汇集6| 成人毛片a级毛片在线播放| www.www免费av| 成年版毛片免费区| 最近最新免费中文字幕在线| .国产精品久久| 亚洲aⅴ乱码一区二区在线播放| 国产成+人综合+亚洲专区| 有码 亚洲区| 国产 一区 欧美 日韩| 亚洲片人在线观看| 中文字幕免费在线视频6| 少妇人妻一区二区三区视频| 成年女人毛片免费观看观看9| 自拍偷自拍亚洲精品老妇| bbb黄色大片| 精品一区二区三区人妻视频| 男人的好看免费观看在线视频| 欧美最新免费一区二区三区 | 国产精品99久久久久久久久| 免费看美女性在线毛片视频| 久久久久久久久久成人| 日日干狠狠操夜夜爽| 欧美激情国产日韩精品一区| 51午夜福利影视在线观看| 成人永久免费在线观看视频| 我要看日韩黄色一级片| 搡老熟女国产l中国老女人| 亚洲狠狠婷婷综合久久图片| 搡老熟女国产l中国老女人| 淫秽高清视频在线观看| 99久久99久久久精品蜜桃| 国产亚洲欧美在线一区二区| 真人做人爱边吃奶动态| 淫秽高清视频在线观看| 亚洲成av人片在线播放无| 成人特级av手机在线观看| 丁香六月欧美| 亚洲av电影在线进入| 赤兔流量卡办理| 亚洲精品粉嫩美女一区| 看片在线看免费视频| 色哟哟·www| 脱女人内裤的视频| 国产成人福利小说| 色综合婷婷激情| 淫秽高清视频在线观看| 色5月婷婷丁香| 欧美性感艳星| 亚洲欧美日韩东京热| 国产黄色小视频在线观看| 欧美激情国产日韩精品一区| 狠狠狠狠99中文字幕| 免费看光身美女| 一夜夜www| 久久久久久久久久成人| 91在线精品国自产拍蜜月| 人妻制服诱惑在线中文字幕| 久久久久久久精品吃奶| 三级男女做爰猛烈吃奶摸视频| 在线观看午夜福利视频| 中文亚洲av片在线观看爽| 桃红色精品国产亚洲av| 99久久久亚洲精品蜜臀av| 精品熟女少妇八av免费久了| 午夜福利在线在线| 国产精品久久久久久久久免 | 97超级碰碰碰精品色视频在线观看| 好男人电影高清在线观看| 热99re8久久精品国产| 日韩欧美国产一区二区入口| 国产单亲对白刺激| 久久精品夜夜夜夜夜久久蜜豆| 国产成人啪精品午夜网站| 精品一区二区免费观看| 精品久久久久久久久久免费视频| 天堂√8在线中文| a级一级毛片免费在线观看| 麻豆国产97在线/欧美| 99久久精品一区二区三区| 欧美日韩中文字幕国产精品一区二区三区| 久久久久免费精品人妻一区二区| 日日干狠狠操夜夜爽| 欧美不卡视频在线免费观看| 一本久久中文字幕| ponron亚洲| 中文字幕精品亚洲无线码一区| av在线观看视频网站免费| 欧美3d第一页| 日本 av在线| 中文字幕人妻熟人妻熟丝袜美| 色吧在线观看| 99热精品在线国产| 舔av片在线| 老司机深夜福利视频在线观看| 一夜夜www| 成年版毛片免费区| 亚洲最大成人手机在线| 国产精品综合久久久久久久免费| 男人和女人高潮做爰伦理| 国产高清视频在线播放一区| 两人在一起打扑克的视频| 亚洲国产精品sss在线观看| 久久久国产成人精品二区| 3wmmmm亚洲av在线观看| 乱码一卡2卡4卡精品| 亚洲18禁久久av| 欧美潮喷喷水| 日本免费a在线| 国内精品一区二区在线观看| 色精品久久人妻99蜜桃| 悠悠久久av| 免费在线观看亚洲国产| www日本黄色视频网| 别揉我奶头 嗯啊视频| 丰满人妻一区二区三区视频av| 中文字幕久久专区| 我要看日韩黄色一级片| 少妇高潮的动态图| 国产亚洲av嫩草精品影院| 人妻夜夜爽99麻豆av| 51国产日韩欧美| 无遮挡黄片免费观看| 精品99又大又爽又粗少妇毛片 | 国产精品免费一区二区三区在线| 久久精品国产99精品国产亚洲性色| avwww免费| 国产色爽女视频免费观看| 床上黄色一级片| 国产熟女xx| 两个人视频免费观看高清| av天堂中文字幕网| av女优亚洲男人天堂| av在线观看视频网站免费| 精品日产1卡2卡| 精品一区二区免费观看| 美女被艹到高潮喷水动态| 听说在线观看完整版免费高清| 成人高潮视频无遮挡免费网站| 欧美黑人巨大hd| 欧美三级亚洲精品| 狂野欧美白嫩少妇大欣赏| 日本与韩国留学比较| 国产成人啪精品午夜网站| 亚洲精品色激情综合| 少妇的逼水好多| 一区二区三区四区激情视频 | 在线看三级毛片| 久久国产乱子免费精品| 国产综合懂色| a级毛片a级免费在线| 免费看光身美女| 日韩高清综合在线| 亚洲精品亚洲一区二区| 免费黄网站久久成人精品 | 国产熟女xx| 夜夜爽天天搞| 国产精品一区二区性色av| 一级黄片播放器| 国内揄拍国产精品人妻在线| 日韩大尺度精品在线看网址| 欧美性猛交╳xxx乱大交人| 看十八女毛片水多多多| 别揉我奶头~嗯~啊~动态视频| 免费看a级黄色片| 亚洲不卡免费看| 哪里可以看免费的av片| 亚洲无线观看免费| 日韩欧美精品免费久久 | 免费黄网站久久成人精品 | 熟妇人妻久久中文字幕3abv| 97热精品久久久久久| 99久久久亚洲精品蜜臀av| 一级av片app| 色噜噜av男人的天堂激情| 亚洲欧美精品综合久久99| 久久国产乱子免费精品| 久久人妻av系列| 波多野结衣高清作品| 国产在线精品亚洲第一网站| 亚洲熟妇中文字幕五十中出| 色5月婷婷丁香| 久久久久国内视频| 中文字幕av成人在线电影| 中出人妻视频一区二区| www.999成人在线观看| 在线播放无遮挡| 最近最新免费中文字幕在线| 亚洲精品亚洲一区二区| 日本三级黄在线观看| 国产三级黄色录像| 国产毛片a区久久久久| 久久午夜亚洲精品久久| 一级a爱片免费观看的视频| 又黄又爽又刺激的免费视频.| 欧美性猛交黑人性爽| 亚洲经典国产精华液单 | 村上凉子中文字幕在线| 老女人水多毛片| 国产一区二区激情短视频| 久久久久国产精品人妻aⅴ院| 一本一本综合久久| 搡老岳熟女国产| 怎么达到女性高潮| 两个人视频免费观看高清| 国产一区二区三区视频了| 亚洲一区高清亚洲精品| 黄片小视频在线播放| 在线观看舔阴道视频| 十八禁人妻一区二区| 此物有八面人人有两片| 国产久久久一区二区三区| 国产一区二区亚洲精品在线观看| 757午夜福利合集在线观看| 日韩亚洲欧美综合| 无遮挡黄片免费观看| 最近最新中文字幕大全电影3| 黄色视频,在线免费观看| 亚洲中文字幕日韩| 欧美丝袜亚洲另类 | 男插女下体视频免费在线播放| 此物有八面人人有两片| 国产在视频线在精品| 舔av片在线| 女同久久另类99精品国产91| 免费在线观看成人毛片| 国产免费av片在线观看野外av| 国产精品野战在线观看| 啪啪无遮挡十八禁网站| 中文字幕av成人在线电影| 国产成人啪精品午夜网站| 久久久久久大精品| 女同久久另类99精品国产91| 欧美黄色淫秽网站| 天堂动漫精品| 日韩精品中文字幕看吧| 51国产日韩欧美| 色综合亚洲欧美另类图片| 搡老熟女国产l中国老女人| 午夜福利视频1000在线观看| 色在线成人网| 国产探花在线观看一区二区| 欧美在线一区亚洲| 亚洲精品亚洲一区二区| 国产大屁股一区二区在线视频| 嫩草影院精品99| 日韩中文字幕欧美一区二区| 99久国产av精品| 亚洲精品粉嫩美女一区| 在线观看66精品国产| 99热这里只有是精品在线观看 | netflix在线观看网站| 久久久久九九精品影院| 亚洲国产精品999在线| 成人一区二区视频在线观看| 欧美黑人巨大hd| 日本五十路高清| 最近最新中文字幕大全电影3| 日本免费a在线| 国产高潮美女av| 亚洲美女搞黄在线观看 | 亚洲av成人av| 亚洲色图av天堂| 99热这里只有是精品在线观看 | 欧美+日韩+精品| 精品一区二区三区视频在线| 精品国产三级普通话版| 中文资源天堂在线| 精品欧美国产一区二区三| 一区福利在线观看| 91九色精品人成在线观看| 男人和女人高潮做爰伦理| 久久精品国产自在天天线| 看黄色毛片网站| 国产成人影院久久av| 亚洲国产精品sss在线观看| 美女被艹到高潮喷水动态| 一区二区三区免费毛片| 亚洲国产精品999在线| 丁香六月欧美| 性色avwww在线观看| 婷婷色综合大香蕉| 中文字幕av在线有码专区| 给我免费播放毛片高清在线观看| 97人妻精品一区二区三区麻豆| 成人欧美大片| 桃红色精品国产亚洲av| 日韩中字成人| 国产亚洲精品综合一区在线观看| 午夜精品在线福利|