• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于多層注意力機制的回指消解算法

    2020-02-19 11:26:30劉雨江付立軍劉俊明呂鵬飛
    計算機工程 2020年2期
    關鍵詞:回指指代注意力

    劉雨江,付立軍,劉俊明,呂鵬飛

    (1.中國科學院大學 計算機科學與技術學院,北京 100049; 2.中國科學院沈陽計算技術研究所 研究生部,沈陽 110168;3.中國地質圖書館信息技術研究中心,北京 100083)

    0 概述

    指代是常見的語言現象,在描述性語言中較為頻繁地出現,尤其是當語料篇幅較長時,極易造成信息抽取不完整的情況。指代關系既要考慮一個或多個詞對組成實體的指代,又要考慮名詞、名詞性詞組以及隱藏名詞或指代部分對上述實體的指代。根據被指代部分(或先行詞部分)與指代部分是否有語義關聯(lián),指代現象被分為共指和回指[1]。共指表示被指代部分與指代部分均指向客觀存在的同一個實體;回指表示被指代部分與指代部分僅在特定語境下才有關系,即指代部分在某些上下文中時能指代被指代部分,當脫離這種上下文時不能表明是否存在指代關系。根據被指代部分和指代部分是否出現隱藏實詞,指代現象又被分為顯性指代和零指代。由于在數據集中顯性指代和零指代會同時出現,因此對這2種情況分別進行考慮。在具體實驗中,第1種為顯性指代和零指代混合出現的情況,第2種為僅有零指代出現的情況。本文主要研究回指關系判別,屬于回指解析。與文獻[2-3]的目的相似,通過回指消解,減少指代現象干擾,可以提高語料在后續(xù)深入研究時的可用性,為信息抽取、知識圖譜構建、人工智能對話等任務提供高質量語料。

    對于回指關系判別,需要上下文與被指代部分和指代部分的詞共同構建輸入。文獻[4]基于上下文編碼思想,構建了2個多層編碼器,同時對上下文和待翻譯語料進行編碼,完成了翻譯過程中指代消解工作,而文獻[5-6]則采用基于事實方法。文獻[4]通過構建傳統(tǒng)規(guī)則模板實現基于全局推理的回指消解方法,提高了位置三元組信息抽取的準確率。在共指消解研究上,更多地考慮了不同表達對同一事實的不同描述方式。文獻[6]通過識別出同一個事實,再以該事實為核心尋找并抽取相關信息。另有一部分文獻的指代消解研究方法基于mention-ranking方法,即先獲取所有可能被指代的部分,再根據指代部分和這些被指代部分評分進行篩選,評分最高的就是當前指代結果。文獻[7-9]均采用此方法,區(qū)別在于文獻[7]使用RNN訓練被指代部分集合與指代部分組成序列,文獻[8]使用普通神經網絡訓練指代部分與被指代部分集合組成向量,文獻[9]使用強化學習方法使得被指代部分進行選擇時具有傾向性。在研究范疇上,文獻[7]是共指消解,文獻[8-9]均為回指消解。針對專有名詞和代詞,文獻[10]采用表述識別二次分類,提高了漢語指代消解的性能。上述研究方法均考慮到了上下文、候選集合、語義關聯(lián)等情況。

    本文在研究回指消解時考慮指代部分與被指代部分周圍的信息,將這部分信息作為一種引導,使得相同代詞在嵌入周圍信息時能構建一種輸入模式,并由注意力機制實現。在模型設計上考慮多層注意力機制指代部分、被指代部分、周圍信息、原文信息的綜合處理過程,以捕捉上述信息的關聯(lián)關系。

    1 相關工作

    在已有的研究中,回指消解主要參考注意力機制及機器閱讀理解模型進行構建。本文模型在構建時參考了這兩部分的研究。

    1.1 注意力機制

    基于注意力機制的Transformer網絡結構最早由谷歌在2017年提出[11],其主要針對機器翻譯問題,認為之前機器翻譯模型大量地使用RNN及改進的RNN類網絡會導致速度下降。RNN網絡的缺點是無法實現并行計算,而Transformer網絡結構中的注意力網絡可以有效地避免該問題。注意力網絡本質上是多層的前向神經網絡,通過計算目標與來源之間的概率值作為注意力,用于增強或減弱網絡對某些詞的關注程度,并在誤差反傳中進行調整。由于注意力網絡的時間復雜度小于RNN類網絡,因此本文選擇注意力網絡結構用于模型構建。

    1.2 閱讀理解模型

    分析機器閱讀理解模型對研究回指消解模型具有指導性作用。在閱讀理解模型中,用于訓練的數據格式為問題集、答案集和文章集,通過對問題和文章進行編碼,并使用神經網絡進行訓練,再通過Softmax層將得到的結果映射到全部詞表中得到答案。文獻[12]使用類似方法,利用多次迭代的GRU網絡構建模型,最后通過計算候選答案的可能性實現閱讀理解任務。文獻[13]完成閱讀理解任務時將答案定位在原文中,預測的結果分別為起始答案位置和終止位置,然后分別計算誤差,再求出2個誤差的算術平均數作為訓練優(yōu)化方向。而嘗試使用閱讀理解方式解決回指消解幾乎不可行,在分析訓練數據之后可以發(fā)現,在閱讀理解的每一個實例中,問題中一部分詞匯必然出現在答案周圍。結合文獻[13]中的BERT模型,可以推斷在“預訓練+微調”的訓練策略下,使用自注意力機制可令文章對問題詞匯分配更高的注意力概率值,從而找到答案。在回指消解任務中,指代部分和被指代部分周圍的詞可能完全不一致,又因為這2個部分本身有很大可能性是不同詞匯組成,所以無法構建類似于閱讀理解任務的輸入模式。根據上述分析,本文提出一種多層注意力模型,通過構建“詞/詞組-語句片段-整篇文章”的關聯(lián)注意力,并嵌入到最終需要判斷的2個部分中,再計算出是否具有關聯(lián)關系。這種過程無需考慮是否在指代部分和被指代部分有相同的詞,也不必考慮兩部分是否部分一致,通過層次映射關系即可構造出當前語境下兩部分信息的向量,進而判斷是否為指代關系。

    1.3 已有指代消解方法

    近年來中文零指代的研究較多,這種情況可以在Google學術搜索的返回結果中體現。文獻[14]給出基于翻譯對比的詞映射指代消解策略。這種策略通過邏輯回歸與聚類的思想為中文、英文以及中英混合文都構建了一個判別器,并給出了4種消解方法,其中有代表性的為方法2和方法4。方法2先考慮使用混合文判別器給出指代部分和被指代部分的判別概率,若大于0.5則認為是指代。如果在英文中找不到中文代詞翻譯后得到的詞,則直接采用中文判別器,這種方法得到的召回率較高。方法4同時使用了3種判別器并在訓練時調整每種判別器權重。文獻[15-16]也采用基于翻譯的方法,它們在判斷指代關系時增加了很多模板規(guī)則與模板參數,直接使用模板規(guī)則進行判斷。文獻[17]總結了5種中文指代消解模型,能夠基本涵蓋到目前為止的主流方法,其包含了3種二元分類模型、傳統(tǒng)規(guī)則模型和排序模型。中文零指代研究相對較新,基本采用深度學習方法。文獻[9]通過強化學習解決零指代問題,文獻[18]采用注意力機制,在構建指代對時采用了3組不同的RNN,文獻[19]采用一個BP神經網絡分別提取了距離特征、指代部分與被指代部分的前綴上下文、關鍵動詞和關鍵賓語,并將這些內容編碼通過使用LSTM進行訓練。

    本文在考慮了數據集指代分布特征和當前研究熱點之后將實驗分為下列對應的兩部分:1)構建所有指代實例,并與文獻[14-15]進行對比;2)僅構建零指代實例,并與文獻[9,17-18]進行對比。

    2 回指消解判別算法模型

    回指消解判別算法模型主要依據多頭注意力機制進行構建。在模型構建方面,本文主要在模型結構和結果判別上進行研究與創(chuàng)新。

    2.1 模型結構與執(zhí)行過程

    輸入信息分為5類,包括指代部分詞匯、指代部分周圍詞匯信息、原文信息、被指代部分詞匯和被指代部分周圍詞匯信息。輸入信息均需要進行位置信息嵌入,嵌入過程考慮隨機指定位置向量,并將得到的位置向量與詞向量相加。令vocab_size表示詞總數,dvocab表示詞向量維度,length表示當前輸入長度,vocab_slice表示嵌入位置信息之前的詞向量集合,vocabe表示嵌入位置后的結果,計算公式為:

    position=random(vocab_size,dvocab)×

    slice(length)

    vocabe= vocab_slice+position

    使用位置信息嵌入主要考慮到多頭注意力機制的計算方式,根據文獻[8],位置信息在CNN和RNN類網絡中不必要,而在多頭注意力機制中位置信息的唯一來源是外部輸入,因此必須進行計算。

    在得到具有位置信息的輸入之后,構建多頭注意力機制進行指代部分與其周圍語句的映射向量,并將此法應用于被指代部分與其周圍語句、原文與指代部分、原文與被指代部分,在第2個注意力層上得到2組計算結果。最后將得到的結果在第2個維度上拼接,通過Softmax方法求出二分類概率,進而判斷是否存在指代關系。該模型與文獻[20]提出的模型思路相近,但是其在輸入構建時考慮屬性與實體對應,這里考慮指代部分/被指代部分與周圍信息的聯(lián)系。算法模型結構如圖1所示,多頭注意力機制模型結構如圖2所示。根據上述內容,算法模型過程表述如下:將指代部分信息、指代部分周圍詞信息、原文信息、被指代部分信息、被指代部分周圍詞信息進行向量化表示,分別嵌入位置信息作為輸入。依據該方法分別得到指代部分向量、指代部分周圍信息向量、原文部分向量、被指代部分向量和被指代部分周圍信息向量。將指代部分向量與指代部分周圍信息向量進行多頭注意力機制計算,再使得到的結果繼續(xù)與原文部分向量采用相同方法計算,得到指代部分在當前模型中的特征結果。該結果能夠體現多層注意力機制條件下原文和指代部分周圍詞信息對指代部分的作用,利用同樣的方式計算得到被指代部分在當前模型中的特征結果。最后,將兩組特征結果連接組成一個綜合結果,并利用Softmax層將它映射在判別空間中,進行指代與否的判斷。

    圖1 算法模型結構

    圖2 多頭注意力機制模型結構

    2.2 多頭機制的具體應用

    多頭注意力機制在應用于機器翻譯時,包含“編碼器-編碼器”“解碼器-解碼器”和“編碼器-解碼器”3種注意力輸入方式,文獻[11]給出了輸入方式的過程,計算公式為:

    本文考慮分層次使用多頭注意力機制構建模型,將多頭注意力機制應用于分層結構中,使得相鄰層次的信息能夠獲得充分交互。指代部分周圍詞匯與指代詞/指代詞組有包含關系,因此可以通過注意力機制計算指代詞/指代詞組在其周圍詞條件下的概率,進而通過這種概率對每一個指代部分詞進行加權,獲取指代部分相對周圍信息的向量,記作指代擴展向量。同理,被指代部分采用相同方法也可以獲取這種向量,記作被指代擴展向量。通過這種方式可以構建特定語句中每一個指代部分/被指代部分唯一向量,這種唯一性體現了相同詞在不同語句中會被映射為一個僅屬于該句的向量。這避免了以下的情形:因語境不同導致無法根據相同內容的2個部分判斷指代關系。在獲取上述指代擴展向量與被指代擴展向量之后,需要與原文向量進行注意力機制計算??紤]到原有指代部分的詞匯可能在原文中出現多次,因此沒有直接用原指代部分向量與原文向量進行計算。比如代詞“它”,很可能在原文中出現不止一次,但是直接輸入這種向量會使判斷指代關系變得困難,因為在無周圍信息的情況下無法確定這個代詞指代的實體。而在經歷上述擴展過程之后,無論是指代部分還是被指代部分都能在保留自身屬性信息情況下附加周圍語句的影響,在與原文進行計算時,可以防止出現一對多映射,即相同待確定的指代關系在不同語境下出現判斷結果相反的情況。令xe、span_xe、articlee、we、span_we、attention_output分別代表位置信息嵌入之后的指代部分、指代部分周圍信息和原文信息、被指代部分、被指代部分周圍信息、用于計算概率的輸出結果,計算公式如下:

    extend_xe=attention(xe,span_xe,span_xe)

    extend_we=attention(we,span_we,span_we)prone=

    attention(extend_xe,articlee,articlee)

    anae=attention(extend_we,articlee,articlee)

    attention_output=concat(prone,anae)

    2.3 結果判別與算法復雜度分析

    在得到指代擴展向量與被指代擴展向量被原文擴展后的結果時,可以構建模型輸出部分。由于輸入部分包含指代項和被指代項,因此輸出部分采用二分類方法直接判斷是否存在指代關系。在控制輸出向量維度為2時,采用Softmax函數構建輸出向量,用作分類的2個元素分別表示預測類別的概率值。選取這種預測策略的原因在于負例構建時具有隨機性。負例參考文獻[11]中上下句預測方法,即使用約50%正例和50%負例混合構建訓練和預測數據。在同時考慮判斷為正例或負例條件下,選擇Softmax函數進行計算。根據文獻[21],在二分類情況下,Softmax等效于Sigmoid映射,不使用Sigmoid函數的原因會在實驗部分說明。令predi表示第i次的預測結果,yi表示第i次的真實結果,則對應于n組結果,訓練過程的loss值公式如下:

    predi=Softmax(attention_outputi)

    算法中時間消耗最大的部分為多層注意力機制計算部分,在構建模型時對時間復雜度和空間復雜度的分析如下:

    RNN類網絡:RNN類網絡需要考慮常見的LSTM與GRU。LSTM將計算4組參數,分別對應輸入門、輸出門、遺忘門和候選態(tài)。LSTM更新公式為:

    yt=f(yt-1,xt)

    其中,t為句子長度,若此向量維度為d,隱藏層和輸出層的維度均為h,反向傳播時時間復雜度和前向時的計算相同,一個單層LSTM處理之后的時間消耗可以表示為8×t×h×(d+h+1),而將LSTM修改為GRU之后,時間消耗表示為6×t×h×(d+h+1)。因此,采用LSTM或GRU進行一次類似本算法模型中的多頭注意力機制計算,時間復雜度為O(t×d×h2)。由于LSTM、GRU消耗空間最大的時刻是矩陣相乘計算,因此空間復雜度可表示為O(n2),其中n=max(d,h)。

    多頭注意力機制:根據注意力機制計算公式,僅注意力網絡部分消耗的時間可表示為2×t×d2。若前向傳遞連接層輸出的維度不變,整體消耗的時間為8×t×d2,因此一次多頭注意力模型的時間復雜度為O(t×d2)。根據注意力機制計算過程,消耗空間最大的時刻是矩陣相乘計算,因此空間復雜度可表示為O(d2)。

    因此,若LSTM或GRU的輸出維度也為d,則時間復雜度為O(t×d3),明顯高于多頭注意力機制,而空間復雜度則幾乎相同。

    3 實驗與結果分析

    考慮到顯性指代和零指代均存在以及僅存在零指代這2種情況,設計了4組實驗和6篇文獻進行對比,并記錄結果。

    3.1 數據集與評價標準

    實驗數據選擇Conll-2012分享任務中的OntoNotes5.0數據集,僅選用中文部分。中文部分數據集包含了1 391個訓練文件和172個測試文件;訓練文件包含句子總數36 487組,測試文件包含句子總數6 083組;構建顯性指代訓練例子共計133 326個,測試例子共計20 074個;構建零指代訓練例子共計20 563個,測試例子共計3 146。單個文件中可能不只包含1篇文章,回指消解結果位于單篇文章后。數據集內容與新聞報道有關,包括廣播會話、廣播新聞、雜志、通訊新聞、電話對話和博客文章共計6個類別。因此,使用這部分數據集進行實驗能夠展示通用語料環(huán)境下回指消解過程。

    評價標準選擇文獻[14]給出的實驗結果。該文獻使用了相同數據集,旨在通過機器翻譯解決漢語回指消解,同時給出了文獻[15]的實驗結果。文獻[14-15]都采用了基于機器翻譯的結果,且文獻[14]的結果分為方法2和方法4兩組。

    3.2 實驗過程

    指代關系對構建過程參考文獻[13]中上下句預測方法,即通過模型區(qū)分原有正例和隨機負例,用于訓練和預測的正負例數量比接近1∶1。由于文獻[14]在訓練分類器時構建正例和負例的比例為1∶1且負例隨機選取,因此本文采用這種構建策略。對于單個文獻多篇文章的情況,會將每篇文章及其附帶的消解結果分開。為防止數據訓練時對GPU顯存占用過大,指代部分與被指代部分的長度限制在64,指代部分與被指代部分的周圍信息長度限制在72,單篇文獻長度限制在384。訓練時學習速率為1e-5,用于防止過擬合的dropout值為0.4。單次實驗批量大小為105,注意力機制下“注意力頭”大小為64,數量為12。訓練次數為10萬次,相當于訓練集完整循環(huán)625次。

    在實驗過程中對6個類別分別進行實驗,最后將得到的6組精確率、召回率、F值求算術平均數,作為最終結果。在實驗過程中補充了2個對比實驗:1)將“注意力頭”大小由16增加為64;2)增加了僅含零指代的實驗,并與當前最新零指代數據集進行對比。

    3.3 結果分析

    顯性指代和零指代均存在時的實驗結果如表1所示,其中,本文方法及對比文獻的方法均是6組數組結果的均值。文獻[14]的訓練集為OntoNotes5.0,包括1 391個中文文件和1 940個英文文件,測試集為166個中文文件;文獻[15]采用相同的數據集。

    表1 顯性指代和零指代均存在時的實驗結果對比

    在上述實驗結果中,模型中不同注意力頭對應的F值均超過文獻[14]的方法2以及文獻[15]的方法。文獻[14]方法4則僅有精確率被本文方法超過。對上述結果分析如下:OntoNotes5.0中文數據集既包含顯性指代消解,又包含零指代消解。文獻[14]僅研究顯性回指消解,為保持原數據集給出的指代特征,考慮顯性指代和零指代混合出現的情況。本文方法在混合了零指代數據時與文獻[14]效果相接近。相比較僅研究零指代,如文獻[9]在隨機構建一個負例僅研究零指代時,模型的精確率、召回率、F值分別為70.8%、69.8%、70.0%,其中,F值高出文獻[14]12.8%。為保證訓練過程和判別邏輯與文獻[9]一致,增加一個對比實驗,對比實驗在構建負例時不是隨機構建,而是考慮將所在文章中比當前零指代序號小的全部被指代部分都作為這個指代詞的負例,以適配模型的訓練策略。

    從實驗中可以發(fā)現,當正例過少時,損失函數值在下降過程中使得正例準確率較低,因此在構建負例時通過復制正例將兩者比例調整為1∶1再進行訓練。構建的訓練集例子數增加到199 841個,測試集例子數增加到27 646個,此時,精確率、召回率、F值分別為64.9%、57.5%、60.7%,F值仍比文獻[9]高出3.2%。相比于文獻[8]使用候選集合構建的方式,這種訓練方式需要訓練的負例數量更多,因此本文的模型更具優(yōu)勢。由于采用相同的數據集,文獻[9,18-19]訓練集與測試集的文件數和句子數與本文相同,構建的訓練例子數為12 111個,測試例子數為1 713個,對比結果如表2所示,其中本文方法及對比文獻的方法均是6組數組結果的均值,由于被引用文獻未給出精確率和召回率,這里僅比較F值。

    表2 僅存在零指代時指代判別分析比較結果

    進一步分析預測結果可以發(fā)現,OntoNotes5.0回指消解的真實結果中有一大部分為多次同詞指代。以文件cmn_0010.onf為例,Chain 1_15編號下被指代部分為“爸爸”,而對應的指代部分有16組結果,其中15組為“爸爸”。這種情況導致了模型一旦判斷一組結果錯誤,就可能連續(xù)判斷所有的這類結果錯誤。

    Sigmoid函數可以將一個任意實數轉化到[0,1]上進行二分類。在實驗過程中發(fā)現若采用Sigmoid函數作為loss,會導致精確率和召回率極低。觀察輸出的倒數第2層數據可知,隨機構建的負例因為不存在規(guī)律,會嚴重壓縮正例結果空間,無法找到一個合適的概率閾值區(qū)分正例和負例。Softmax函數會同時預測正例概率和負例概率,判斷時根據概率值的大小,而不是根據一個固定閾值,因此能夠一定程度上避免Sigmoid函數的缺陷。

    4 結束語

    本文提出一種回指消解方法,通過構建多層注意力模型實現不同層次信息的處理。根據注意力機制計算指代部分和被指代部分在其周圍信息和原文條件下的向量表示,進而得出是否存在指代關系。該方法可使指代部分和被指代部分在當前語境下直接進行指代關系判別,對于顯性指代和零指代2種情況都有較好的效果。在測試數據集上的實驗結果表明,模型在采用隨機負例生成策略時,顯性指代和零指代均存在情況下的F值為70.4%,僅存在零指代時為70.0%,在構建全部可能的負例時,僅存在零指代時F值為60.7%。下一步將考慮適當增加詞性、語義相似度等外部信息,并通過嵌入信息的方式構建詞向量進行訓練,或采用共指解析中候選集方法,在縮小結果空間的條件下提高召回率。

    猜你喜歡
    回指指代注意力
    Let’s Save Food To Fight Hunger
    奧卡姆和布列丹對指代劃分的比較
    科學咨詢(2022年19期)2022-11-24 04:23:25
    讓注意力“飛”回來
    漢譯英小說本族語—非本族語譯者人稱回指對比研究
    ——以《紅樓夢》譯本為例
    外文研究(2021年4期)2021-12-16 04:28:40
    “揚眼”APP:讓注意力“變現”
    傳媒評論(2017年3期)2017-06-13 09:18:10
    A Beautiful Way Of Looking At Things
    基于句法位置和主位推進模式的代詞回指偏誤考察
    “不一而足”話討論
    包含復雜限定語的回指關系淺議
    外語學刊(2014年6期)2014-04-18 09:11:39
    自然語言中的指代技術的研究
    河南科技(2014年10期)2014-02-27 14:09:37
    91老司机精品| 欧美av亚洲av综合av国产av| 大陆偷拍与自拍| 久9热在线精品视频| 欧美另类亚洲清纯唯美| 欧美精品啪啪一区二区三区| 一区福利在线观看| 久久免费观看电影| av天堂久久9| 老熟妇乱子伦视频在线观看| 亚洲成人免费av在线播放| 成人免费观看视频高清| 免费观看a级毛片全部| 亚洲欧洲精品一区二区精品久久久| 女性被躁到高潮视频| 亚洲成人免费av在线播放| 午夜福利免费观看在线| 亚洲人成伊人成综合网2020| 午夜福利视频精品| 涩涩av久久男人的天堂| 免费高清在线观看日韩| e午夜精品久久久久久久| 久久国产亚洲av麻豆专区| 婷婷成人精品国产| 欧美黑人欧美精品刺激| 男人操女人黄网站| 久久青草综合色| 亚洲精品成人av观看孕妇| h视频一区二区三区| 亚洲欧美一区二区三区黑人| 午夜久久久在线观看| 热99国产精品久久久久久7| 国产亚洲精品第一综合不卡| 免费女性裸体啪啪无遮挡网站| 一区在线观看完整版| 两个人看的免费小视频| 三上悠亚av全集在线观看| 久久久久精品人妻al黑| 久久精品成人免费网站| 久久久久精品国产欧美久久久| 一边摸一边抽搐一进一出视频| 在线观看一区二区三区激情| 交换朋友夫妻互换小说| 国产精品一区二区在线不卡| 免费在线观看影片大全网站| 国产成人精品在线电影| 亚洲成国产人片在线观看| 一本久久精品| h视频一区二区三区| 精品福利永久在线观看| 成人18禁高潮啪啪吃奶动态图| 亚洲欧美日韩另类电影网站| 99在线人妻在线中文字幕 | 又大又爽又粗| 50天的宝宝边吃奶边哭怎么回事| 热re99久久精品国产66热6| 国产一卡二卡三卡精品| 欧美日韩视频精品一区| 丝袜美足系列| 精品人妻1区二区| 国产一区二区三区在线臀色熟女 | 一区二区三区精品91| 制服人妻中文乱码| 精品国产亚洲在线| 国产午夜精品久久久久久| 国产欧美日韩一区二区精品| 黄色怎么调成土黄色| 国产一区二区三区视频了| 亚洲久久久国产精品| 中文欧美无线码| 国产成人av激情在线播放| 热re99久久精品国产66热6| 精品少妇黑人巨大在线播放| 老司机午夜十八禁免费视频| 一本综合久久免费| 色在线成人网| 亚洲av国产av综合av卡| av国产精品久久久久影院| 少妇粗大呻吟视频| 天天添夜夜摸| 久久久国产一区二区| 一边摸一边抽搐一进一出视频| 国产亚洲精品第一综合不卡| 男女边摸边吃奶| 久久久久精品国产欧美久久久| 午夜两性在线视频| 国产免费现黄频在线看| 大码成人一级视频| 亚洲三区欧美一区| videosex国产| 亚洲综合色网址| 国产精品久久久久久精品电影小说| 国产精品香港三级国产av潘金莲| 大香蕉久久成人网| 精品高清国产在线一区| 日本欧美视频一区| 这个男人来自地球电影免费观看| 成人三级做爰电影| 精品一区二区三区视频在线观看免费 | 亚洲欧洲精品一区二区精品久久久| 一边摸一边做爽爽视频免费| 视频区欧美日本亚洲| 日本撒尿小便嘘嘘汇集6| 精品卡一卡二卡四卡免费| 亚洲少妇的诱惑av| 最近最新免费中文字幕在线| 久久青草综合色| 丝瓜视频免费看黄片| 亚洲性夜色夜夜综合| 精品欧美一区二区三区在线| 一区二区三区激情视频| 大陆偷拍与自拍| 日韩中文字幕视频在线看片| 日韩中文字幕欧美一区二区| 国产精品一区二区在线观看99| 桃花免费在线播放| 侵犯人妻中文字幕一二三四区| 亚洲人成电影观看| 亚洲午夜理论影院| 日韩精品免费视频一区二区三区| 国产亚洲精品久久久久5区| 2018国产大陆天天弄谢| 老汉色∧v一级毛片| 女人久久www免费人成看片| 国产一区二区在线观看av| 一区二区三区乱码不卡18| 国产又爽黄色视频| 欧美日韩成人在线一区二区| 香蕉久久夜色| 国产主播在线观看一区二区| 亚洲天堂av无毛| 成人精品一区二区免费| 国产真人三级小视频在线观看| 久久久久久久久久久久大奶| 国产成人免费无遮挡视频| 国产日韩欧美亚洲二区| 啪啪无遮挡十八禁网站| 淫妇啪啪啪对白视频| 999久久久国产精品视频| 俄罗斯特黄特色一大片| 国产精品一区二区在线不卡| 国产野战对白在线观看| 欧美日韩成人在线一区二区| 91精品国产国语对白视频| 少妇精品久久久久久久| 高清毛片免费观看视频网站 | 国产欧美日韩一区二区精品| 欧美精品啪啪一区二区三区| 日韩三级视频一区二区三区| 久久久国产一区二区| 日本黄色视频三级网站网址 | 久久香蕉激情| 欧美日韩av久久| 亚洲成av片中文字幕在线观看| 亚洲国产av影院在线观看| 欧美国产精品va在线观看不卡| 午夜福利一区二区在线看| 欧美人与性动交α欧美精品济南到| 亚洲av成人一区二区三| 日韩视频在线欧美| 亚洲人成电影免费在线| 水蜜桃什么品种好| 国产成人精品在线电影| 成人18禁高潮啪啪吃奶动态图| 国产高清视频在线播放一区| 91av网站免费观看| 99精品在免费线老司机午夜| 人妻 亚洲 视频| 欧美精品一区二区免费开放| 国产精品久久久久成人av| 两个人免费观看高清视频| 久久九九热精品免费| 精品高清国产在线一区| 欧美午夜高清在线| 日本vs欧美在线观看视频| 一边摸一边抽搐一进一出视频| 日本精品一区二区三区蜜桃| 大码成人一级视频| 伊人久久大香线蕉亚洲五| 天堂中文最新版在线下载| 国产片内射在线| 天天躁夜夜躁狠狠躁躁| 国产精品久久久久久人妻精品电影 | 少妇精品久久久久久久| 中文字幕人妻熟女乱码| 欧美性长视频在线观看| 啦啦啦 在线观看视频| 国产精品亚洲av一区麻豆| 精品少妇一区二区三区视频日本电影| 日韩欧美免费精品| 中文字幕av电影在线播放| 国产日韩欧美在线精品| 99久久国产精品久久久| 国产精品99久久99久久久不卡| 19禁男女啪啪无遮挡网站| 大码成人一级视频| 国产深夜福利视频在线观看| 高清毛片免费观看视频网站 | 日韩大片免费观看网站| 久久久久久久大尺度免费视频| 亚洲av第一区精品v没综合| 9色porny在线观看| 亚洲成人免费av在线播放| 免费人妻精品一区二区三区视频| 在线十欧美十亚洲十日本专区| 国产精品二区激情视频| 成年女人毛片免费观看观看9 | 国产日韩欧美亚洲二区| 中文字幕人妻熟女乱码| 亚洲精品成人av观看孕妇| 免费高清在线观看日韩| 制服人妻中文乱码| 巨乳人妻的诱惑在线观看| 免费人妻精品一区二区三区视频| 成年人午夜在线观看视频| 亚洲久久久国产精品| 中文字幕色久视频| 91字幕亚洲| 久久免费观看电影| 两性午夜刺激爽爽歪歪视频在线观看 | 天堂俺去俺来也www色官网| 国产一区二区三区在线臀色熟女 | 老司机福利观看| 每晚都被弄得嗷嗷叫到高潮| 国产黄色免费在线视频| netflix在线观看网站| 另类亚洲欧美激情| 自拍欧美九色日韩亚洲蝌蚪91| 欧美亚洲日本最大视频资源| 中亚洲国语对白在线视频| 成人精品一区二区免费| 十八禁网站免费在线| 自拍欧美九色日韩亚洲蝌蚪91| 欧美日韩亚洲高清精品| 国产精品 国内视频| 亚洲av片天天在线观看| 国产欧美日韩精品亚洲av| 人妻久久中文字幕网| 亚洲国产成人一精品久久久| 欧美日韩成人在线一区二区| 黄色视频在线播放观看不卡| 久久人妻熟女aⅴ| 国产成人av激情在线播放| 国产真人三级小视频在线观看| 日韩有码中文字幕| 热re99久久精品国产66热6| 亚洲av日韩在线播放| 久久国产亚洲av麻豆专区| 考比视频在线观看| 亚洲avbb在线观看| 欧美精品高潮呻吟av久久| 后天国语完整版免费观看| 美女国产高潮福利片在线看| 久久中文字幕一级| 成人精品一区二区免费| 国产欧美亚洲国产| 欧美另类亚洲清纯唯美| 丁香欧美五月| 久久久久久亚洲精品国产蜜桃av| 男人舔女人的私密视频| 美女主播在线视频| 丰满饥渴人妻一区二区三| 男女之事视频高清在线观看| 亚洲国产欧美网| 欧美激情 高清一区二区三区| 成人国产av品久久久| 久久久久精品国产欧美久久久| 亚洲少妇的诱惑av| 热99re8久久精品国产| 国产精品98久久久久久宅男小说| 久久人妻熟女aⅴ| 免费一级毛片在线播放高清视频 | 国产1区2区3区精品| 18禁国产床啪视频网站| 国产单亲对白刺激| 亚洲精品在线观看二区| 在线观看免费午夜福利视频| 亚洲精品中文字幕在线视频| 大型av网站在线播放| 免费久久久久久久精品成人欧美视频| 国产野战对白在线观看| 波多野结衣一区麻豆| av国产精品久久久久影院| 亚洲精品久久成人aⅴ小说| 日韩一卡2卡3卡4卡2021年| 在线观看免费视频日本深夜| 亚洲精品中文字幕一二三四区 | av网站免费在线观看视频| 咕卡用的链子| 黑丝袜美女国产一区| 99精品在免费线老司机午夜| 久久久久精品人妻al黑| 91大片在线观看| 精品视频人人做人人爽| av网站在线播放免费| 新久久久久国产一级毛片| 欧美日韩一级在线毛片| 国产一区二区三区视频了| 亚洲精品自拍成人| 侵犯人妻中文字幕一二三四区| 狠狠狠狠99中文字幕| 亚洲成人手机| 欧美激情极品国产一区二区三区| 国产精品电影一区二区三区 | 91国产中文字幕| 亚洲色图av天堂| 丝袜美腿诱惑在线| 亚洲午夜理论影院| 日韩视频一区二区在线观看| 国产成人精品久久二区二区免费| 天堂动漫精品| 我的亚洲天堂| 欧美黑人欧美精品刺激| 中文字幕最新亚洲高清| 宅男免费午夜| 久久午夜综合久久蜜桃| 国产91精品成人一区二区三区 | 美女高潮喷水抽搐中文字幕| 欧美中文综合在线视频| 日韩视频在线欧美| 成人国产av品久久久| 久久精品91无色码中文字幕| 两性午夜刺激爽爽歪歪视频在线观看 | 日韩中文字幕视频在线看片| 乱人伦中国视频| 欧美日韩成人在线一区二区| 老司机在亚洲福利影院| 亚洲av日韩在线播放| 午夜日韩欧美国产| 欧美日本中文国产一区发布| 人人妻人人添人人爽欧美一区卜| 在线永久观看黄色视频| 欧美另类亚洲清纯唯美| 啦啦啦免费观看视频1| bbb黄色大片| 一区二区三区激情视频| 一边摸一边抽搐一进一小说 | 欧美日韩av久久| 狠狠婷婷综合久久久久久88av| 精品国内亚洲2022精品成人 | 精品视频人人做人人爽| 国产亚洲欧美精品永久| 99re在线观看精品视频| 国产区一区二久久| 亚洲专区中文字幕在线| 成人黄色视频免费在线看| 国产日韩欧美视频二区| 中国美女看黄片| 久久精品亚洲熟妇少妇任你| 18禁美女被吸乳视频| 免费一级毛片在线播放高清视频 | 久久久久久久精品吃奶| 欧美人与性动交α欧美软件| 91av网站免费观看| 国产在视频线精品| 叶爱在线成人免费视频播放| 热re99久久国产66热| 精品人妻熟女毛片av久久网站| 成人18禁高潮啪啪吃奶动态图| 91麻豆精品激情在线观看国产 | 熟女少妇亚洲综合色aaa.| 精品一区二区三卡| 亚洲精品国产一区二区精华液| 精品国产一区二区三区四区第35| 国产成人啪精品午夜网站| 美女午夜性视频免费| 色综合欧美亚洲国产小说| 美女午夜性视频免费| 精品午夜福利视频在线观看一区 | 日本vs欧美在线观看视频| 日韩欧美国产一区二区入口| 久久久久久亚洲精品国产蜜桃av| 国产一区有黄有色的免费视频| 久久精品国产99精品国产亚洲性色 | 丝袜美腿诱惑在线| 欧美国产精品va在线观看不卡| 精品免费久久久久久久清纯 | 精品国产一区二区三区四区第35| √禁漫天堂资源中文www| 国产精品香港三级国产av潘金莲| av一本久久久久| 80岁老熟妇乱子伦牲交| 国产aⅴ精品一区二区三区波| 久久中文看片网| 青青草视频在线视频观看| 91精品三级在线观看| 高潮久久久久久久久久久不卡| 人妻一区二区av| 亚洲情色 制服丝袜| 高清视频免费观看一区二区| 啦啦啦中文免费视频观看日本| 岛国毛片在线播放| 欧美乱码精品一区二区三区| 最近最新中文字幕大全免费视频| 一二三四在线观看免费中文在| 国产黄色免费在线视频| 欧美亚洲日本最大视频资源| 无人区码免费观看不卡 | 国产精品 欧美亚洲| 另类亚洲欧美激情| 日本av手机在线免费观看| 在线天堂中文资源库| 久久国产亚洲av麻豆专区| 国产精品一区二区在线观看99| 天天躁日日躁夜夜躁夜夜| 香蕉丝袜av| 夜夜骑夜夜射夜夜干| 狠狠狠狠99中文字幕| 777久久人妻少妇嫩草av网站| 啪啪无遮挡十八禁网站| 久久久精品区二区三区| 一进一出抽搐动态| 国产野战对白在线观看| 91麻豆av在线| 他把我摸到了高潮在线观看 | 国产精品av久久久久免费| av不卡在线播放| 亚洲av欧美aⅴ国产| 精品少妇一区二区三区视频日本电影| 国产av又大| 999久久久国产精品视频| 日本撒尿小便嘘嘘汇集6| 国产一区有黄有色的免费视频| 2018国产大陆天天弄谢| 日本wwww免费看| 亚洲欧美精品综合一区二区三区| 久久性视频一级片| 韩国精品一区二区三区| 777米奇影视久久| 国产主播在线观看一区二区| 青青草视频在线视频观看| 国产精品九九99| 午夜日韩欧美国产| 国产成人精品无人区| 久久国产精品影院| 波多野结衣一区麻豆| 嫩草影视91久久| 女人精品久久久久毛片| 久久久精品免费免费高清| 两个人看的免费小视频| 人人妻人人澡人人爽人人夜夜| 无限看片的www在线观看| av网站免费在线观看视频| 一区二区三区激情视频| 一区二区av电影网| 国产又色又爽无遮挡免费看| 国产精品一区二区免费欧美| 色94色欧美一区二区| 美国免费a级毛片| 久久中文字幕一级| 亚洲专区国产一区二区| 中文字幕人妻熟女乱码| 午夜福利视频在线观看免费| 丰满人妻熟妇乱又伦精品不卡| 深夜精品福利| 亚洲午夜理论影院| 久久久久久久久久久久大奶| 欧美亚洲日本最大视频资源| 亚洲免费av在线视频| 男女无遮挡免费网站观看| 国产日韩一区二区三区精品不卡| 色94色欧美一区二区| 亚洲va日本ⅴa欧美va伊人久久| 欧美精品人与动牲交sv欧美| 亚洲精品在线美女| 操美女的视频在线观看| 国产淫语在线视频| 青青草视频在线视频观看| 精品久久久久久久毛片微露脸| www日本在线高清视频| 汤姆久久久久久久影院中文字幕| 狠狠精品人妻久久久久久综合| 国产单亲对白刺激| 亚洲第一青青草原| 久久精品国产综合久久久| 狠狠狠狠99中文字幕| 黄网站色视频无遮挡免费观看| 一进一出抽搐动态| 午夜福利欧美成人| 精品少妇久久久久久888优播| 人人妻人人澡人人爽人人夜夜| 女性被躁到高潮视频| 国产精品偷伦视频观看了| 老熟女久久久| 黑人猛操日本美女一级片| 在线天堂中文资源库| 欧美人与性动交α欧美软件| 嫁个100分男人电影在线观看| 男人舔女人的私密视频| 欧美日韩亚洲国产一区二区在线观看 | 日韩成人在线观看一区二区三区| 久久ye,这里只有精品| 国产精品.久久久| 超碰成人久久| 欧美成狂野欧美在线观看| 亚洲精品在线观看二区| 久久久精品94久久精品| 亚洲中文av在线| 亚洲一区中文字幕在线| 日本av免费视频播放| 丁香六月天网| 久久人妻av系列| 一个人免费在线观看的高清视频| 国产精品99久久99久久久不卡| 如日韩欧美国产精品一区二区三区| 女人高潮潮喷娇喘18禁视频| 免费久久久久久久精品成人欧美视频| 在线天堂中文资源库| 免费日韩欧美在线观看| 18在线观看网站| 日韩制服丝袜自拍偷拍| 国产男女内射视频| 日本黄色日本黄色录像| 岛国在线观看网站| 欧美日韩一级在线毛片| 久久精品熟女亚洲av麻豆精品| 久久99热这里只频精品6学生| 久久人妻熟女aⅴ| 在线观看www视频免费| 国产97色在线日韩免费| 久久av网站| 日韩免费高清中文字幕av| 汤姆久久久久久久影院中文字幕| 亚洲少妇的诱惑av| 精品第一国产精品| 精品国产乱码久久久久久男人| 午夜两性在线视频| 最新在线观看一区二区三区| kizo精华| 亚洲欧美一区二区三区久久| 亚洲人成电影观看| 亚洲成人免费av在线播放| 成人18禁高潮啪啪吃奶动态图| 99国产综合亚洲精品| 中文亚洲av片在线观看爽 | 国产精品久久久久成人av| 国产精品偷伦视频观看了| 久久久国产欧美日韩av| 精品一区二区三区av网在线观看 | 亚洲精品av麻豆狂野| cao死你这个sao货| 999久久久国产精品视频| www.精华液| 视频区欧美日本亚洲| 久热爱精品视频在线9| 菩萨蛮人人尽说江南好唐韦庄| 热99久久久久精品小说推荐| 亚洲av成人一区二区三| 亚洲人成电影观看| 欧美av亚洲av综合av国产av| 日本av手机在线免费观看| 最近最新中文字幕大全免费视频| 少妇粗大呻吟视频| 午夜成年电影在线免费观看| 亚洲人成77777在线视频| 精品少妇一区二区三区视频日本电影| 两人在一起打扑克的视频| 免费在线观看完整版高清| 老司机深夜福利视频在线观看| 波多野结衣一区麻豆| 国产不卡一卡二| 少妇猛男粗大的猛烈进出视频| 男女边摸边吃奶| 国产男靠女视频免费网站| 久久人人爽av亚洲精品天堂| 男女免费视频国产| 大型黄色视频在线免费观看| 黑人猛操日本美女一级片| 大陆偷拍与自拍| 精品一区二区三区视频在线观看免费 | 亚洲视频免费观看视频| 国产成+人综合+亚洲专区| 成年人黄色毛片网站| 日韩 欧美 亚洲 中文字幕| 国产精品电影一区二区三区 | av天堂久久9| 肉色欧美久久久久久久蜜桃| 成人av一区二区三区在线看| 法律面前人人平等表现在哪些方面| 一个人免费在线观看的高清视频| 一区二区三区激情视频| 色综合欧美亚洲国产小说| 国产亚洲欧美在线一区二区| 在线观看免费视频日本深夜| 可以免费在线观看a视频的电影网站| 亚洲熟妇熟女久久| 亚洲专区国产一区二区| 成人国语在线视频| 十八禁网站免费在线| 精品福利观看| 国产97色在线日韩免费| 亚洲熟妇熟女久久| 麻豆成人av在线观看| 日韩大片免费观看网站| 日韩三级视频一区二区三区| 又紧又爽又黄一区二区| 狂野欧美激情性xxxx| 久久久水蜜桃国产精品网| 久热爱精品视频在线9| 亚洲精品乱久久久久久| 亚洲精品国产精品久久久不卡| 少妇 在线观看| 一本色道久久久久久精品综合| 亚洲精品美女久久av网站| 久热爱精品视频在线9| 久久久久视频综合| 欧美日韩中文字幕国产精品一区二区三区 | 一进一出好大好爽视频| 一本综合久久免费| 精品国产乱码久久久久久小说| 亚洲精品一二三| 99国产精品一区二区三区| 无人区码免费观看不卡 | 国产成+人综合+亚洲专区| 亚洲人成电影免费在线|