• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于知識(shí)圖譜的智能問(wèn)答研究綜述

    2020-12-07 08:20:08王智悅王耀國(guó)
    關(guān)鍵詞:圖譜實(shí)體語(yǔ)義

    王智悅,于 清,王 楠,王耀國(guó)

    1.新疆大學(xué) 信息科學(xué)與工程學(xué)院,烏魯木齊 830046

    2.新疆自治區(qū)人民醫(yī)院 信息中心,烏魯木齊 830001

    1 引言

    智能問(wèn)答是自然語(yǔ)言處理中非常重要的研究?jī)?nèi)容,具體指計(jì)算機(jī)通過(guò)對(duì)人類語(yǔ)言的自動(dòng)分析,回復(fù)用戶所詢問(wèn)的問(wèn)題。為了更精準(zhǔn)回答用戶提問(wèn),現(xiàn)通常采用對(duì)問(wèn)句進(jìn)行深層次語(yǔ)義分析,獲取問(wèn)句豐富內(nèi)涵信息,再反饋接近用戶需要的答案,由此體現(xiàn)計(jì)算機(jī)智能性。

    知識(shí)圖譜又稱科學(xué)知識(shí)圖譜,在圖書(shū)情報(bào)界叫做知識(shí)域可視化或知識(shí)領(lǐng)域映射地圖,用可視化技術(shù)描述知識(shí)資源及其載體。知識(shí)圖譜構(gòu)建需要挖掘、分析、繪制和顯示知識(shí)及知識(shí)之間的相互關(guān)系,讓原本知識(shí)庫(kù)更具智能。結(jié)合知識(shí)圖譜智能問(wèn)答,通過(guò)知識(shí)圖譜中實(shí)體間存在的直接聯(lián)系,挖掘推理出潛在關(guān)系,與傳統(tǒng)搜索引擎比較,基于知識(shí)圖譜的信息檢索,不再是反饋簡(jiǎn)單排序的文檔結(jié)果,而是通過(guò)智能語(yǔ)義分析,反饋接近用戶需要的問(wèn)題答案。本文綜述近年來(lái)基于知識(shí)圖譜的智能問(wèn)答技術(shù)研究與發(fā)展?fàn)顩r,為更多研究者提供信息參考。

    1.1 智能問(wèn)答發(fā)展

    智能問(wèn)答最早追溯到人工智能誕生時(shí)期,阿蘭·圖靈[1]1950 年提出通過(guò)觀察機(jī)器是否具備正確回答問(wèn)題的能力,從而驗(yàn)證機(jī)器是否具有智能。不久后,麻省理工學(xué)院Weizenbaum在1966年設(shè)計(jì)了名為ELIZA的聊天機(jī)器人[2],實(shí)現(xiàn)了與人簡(jiǎn)單交流,不過(guò),并不意味著機(jī)器對(duì)自然語(yǔ)言真正理解。隨后又有大量研究成果如:Colby 設(shè) 計(jì) 的 Parry[3]、ALICE[4]、Jabberwacky[5];2011 年IBM 公司設(shè)計(jì)研發(fā)了超級(jí)計(jì)算機(jī)“沃森”,“沃森”在美國(guó)知識(shí)競(jìng)賽節(jié)目《危險(xiǎn)邊緣》中上演了“人機(jī)大戰(zhàn)”,戰(zhàn)勝兩位頂尖人類選手,被視為人工智能發(fā)展又一里程碑;華盛頓大學(xué)Etzioni 教授2011 年在Nature上發(fā)表文章Search needs a shake-up指出:“以直接而準(zhǔn)確的方式回答用戶自然語(yǔ)言提問(wèn)的自動(dòng)問(wèn)答系統(tǒng)將構(gòu)成下一代搜索引擎的基本形態(tài)”[6]。因此,問(wèn)答系統(tǒng)被看作未來(lái)信息智能服務(wù)關(guān)鍵性技術(shù)之一,是人機(jī)交互的重要手段。

    1.2 知識(shí)圖譜發(fā)展

    知識(shí)圖譜于2012 年由谷歌公司首次提出,具體是將獨(dú)立的知識(shí)轉(zhuǎn)化為三元組形式,形成龐大的知識(shí)網(wǎng)絡(luò)。知識(shí)圖譜屬于人工智能重要研究領(lǐng)域知識(shí)工程研究范疇,是利用知識(shí)工程建立大規(guī)模知識(shí)資源的重要應(yīng)用之一。知識(shí)圖譜可以理解為一種語(yǔ)義網(wǎng)絡(luò)[7]結(jié)構(gòu)的知識(shí)庫(kù)。在問(wèn)答系統(tǒng)[8]中,自然語(yǔ)言通過(guò)語(yǔ)義網(wǎng)絡(luò)來(lái)表達(dá)和存儲(chǔ)十分的方便。21世紀(jì)后,語(yǔ)義網(wǎng)絡(luò)進(jìn)入新的應(yīng)用場(chǎng)景即語(yǔ)義Web[9],這種允許上傳圖結(jié)構(gòu)(W3C 的標(biāo)準(zhǔn)RDF),實(shí)現(xiàn)數(shù)據(jù)之間鏈接就是知識(shí)圖譜的雛形[10],并且知識(shí)圖譜又不同于早期的語(yǔ)義網(wǎng)絡(luò),知識(shí)圖譜更加強(qiáng)調(diào)實(shí)體之間的關(guān)系或者實(shí)體的屬性值。知識(shí)圖譜研究的內(nèi)容包括知識(shí)獲取、知識(shí)融合、知識(shí)計(jì)算與應(yīng)用三大主要步驟[11]。最具代表性的大規(guī)模網(wǎng)絡(luò)知識(shí)圖譜包括DBpedia[12]、Freebase[13]、KnowItAll[14]、WikiTaxonomy[15]和 YAGO[16]、以及 BabelNet[17]、ConceptNet[18]、DeepDive[19]、NELL[20]、Probase[21]、Wikidata[22]、XLore[23]、Zhishi.me[24]等 。這些知識(shí)圖譜遵循RDF 三元組數(shù)據(jù)結(jié)構(gòu),包含數(shù)千萬(wàn)級(jí)或者億級(jí)規(guī)模實(shí)體,以及數(shù)十億或百億事實(shí)(即屬性值和與其他實(shí)體的關(guān)系),這些實(shí)體被組織在成千上萬(wàn)由語(yǔ)義體現(xiàn)的客觀世界概念結(jié)構(gòu)中。圖1 展示了一個(gè)簡(jiǎn)單的知識(shí)圖譜。

    1.3 相關(guān)工作

    圖1 簡(jiǎn)單的知識(shí)圖譜

    近年來(lái),伴隨用戶對(duì)智能應(yīng)用方面的強(qiáng)大需求,許多公司及機(jī)構(gòu)如Google、百度、維基等對(duì)獲得的高質(zhì)量數(shù)據(jù),采用自動(dòng)或半自動(dòng)化方法設(shè)計(jì)了一系列完備的知識(shí)圖譜。例如 DBpedia[12]、Freebase[13]、YAGO[16]等,這類圖譜由大批量實(shí)體、關(guān)系及屬性構(gòu)成。同時(shí)機(jī)器學(xué)習(xí)與深度學(xué)習(xí)發(fā)展,為智能問(wèn)答奠定研究基礎(chǔ)。例如Baseball[25]、Lunar[26]實(shí)現(xiàn)了限定域的智能問(wèn)答,Paralex[27]、SEMPRE[28]、ParaSEMPRE[29]、STAGG[30]嘗試更具挑戰(zhàn)性的開(kāi)放域智能問(wèn)答研究。

    大量文獻(xiàn)圍繞研究智能問(wèn)答展開(kāi),如:鄭實(shí)福等人[31]對(duì)早期自動(dòng)問(wèn)答做了比較全面的綜述,另有研究者針對(duì)限定域問(wèn)答進(jìn)行全面總結(jié)[32],還有針對(duì)Web的智能問(wèn)答,以及研究自然語(yǔ)言處理技術(shù)自動(dòng)問(wèn)答實(shí)現(xiàn)等[33]。然而,基于知識(shí)圖譜的智能問(wèn)答還沒(méi)有敘述全面的綜述類文章,在此對(duì)基于知識(shí)圖譜的智能問(wèn)答做全面介紹,吸引更多研究者投身該領(lǐng)域研究。

    同時(shí),問(wèn)答系統(tǒng)實(shí)現(xiàn)離不開(kāi)數(shù)據(jù)集,重點(diǎn)介紹當(dāng)前較成熟的英文問(wèn)答數(shù)據(jù)集有Simplequestion[34]、Webquestions[28]、WebquestionsSP[35]、QALD[36]、CSQA[37]等,如表1。Simplequestions是一種大規(guī)模問(wèn)答數(shù)據(jù)集,這個(gè)數(shù)據(jù)集中的問(wèn)題可以用一個(gè)三元組進(jìn)行回答,并且數(shù)據(jù)集包含查詢語(yǔ)句。該數(shù)據(jù)集包含了10 萬(wàn)多條問(wèn)答對(duì),但是簡(jiǎn)單問(wèn)題占很大比例,簡(jiǎn)單問(wèn)題即由一條三元組就可以回答的問(wèn)題,也叫single-relation 問(wèn)題,在該數(shù)據(jù)集上大部分研究者采用向量建模與深度學(xué)習(xí)相結(jié)合的方法并取得了很好的效果。Webquestions是Berant等人借助Google Suggest 生成了5 810 條問(wèn)答對(duì),提供了每個(gè)答案對(duì)應(yīng)知識(shí)庫(kù)的主題節(jié)點(diǎn)。Webquestions 數(shù)據(jù)集更加偏向自然語(yǔ)言,但是同樣存在缺點(diǎn),只是提供了答案而沒(méi)有對(duì)應(yīng)的查詢語(yǔ)句,這就對(duì)生成邏輯表達(dá)式的模型訓(xùn)練造成了困難,其次是復(fù)雜問(wèn)句較少。Yih等人對(duì)Webquestions 改進(jìn)后提出 WebquestionsSP,WebquestionsSP是Webquestions的子集,補(bǔ)全了相應(yīng)的查詢語(yǔ)句。QALD是一種開(kāi)放域問(wèn)答數(shù)據(jù)集且表達(dá)更加復(fù)雜、更加口語(yǔ)化,除了包含問(wèn)句與答案之外,QALD 還為每個(gè)問(wèn)答對(duì)配置了關(guān)鍵詞以及對(duì)應(yīng)的SPARQL 語(yǔ)句。CSQA 主要是用于知識(shí)圖譜序列問(wèn)答(多輪問(wèn)答)的數(shù)據(jù)集,其中每個(gè)數(shù)據(jù)樣本均由具有共享上下文的一系列QA 對(duì)組成。在這些數(shù)據(jù)集中,盡管序列中的單個(gè)問(wèn)題通常很短,但具有上下文相關(guān)性。中文數(shù)據(jù)集有NLPCC 評(píng)測(cè)(NLPCC2016 評(píng)測(cè)數(shù)據(jù)包含14 609 個(gè)問(wèn)答對(duì)的訓(xùn)練集和包含9 870 個(gè)問(wèn)答對(duì)的測(cè)試集。并提供一個(gè)知識(shí)庫(kù),包含6 502 738 個(gè)實(shí)體、587 875 個(gè)屬性以及43 063 796個(gè)三元組)以及CCKS評(píng)測(cè)(CCKS2018測(cè)評(píng)數(shù)據(jù)集包括2 298 條問(wèn)答對(duì),其中有約1 000 條金融領(lǐng)域問(wèn)答對(duì),并提供三元組數(shù)據(jù))等,隨著智能技術(shù)發(fā)展,研究者們繼續(xù)嘗試構(gòu)建更高標(biāo)準(zhǔn)的數(shù)據(jù)集,Liu 等人構(gòu)建了一個(gè)開(kāi)源的跨語(yǔ)言O(shè)penQA數(shù)據(jù)集XQA[38],包含英語(yǔ)訓(xùn)練集以及英語(yǔ)、法語(yǔ)、德語(yǔ)、葡萄牙語(yǔ)、波蘭語(yǔ)、中文、俄語(yǔ)、烏克蘭語(yǔ)和泰米爾語(yǔ)驗(yàn)證集和測(cè)試集。Xiong等人[39]收集新聞文本,構(gòu)建了社交問(wèn)答數(shù)據(jù)集。

    表1 知識(shí)圖譜問(wèn)答數(shù)據(jù)集

    2 構(gòu)建模板的問(wèn)答方法

    構(gòu)建模板的問(wèn)答方法通過(guò)構(gòu)造一組模板參數(shù),形成查詢表達(dá)式,對(duì)問(wèn)題文本進(jìn)行匹配。整個(gè)過(guò)程不涉及問(wèn)句分析,通過(guò)預(yù)設(shè)查詢模板替代相關(guān)實(shí)體關(guān)系映射。優(yōu)點(diǎn):簡(jiǎn)潔、準(zhǔn)確性高,巧妙避開(kāi)語(yǔ)義解析等難題,適用于簡(jiǎn)單查詢,在實(shí)際中應(yīng)用廣泛。

    AskJeeves 是國(guó)外使用模板庫(kù)較成功的例子,其中問(wèn)題理解部分由幾百名專家對(duì)相關(guān)問(wèn)題構(gòu)建問(wèn)題模板手工完成,耗費(fèi)大量人力,借助模板庫(kù)返回相關(guān)文檔鏈接或者一段文本,回答用戶問(wèn)題,回答方式多樣。缺點(diǎn)是后期維護(hù)依然需要人工,工作量巨大。

    2010 年TrueKnowledge[40]模板問(wèn)答方法被提出,核心思想是:首先使用已知模板成分匹配句子中的內(nèi)容,例如一些疑問(wèn)詞,其次按照順序匹配相應(yīng)模板,一個(gè)模板可以覆蓋多個(gè)問(wèn)題。例如問(wèn)題“What is the capital of France?”首先匹配疑問(wèn)詞,如WhatWhich,這些反映問(wèn)題意圖的疑問(wèn)詞又生成“whatwhich a y”,其中a與y是問(wèn)題中內(nèi)容的映射,確定好這樣的待填充結(jié)構(gòu)后,最后繼續(xù)根據(jù)已定義模板將“is the capital of”映射到變量a,將“France”映射到變量y。模板針對(duì)不同問(wèn)題可以復(fù)用,但缺點(diǎn)也十分明顯,需要大量人工處理形成模板,成本昂貴。同時(shí),生成的模板對(duì)數(shù)據(jù)庫(kù)依賴性大。

    文獻(xiàn)[41]構(gòu)建了基于汽車(chē)領(lǐng)域的智能問(wèn)答系統(tǒng),針對(duì)原有問(wèn)答模板方法進(jìn)行了改進(jìn),結(jié)合汽車(chē)領(lǐng)域知識(shí)庫(kù)提出模板自動(dòng)生成方法,提前將復(fù)雜自然語(yǔ)言處理,預(yù)備在模板庫(kù)構(gòu)建中取得較好效果。同時(shí),該文獻(xiàn)還介紹了模板庫(kù)自動(dòng)生成系統(tǒng)結(jié)構(gòu)以及相關(guān)開(kāi)發(fā)工具。

    Cui等人[42]針對(duì)簡(jiǎn)單事實(shí)問(wèn)答,在大規(guī)模模板自動(dòng)化生成方面,提出優(yōu)化方案。Abujabal等人[43]提出QUINT模型,通過(guò)語(yǔ)料自動(dòng)學(xué)習(xí)模板,借助生成的模板將自然語(yǔ)言問(wèn)句轉(zhuǎn)化為知識(shí)庫(kù)查詢。Cocco等人[44]提出基于面向?qū)ο蟮膯?wèn)答系統(tǒng),借助RDF 形式的LinkedSpeding 數(shù)據(jù)集,在現(xiàn)有訓(xùn)練集(相互配對(duì)的問(wèn)答對(duì))上,通過(guò)機(jī)器學(xué)習(xí)方法學(xué)習(xí)SPARQL模板。

    總而言之,基于模板的問(wèn)答方法屬于比較傳統(tǒng)的方法,設(shè)計(jì)者需要提前設(shè)定模板,依據(jù)問(wèn)題相關(guān)部分,選取不同模板,生成答案。這種方法優(yōu)點(diǎn)是:可以獲得比較準(zhǔn)確的答案,回答響應(yīng)速度快。缺點(diǎn):需要耗費(fèi)大量人力進(jìn)行模板校對(duì),以及模板庫(kù)維護(hù)。但是,針對(duì)問(wèn)答領(lǐng)域多跳復(fù)雜問(wèn)題,最新的模板方法也能提供解決思路,當(dāng)前該方法研究重點(diǎn)更側(cè)重于模板自動(dòng)生成,克服耗時(shí)耗力難題。

    3 語(yǔ)義解析的問(wèn)答方法

    語(yǔ)義解析與基于模板的方法最明顯的區(qū)別是邏輯表達(dá)式。模板方法需要預(yù)設(shè)固定表達(dá)方式,語(yǔ)義解析方法關(guān)鍵在于對(duì)自然語(yǔ)言問(wèn)句成分進(jìn)行解析,將查詢轉(zhuǎn)化成邏輯表達(dá)式,再利用知識(shí)圖譜的語(yǔ)義信息將邏輯表達(dá)式轉(zhuǎn)換成知識(shí)圖譜查詢,最終得到相應(yīng)結(jié)果。邏輯表達(dá)式用于面向知識(shí)圖譜的結(jié)構(gòu)化查詢,查找知識(shí)庫(kù)中的實(shí)體以及與實(shí)體相關(guān)的知識(shí),在結(jié)構(gòu)化形式的知識(shí)圖譜上進(jìn)行查詢,最高效的方法是利用結(jié)構(gòu)化查詢語(yǔ)句,類似SQL、SPARQL語(yǔ)句等,然而對(duì)普通用戶來(lái)說(shuō),設(shè)計(jì)規(guī)范的查詢語(yǔ)句存在困難?;谥R(shí)圖譜的語(yǔ)義解析問(wèn)答系統(tǒng)實(shí)現(xiàn),需要兩個(gè)關(guān)鍵步驟:(1)使用語(yǔ)義解析器將問(wèn)題轉(zhuǎn)換成機(jī)器能夠理解和運(yùn)行的語(yǔ)義表示;(2)使用該語(yǔ)義產(chǎn)生結(jié)構(gòu)化查詢語(yǔ)言,對(duì)知識(shí)圖譜進(jìn)行查詢,并從返回的實(shí)體集合中尋找答案,如圖2所示。

    圖2 基于語(yǔ)義解析的知識(shí)圖譜問(wèn)答過(guò)程

    常用語(yǔ)義解析方法又有三類:基于詞典-文法的語(yǔ)義解析、基于語(yǔ)義圖構(gòu)建的語(yǔ)義解析、基于神經(jīng)網(wǎng)絡(luò)的語(yǔ)義解析。

    3.1 基于詞典-文法的語(yǔ)義解析方法

    該方法由Berant[28]提出,它依靠組合文法,其中組合范疇文法(CCG)[45]由ACL 終身成就獎(jiǎng)獲得者Steedman提出,后由Zettlemoyer與Collins[46]應(yīng)用于對(duì)問(wèn)句成分進(jìn)行語(yǔ)義解析。Kwiatkowski 等人提出改進(jìn)規(guī)則方法[47],有效提升了CCG 句法分析器魯棒性;Artzi 等人[48]使用AMR(Abstract Meaning Representation)替換λ-算子,表示CCG 語(yǔ)義規(guī)則中語(yǔ)義類型部分,同樣取得不錯(cuò)效果。語(yǔ)義解析方法還有很多,例如同步上下文無(wú)關(guān)文法(SCFG)[49],以及組合語(yǔ)義法(DCS)[28],DCS擁有和λ-算子相似的表示能力,但該方法定義的語(yǔ)義結(jié)構(gòu)更貼近知識(shí)圖譜的存儲(chǔ)結(jié)構(gòu)。

    基于詞典-文法的語(yǔ)義解析方法可解釋性很強(qiáng),結(jié)構(gòu)清晰,在限定領(lǐng)域問(wèn)答方面達(dá)到很好效果。但是很多重要組成部分(比如CCG 中的詞匯表和規(guī)則集)都需人工編寫(xiě)。面對(duì)大規(guī)模多源異構(gòu)知識(shí)庫(kù),該方法存在以下不足:(1)資源(例如詞匯表、規(guī)則集)標(biāo)注費(fèi)時(shí)費(fèi)力,在訓(xùn)練數(shù)據(jù)有限情況下,性能大打折扣;(2)語(yǔ)義表示與知識(shí)庫(kù)聯(lián)系不緊密,無(wú)法在解析過(guò)程中利用知識(shí)約束;(3)大規(guī)模知識(shí)庫(kù)開(kāi)放域特性使文本歧義問(wèn)題嚴(yán)重。

    3.2 基于語(yǔ)義圖的問(wèn)句解析方法

    Reddy[50]提出與基于詞典-文法的語(yǔ)義解析方法不同的新方法。通過(guò)對(duì)問(wèn)句分析,構(gòu)建相對(duì)應(yīng)的語(yǔ)義圖,語(yǔ)義圖由節(jié)點(diǎn)(實(shí)體、變量或者類型)、邊(關(guān)系)、操作符(count、argmax 等)構(gòu)成,被看作知識(shí)圖譜子圖,實(shí)現(xiàn)將問(wèn)句映射到知識(shí)圖譜中,再通過(guò)圖匹配完成問(wèn)題回答,該方法即是基于語(yǔ)義圖的語(yǔ)義解析方法。較有代表性的是Reddy 等人[51]設(shè)計(jì)的從依存樹(shù)到語(yǔ)義圖的轉(zhuǎn)換文法,將樹(shù)結(jié)構(gòu)轉(zhuǎn)化為知識(shí)圖譜的子圖結(jié)構(gòu)再結(jié)合知識(shí)圖譜進(jìn)行匹配;Yih[52]提出分步驟構(gòu)建文法,便于理解,可解釋性強(qiáng),提高了語(yǔ)義圖構(gòu)建的準(zhǔn)確性;Bast 等人[53]從另一方面構(gòu)建了一種基于模板的語(yǔ)義圖生成方法。構(gòu)建語(yǔ)義圖的方法不僅針對(duì)簡(jiǎn)單問(wèn)題,Hao等人[54]還嘗試構(gòu)建復(fù)雜語(yǔ)義圖解決復(fù)雜問(wèn)題,效果明顯,尤其問(wèn)句中存在多個(gè)實(shí)體時(shí),更便于語(yǔ)義圖構(gòu)建。

    基于語(yǔ)義圖的問(wèn)句解析方法關(guān)鍵技術(shù)在于語(yǔ)義圖表示,以及語(yǔ)義圖構(gòu)建。語(yǔ)義圖結(jié)構(gòu)與自然語(yǔ)言句子結(jié)構(gòu)具有相似性,故使用語(yǔ)義圖作為目標(biāo)語(yǔ)義表示有顯著優(yōu)點(diǎn),語(yǔ)義解析過(guò)程充分利用知識(shí)庫(kù)的知識(shí)約束,由組合文法轉(zhuǎn)換為語(yǔ)義圖構(gòu)建,減少了搜索空間。但是基于語(yǔ)義圖的語(yǔ)義解析方法也存在問(wèn)題,該方法依賴于一些啟發(fā)式方法構(gòu)建語(yǔ)義圖,導(dǎo)致缺乏通用性。

    3.3 基于神經(jīng)網(wǎng)絡(luò)的方法

    該方法將自然語(yǔ)言及對(duì)應(yīng)的語(yǔ)義看作是兩種不同語(yǔ)言,語(yǔ)義分析任務(wù)被看做類似于機(jī)器翻譯任務(wù),利用端到端模型,實(shí)現(xiàn)將問(wèn)句翻譯成對(duì)應(yīng)語(yǔ)義的表示序列。

    Dong等[55]和Jia等[56]用基于attention機(jī)制的encoderdecoder 模型(如圖3),將自然語(yǔ)言作為輸入,得到適用于機(jī)器處理的邏輯表示作為輸出。Xiao 等人[57]結(jié)合符號(hào)先驗(yàn)知識(shí),利用RNN 模型實(shí)現(xiàn)語(yǔ)義解析。Chen 等人[58]提出Sequence-to-Action 模型,用語(yǔ)義圖表示語(yǔ)義信息。也有研究者在基于神經(jīng)網(wǎng)絡(luò)的方法上進(jìn)行擴(kuò)展。Krishnamurthy 等人[59]考慮到目標(biāo)語(yǔ)言是形式化語(yǔ)言,需要嚴(yán)格條件約束,對(duì)比機(jī)器翻譯的decoder,語(yǔ)義解析中使用了嚴(yán)格約束條件。Dong 等人[60]提出用兩級(jí)encoder->decoder 改進(jìn)機(jī)器翻譯端到端模型,有效解決自然語(yǔ)言與語(yǔ)義表示之間跨度大問(wèn)題,通過(guò)問(wèn)題分解,提升性能。Chen 等人[61]不僅考慮從問(wèn)句中提取相關(guān)特征做語(yǔ)義分析,同時(shí)結(jié)合知識(shí)圖譜中實(shí)體類型、關(guān)系路徑、上下文關(guān)系等,借助注意力機(jī)制方法,在Webquestions數(shù)據(jù)集上實(shí)驗(yàn),準(zhǔn)確性提高。Lukovnikov等人[62]設(shè)計(jì)了一種端到端基于字符級(jí)別的問(wèn)題編碼器,可以處理詞庫(kù)以外的文字問(wèn)題,捕獲文字水平的語(yǔ)義。

    圖3 encoder-decoder模型示意圖

    基于神經(jīng)網(wǎng)絡(luò)方法,相比其他兩種方法,模型簡(jiǎn)單,但是可解釋性差,還需要預(yù)先準(zhǔn)備相應(yīng)的訓(xùn)練語(yǔ)料,對(duì)模型進(jìn)行訓(xùn)練時(shí),訓(xùn)練過(guò)程較長(zhǎng),還需要調(diào)整參數(shù)。對(duì)基于語(yǔ)義解析的三類方法,進(jìn)一步歸納總結(jié),得到如表2。

    綜上所述,基于語(yǔ)義解析的知識(shí)圖譜問(wèn)答方法,核心任務(wù)是將自然語(yǔ)言轉(zhuǎn)化成機(jī)器能夠理解和執(zhí)行的語(yǔ)義表示。通?;诜?hào)邏輯的語(yǔ)義表示,缺乏靈活性,在分析問(wèn)句語(yǔ)義過(guò)程中,還容易受到符號(hào)間語(yǔ)義鴻溝影響,同時(shí)從自然語(yǔ)言問(wèn)句得到結(jié)構(gòu)化語(yǔ)義表示需要許多步操作,多步間誤差傳遞對(duì)問(wèn)答準(zhǔn)確度造成影響?;谏窠?jīng)網(wǎng)絡(luò)的方法,需要大量標(biāo)注數(shù)據(jù),然而帶有標(biāo)注的數(shù)據(jù)集非常有限,加上現(xiàn)有知識(shí)圖譜覆蓋度較低。因此,目前基于語(yǔ)義分析的問(wèn)答系統(tǒng)在開(kāi)放域上取得的效果還不近人意。由于基于符號(hào)的方法和基于神經(jīng)網(wǎng)絡(luò)的方法各具優(yōu)缺點(diǎn),所以今后可以考慮兩種方法結(jié)合,此外,無(wú)論是基于符號(hào)方法需要構(gòu)建規(guī)則集,還是基于神經(jīng)網(wǎng)絡(luò)的方法需要標(biāo)注語(yǔ)料,都耗費(fèi)大量人工,因此構(gòu)建低成本的模型也是研究方向之一。

    表2 語(yǔ)義解析方法比較

    2006 年Hinton 等人[63]在神經(jīng)網(wǎng)絡(luò)模型基礎(chǔ)上提出深度學(xué)習(xí),如今海量數(shù)據(jù)積累、計(jì)算力提升、算法模型改進(jìn),促成深度學(xué)習(xí)迅猛發(fā)展。深度學(xué)習(xí)方法也已應(yīng)用于問(wèn)答系統(tǒng)各項(xiàng)任務(wù)實(shí)現(xiàn)。例如實(shí)體識(shí)別采用的經(jīng)典BILSTM+CRF 方法,如圖4 所示,谷歌提出BERT[64]模型;關(guān)系分類、意圖分類,采用基于字級(jí)別的深度學(xué)習(xí)方法;實(shí)體消歧采用深度學(xué)習(xí)排序方法,判斷語(yǔ)義匹配性等。

    圖4 BILSTM+CRF實(shí)體識(shí)別模型示意圖

    當(dāng)今,在基于知識(shí)圖譜的問(wèn)答研究領(lǐng)域,大部分研究者把目光從傳統(tǒng)或規(guī)則的方法轉(zhuǎn)向深度學(xué)習(xí)方法。以下章節(jié)將重點(diǎn)介紹基于深度學(xué)習(xí)的知識(shí)圖譜問(wèn)答。

    4 基于深度學(xué)習(xí)的答案排序方法

    采用深度學(xué)習(xí)的方法需要將問(wèn)題以及知識(shí)圖譜中包含的豐富的語(yǔ)義信息(字、詞語(yǔ)、上下文關(guān)系,知識(shí)圖譜中的實(shí)體、關(guān)系以及屬性),投射到一個(gè)高維向量空間,獲得字向量或者詞向量,通過(guò)深度學(xué)習(xí)模型對(duì)向量進(jìn)行相似度計(jì)算,再通過(guò)相應(yīng)打分機(jī)制獲得候選排序,得出最終問(wèn)答結(jié)果。如圖5所示。

    圖5 基于深度學(xué)習(xí)的答案排序方法典型流程

    其中,Bordes[65]在文獻(xiàn)[66]基礎(chǔ)上提出的方法比較經(jīng)典,首先對(duì)問(wèn)句中實(shí)體準(zhǔn)確定位,將問(wèn)句中的實(shí)體抽取出來(lái),再將實(shí)體連接到知識(shí)庫(kù),以該實(shí)體為起點(diǎn),查找與其關(guān)系相連的實(shí)體作為候選答案。其次計(jì)算這些實(shí)體關(guān)系的組合與問(wèn)句之間的相似度,通過(guò)打分排序,選擇相似度最大的候選項(xiàng)返回答案,取得很好效果。Hao等人[67]針對(duì)前人工作中沒(méi)有充分考慮候選答案相關(guān)信息訓(xùn)練question representation,提出Cross-Attention機(jī)制的神經(jīng)網(wǎng)絡(luò)模型,訓(xùn)練知識(shí)庫(kù)全局信息,一定程度上減輕了the Out of Vocabulary(OOV)問(wèn)題,在Webquestions數(shù)據(jù)集上取得不錯(cuò)效果。Hao等人[68]在問(wèn)句實(shí)體鏈接方面提出改進(jìn)方案,同時(shí)利用多級(jí)編碼及多維信息增強(qiáng)效果。Zhang 等人[69]在原有APVA 模型上改進(jìn),提高關(guān)系預(yù)測(cè)準(zhǔn)確性。此外,也有學(xué)者嘗試將問(wèn)句實(shí)體鏈接與關(guān)系鏈接合并抽取[70]。

    Bordes 等人[71]還設(shè)計(jì)了一種基于記憶網(wǎng)絡(luò)的問(wèn)答系統(tǒng),在多個(gè)數(shù)據(jù)集上驗(yàn)證了系統(tǒng)設(shè)計(jì)的優(yōu)越性,具備遷移學(xué)習(xí)能力。Dong等人[72]設(shè)計(jì)了一種多列卷積神經(jīng)網(wǎng)絡(luò),根據(jù)知識(shí)圖譜特點(diǎn),定義答案路徑、上下文路徑、答案類型,作為參考特征,并且每個(gè)特征對(duì)應(yīng)一個(gè)已經(jīng)訓(xùn)練的卷積神經(jīng)網(wǎng)絡(luò),用于捕獲問(wèn)句中語(yǔ)義信息,再通過(guò)計(jì)算問(wèn)句與答案之間的相似度,對(duì)結(jié)果打分排序,排名第一的作為最終答案。為更好捕獲問(wèn)句與答案間的交互信息,以及保留更多原始信息,Qu等人[73]提出了一種基于相似矩陣的遞歸神經(jīng)網(wǎng)絡(luò)(AR-SMCNN)模型,利用RNN 順序建模特性捕獲語(yǔ)義級(jí)相關(guān)性,使用注意機(jī)制跟蹤實(shí)體和關(guān)系重要部分,并制定了一種準(zhǔn)確確定問(wèn)句中主實(shí)體的方法。Lan 等人[74]創(chuàng)新地將“matchingaggregation”框架用于匹配候選項(xiàng),增強(qiáng)候選實(shí)體表示,充分利用問(wèn)題特有語(yǔ)境關(guān)系,提升在公開(kāi)數(shù)據(jù)集Webquestions、Simplequestion 上的效果。Krishna 等人[75]將問(wèn)答與實(shí)際生活聯(lián)系起來(lái),將問(wèn)答過(guò)程比作老師與學(xué)生之間的關(guān)系,學(xué)生問(wèn)題寬泛,同時(shí)使用分類方法,由大到小,由粗到細(xì),定位問(wèn)題意圖,最終由老師回答。

    以上是國(guó)外學(xué)者在研究基于知識(shí)圖譜問(wèn)答方面,采用深度學(xué)習(xí)方法取得的成果。國(guó)內(nèi)也有許多研究者,致力于構(gòu)建領(lǐng)域知識(shí)圖譜及設(shè)計(jì)問(wèn)答系統(tǒng),將基于知識(shí)圖譜的單一事實(shí)問(wèn)答拆解成兩部分任務(wù),一是實(shí)體鏈接,二是關(guān)系識(shí)別。羅達(dá)等人[76]按照這一思路提出了一種基于多角度注意力機(jī)制的單一事實(shí)知識(shí)庫(kù)問(wèn)答方法,關(guān)系識(shí)別率達(dá)到93.5%。曹明宇等人[77]構(gòu)建了一種針對(duì)原發(fā)性肝癌的知識(shí)圖譜問(wèn)答系統(tǒng)。張楚婷[78]在旅游方面展開(kāi)知識(shí)圖譜問(wèn)答系統(tǒng)研究。張崇宇[79]設(shè)計(jì)了關(guān)于醫(yī)療領(lǐng)域的知識(shí)圖譜問(wèn)答系統(tǒng)。史夢(mèng)飛[80]設(shè)計(jì)了一種分布式的問(wèn)答系統(tǒng),將問(wèn)題句進(jìn)行分類,提高下游任務(wù)的準(zhǔn)確性,通過(guò)構(gòu)建基于深度學(xué)習(xí)的End2End 問(wèn)答模型,同時(shí)考慮中文問(wèn)句的復(fù)雜性,提出結(jié)合語(yǔ)義依存分析的剪枝算法及自動(dòng)化模板的方法。童培豪[81]針對(duì)復(fù)雜問(wèn)題進(jìn)行優(yōu)化,將系統(tǒng)分為三個(gè)步驟,實(shí)體識(shí)別、關(guān)系發(fā)現(xiàn)、系統(tǒng)整合,并在每一個(gè)步驟中實(shí)現(xiàn)優(yōu)化。國(guó)內(nèi)眾多評(píng)測(cè)會(huì)議,進(jìn)一步促進(jìn)問(wèn)答系統(tǒng)發(fā)展。Lai 等人[82]在NLPCC2017比賽中設(shè)計(jì)了一種深度卷積神經(jīng)網(wǎng)絡(luò)實(shí)體謂詞重排序配對(duì)方法,取得第一名。Zhou 等人[83]將規(guī)則與神經(jīng)網(wǎng)絡(luò)相結(jié)合,在2019 年CCKS 評(píng)測(cè)中,取得第一名。

    在基于深度學(xué)習(xí)答案排序的方法中,計(jì)算輸入問(wèn)題和候選答案實(shí)體之間的相關(guān)性是核心任務(wù)。當(dāng)前采用問(wèn)題與答案對(duì)直接訓(xùn)練的問(wèn)答模型取得較好效果。Costa 等人[84]針對(duì)當(dāng)前多領(lǐng)域多知識(shí)圖譜發(fā)展,提出針對(duì)開(kāi)放域的基于知識(shí)圖譜的問(wèn)答框架,嘗試設(shè)計(jì)一個(gè)高效且高質(zhì)量的問(wèn)答系統(tǒng),實(shí)現(xiàn)在任何領(lǐng)域?qū)θ魏晤愋蛦?wèn)題都有效的問(wèn)答系統(tǒng)。

    5 基于知識(shí)圖譜的嵌入學(xué)習(xí)的問(wèn)答方法

    知識(shí)圖譜嵌入(Knowledge Graph Embedding,KGE)學(xué)習(xí)是針對(duì)知識(shí)圖譜中的三元組做word embedding操作,在一般的自然語(yǔ)言處理任務(wù)中,將文本的表述轉(zhuǎn)化為word2vec這種產(chǎn)物,KGE不同于普通的詞向量表示,知識(shí)圖譜嵌入學(xué)習(xí)面向知識(shí)庫(kù)中的實(shí)體和關(guān)系進(jìn)行表示學(xué)習(xí),從而更為直接地構(gòu)造實(shí)體與關(guān)系之間的語(yǔ)義相關(guān)性。相比于普通的詞向量,KGE 更能反映相近的實(shí)體以及關(guān)系間的相似程度,KGE 的目的是為了保存知識(shí)圖譜中原有的信息,并將知識(shí)圖譜用連續(xù)向量空間中的低維密集向量或者矩陣來(lái)表示,可以有效解決數(shù)據(jù)稀疏問(wèn)題,使知識(shí)獲取、融合、推理的性能得到顯著提升。現(xiàn)有研究已經(jīng)提出了許多的KGE,如線性映射方法DistMult[85]、基于平移的TransE[86]、基于張量因子化的RESCAL[87]、神經(jīng)張量網(wǎng)絡(luò)NTN[88]等,并被證明在知識(shí)圖譜補(bǔ)全、問(wèn)答系統(tǒng)和關(guān)系抽取等許多應(yīng)用中都是有效的。

    Wang 等人[89]借助知識(shí)圖譜的嵌入學(xué)習(xí),提出了一種解決通過(guò)SPARQL查詢沒(méi)有答案的方法。Wang針對(duì)一些在知識(shí)圖譜中可以找到答案,但是通過(guò)SPARQL匹配時(shí),要求每個(gè)指定的查詢項(xiàng)都需要匹配,從而無(wú)法找到正確答案的問(wèn)題,通過(guò)專門(mén)為SPARQL查詢匹配設(shè)計(jì)的保留實(shí)體上下文的轉(zhuǎn)化模型,將知識(shí)圖譜三元組映射到連續(xù)的向量空間中,使得語(yǔ)義相似的實(shí)體在向量空間中接近。這樣的模型框架可以方便地生成高質(zhì)量的近似答案。

    Huang等人[90]設(shè)計(jì)了一種基于知識(shí)圖譜嵌入的問(wèn)答系統(tǒng),針對(duì)謂詞在問(wèn)題中的不同表達(dá)和實(shí)體被識(shí)別后的消歧等問(wèn)題,Huang等人結(jié)合知識(shí)圖譜嵌入學(xué)習(xí)在問(wèn)答系統(tǒng)的優(yōu)點(diǎn)來(lái)解決,知識(shí)圖譜嵌入學(xué)習(xí)表示圖譜中的每個(gè)謂詞/實(shí)體為低維向量,給定一個(gè)簡(jiǎn)單問(wèn)題,目標(biāo)是找到謂詞嵌入空間的一個(gè)點(diǎn)作為謂詞的表示向量,并在實(shí)體嵌入空間中找到一個(gè)點(diǎn)作為頭實(shí)體的表示向量。對(duì)于所有知識(shí)圖譜可以解答的問(wèn)題,它們的謂詞向量必然在謂詞嵌入空間中。因此,作者設(shè)計(jì)謂詞與頭實(shí)體學(xué)習(xí)模型,將問(wèn)題作為輸入,并返回盡可能接近于問(wèn)題的謂詞/實(shí)體嵌入表示的向量,確定謂詞與頭實(shí)體,最終找到尾實(shí)體,完成問(wèn)答。

    Hamilton 等人[91]認(rèn)為知識(shí)圖譜是一張有關(guān)系和實(shí)體組成的一張圖,通過(guò)學(xué)習(xí)實(shí)體低緯度嵌入表示,可以預(yù)測(cè)潛在或者缺失的邊。目前知識(shí)圖譜查詢的難點(diǎn)在于處理更為復(fù)雜的邏輯查詢,因?yàn)檫@涉及多個(gè)未發(fā)現(xiàn)的邊、實(shí)體和屬性。針對(duì)這一問(wèn)題,Hamilton 等人設(shè)計(jì)了一種框架,實(shí)現(xiàn)在不完整知識(shí)圖譜上有效地對(duì)連接邏輯查詢進(jìn)行預(yù)測(cè),在低維空間中對(duì)圖譜節(jié)點(diǎn)embedding操作,并在這個(gè)embedding space中將邏輯運(yùn)算符表示為學(xué)習(xí)過(guò)的幾何運(yùn)算(例如平移、旋轉(zhuǎn))。通過(guò)在低維embedding space中執(zhí)行邏輯運(yùn)算,可以預(yù)測(cè)圖譜中的關(guān)系。

    知識(shí)圖譜問(wèn)答中一種有效的方法就是將自然語(yǔ)言問(wèn)句轉(zhuǎn)化為圖結(jié)構(gòu)的查詢,最為重要的過(guò)程就是將實(shí)體/關(guān)系映射到知識(shí)圖譜的點(diǎn)與邊,從而構(gòu)造結(jié)構(gòu)查詢。Wang 等人[92]考慮到語(yǔ)言的靈活性以及模糊性,映射的過(guò)程存在挑戰(zhàn)性,提出了一種新的問(wèn)答框架KemQA,嘗試去解決自然語(yǔ)言問(wèn)題的映射問(wèn)題和構(gòu)造結(jié)構(gòu)查詢,通過(guò)大量的實(shí)驗(yàn),證明框架的有效性。

    知識(shí)圖譜的嵌入學(xué)習(xí)方法是將知識(shí)圖譜中的每個(gè)對(duì)象編碼到連續(xù)向量空間,這樣的做法能夠反映出關(guān)系密切的實(shí)體以及關(guān)系的相似程度,保存了知識(shí)圖譜中的重要信息。這樣的做法為問(wèn)答的實(shí)現(xiàn)做了很好的鋪墊。知識(shí)圖譜嵌入式學(xué)習(xí)的問(wèn)答方法具有很好的可行性以及魯棒性。如何能讓知識(shí)圖譜嵌入學(xué)習(xí)學(xué)到更多更細(xì)致的知識(shí)圖譜信息是這種方法的關(guān)鍵。

    6 多跳推理的知識(shí)圖譜問(wèn)答

    近年來(lái),有論文指出KGQA任務(wù)中的簡(jiǎn)單問(wèn)題已經(jīng)基本被解決[93]。從知識(shí)圖譜的發(fā)展來(lái)看,當(dāng)前學(xué)術(shù)界更關(guān)注解決包含多跳、組合或者需要借助推理解決的復(fù)雜問(wèn)題,由于問(wèn)題和知識(shí)的多樣性和復(fù)雜性,知識(shí)圖譜問(wèn)答仍然是一項(xiàng)具有挑戰(zhàn)的任務(wù),尤其是在多跳的問(wèn)答中,許多研究者在這方面進(jìn)行了許多嘗試。

    多跳問(wèn)題主要分為兩類,一類是路徑問(wèn)題,另一類是聯(lián)合問(wèn)題。路徑問(wèn)題指的是問(wèn)題中只包含一個(gè)主題實(shí)體,但是含有多個(gè)關(guān)系,這類問(wèn)題的解決需要沿著圖譜中的某些線路遍歷才能找到問(wèn)題的答案(借助一些關(guān)系和中間實(shí)體);聯(lián)合問(wèn)題則是包含多個(gè)主題實(shí)體,這類問(wèn)題的答案可能是多個(gè)路徑問(wèn)題結(jié)果的交集。語(yǔ)義解析方法、深度學(xué)習(xí)答案排序以及知識(shí)圖譜嵌入的方法不能有效地解決多條復(fù)雜問(wèn)題,如圖6。

    圖6 多跳問(wèn)題

    Zhang 等人[94]的方法是將多跳問(wèn)答分為兩個(gè)步驟:一是通過(guò)概率模型來(lái)識(shí)別問(wèn)句中的實(shí)體(得到圖譜中每個(gè)實(shí)體是問(wèn)句中實(shí)體的概率);二是設(shè)計(jì)了一種邏輯推理模型,提出了一種嵌入推理圖的體系結(jié)構(gòu),其中包含了所有推理規(guī)則及其復(fù)雜性,在知識(shí)圖譜上做邏輯推理。Zhou 等人[95]針對(duì)多跳提出了一種新的可解釋推理網(wǎng)絡(luò)模型,該模型采用可解釋的逐跳推理過(guò)程來(lái)回答問(wèn)題。該模型動(dòng)態(tài)地決定輸入問(wèn)題的某部分應(yīng)該對(duì)應(yīng)圖譜中的某一跳進(jìn)行分析;預(yù)測(cè)與當(dāng)前解析結(jié)果相對(duì)應(yīng)的關(guān)系;利用預(yù)測(cè)的關(guān)系更新問(wèn)題表示和推理過(guò)程的狀態(tài);然后驅(qū)動(dòng)下一跳推理。Vakulenko 等人[96]提出了一種新的方法使用無(wú)監(jiān)督消息傳遞(Message passing)來(lái)解決復(fù)雜問(wèn)題,首先識(shí)別實(shí)體、關(guān)系和類名,并將其映射到圖中的對(duì)應(yīng)項(xiàng),從而定位答案實(shí)體。最后,根據(jù)確定的問(wèn)題類型對(duì)這些問(wèn)題進(jìn)行聚合。這種方法可以借助一系列稀疏矩陣乘法來(lái)模擬小型局部子圖上的連接實(shí)現(xiàn)。

    多跳推理的問(wèn)答是當(dāng)前的研究難點(diǎn)與熱點(diǎn)問(wèn)題,還有許多的工作需要去做。

    7 基于知識(shí)圖譜問(wèn)答系統(tǒng)研究機(jī)遇與挑戰(zhàn)

    問(wèn)答系統(tǒng)早就存在,從2011年Siri,到Google Now、語(yǔ)音助手、智能音箱等本質(zhì)上都是問(wèn)答系統(tǒng)。問(wèn)答系統(tǒng)在日常生活中幫人們導(dǎo)航、搜索問(wèn)題,偶爾與用戶交互聊天,讓生活越來(lái)越方便。智能時(shí)代職業(yè)場(chǎng)所及公共場(chǎng)所中人們每天面對(duì)大量數(shù)據(jù)、海量信息及知識(shí)更新,“懂行”的“專家助手”成為剛需。知識(shí)圖譜用于描述真實(shí)世界中存在的實(shí)體和概念,以及實(shí)體和概念之間的關(guān)系,可通過(guò)人工方式構(gòu)建或定義行業(yè)領(lǐng)域的知識(shí)體系,基于此開(kāi)發(fā)各種高級(jí)應(yīng)用,智能問(wèn)答便是應(yīng)用之一。

    基于知識(shí)圖譜的問(wèn)答系統(tǒng),研究方法很多,其中基于深度學(xué)習(xí)的答案排序法略顯優(yōu)勢(shì)。但是依然存在不足:缺乏泛化性、可解釋性,對(duì)時(shí)序性問(wèn)題不能很好回答,例如:“現(xiàn)在誰(shuí)統(tǒng)治丹麥?”。本章結(jié)合智能問(wèn)答系統(tǒng)研究中遇到的問(wèn)題,總結(jié)尚需解決的關(guān)鍵問(wèn)題。

    7.1 回答復(fù)雜問(wèn)題

    現(xiàn)有的基于知識(shí)圖譜的問(wèn)答技術(shù),在單一問(wèn)題上已取得非常好的效果,如:BERT模型實(shí)驗(yàn)。然而,在實(shí)際問(wèn)答場(chǎng)景下,用戶的問(wèn)題往往復(fù)雜,現(xiàn)有的基于深度學(xué)習(xí)的知識(shí)圖譜問(wèn)答方法受到挑戰(zhàn),復(fù)雜問(wèn)題研究仍有很大提升空間。一旦問(wèn)題中存在多種關(guān)系與實(shí)體,或者存在潛在關(guān)系,甚至在開(kāi)放性領(lǐng)域,如CCKS 評(píng)測(cè)中的一個(gè)問(wèn)題“我現(xiàn)在餓了,數(shù)據(jù)庫(kù)里有什么吃的?”,現(xiàn)有的方法的效果不盡人意。

    7.2 深度推理機(jī)制

    現(xiàn)有的知識(shí)圖譜規(guī)模日趨龐大,能覆蓋多個(gè)領(lǐng)域,但是仍面臨信息缺失問(wèn)題,知識(shí)圖譜構(gòu)建是項(xiàng)大工程。面向問(wèn)答的深度推理顯示出作用,傳統(tǒng)的基于符號(hào)的推理需要嚴(yán)格符號(hào)匹配,推理規(guī)則有限,以致領(lǐng)域適應(yīng)性差,無(wú)法實(shí)現(xiàn)大規(guī)模推理。但是,深度學(xué)習(xí)作用于分布式語(yǔ)義表示,可以利用語(yǔ)義空間中的相似度計(jì)算,彌補(bǔ)符號(hào)推理需要嚴(yán)格規(guī)則的缺陷。所以,如何利用深度學(xué)習(xí)的大規(guī)模、可學(xué)習(xí)優(yōu)點(diǎn)、融入傳統(tǒng)邏輯推理規(guī)則,構(gòu)建精準(zhǔn)的大規(guī)模知識(shí)推理引擎是自動(dòng)問(wèn)答系統(tǒng)迫切需要解決的又一個(gè)熱點(diǎn)問(wèn)題。

    7.3 多輪交互式問(wèn)答

    傳統(tǒng)的問(wèn)答系統(tǒng)大多采用一問(wèn)一答的形式,但是現(xiàn)實(shí)應(yīng)用場(chǎng)景中,用戶與機(jī)器之間需要多輪交互,由此反饋給用戶的答案不只是單一的實(shí)體、概念、關(guān)系等形式,需要考慮到先前的對(duì)話對(duì)即將發(fā)生的對(duì)話的影響或者當(dāng)前的對(duì)話可能對(duì)后續(xù)對(duì)話造成的影響。除此之外,還需要采用用戶理解的自然語(yǔ)言形式回復(fù)問(wèn)題。在這一過(guò)程中,如何結(jié)合知識(shí)庫(kù),將知識(shí)庫(kù)問(wèn)答的答案加入自然語(yǔ)言回復(fù)中,是亟待解決的問(wèn)題。

    7.4 長(zhǎng)尾問(wèn)句挑戰(zhàn)

    問(wèn)句的長(zhǎng)尾(long tail)的問(wèn)題也是近年來(lái)研究的熱點(diǎn)問(wèn)題,長(zhǎng)尾問(wèn)句是指在問(wèn)答數(shù)據(jù)上,少量表示相同意思,出現(xiàn)頻率高的問(wèn)句在整個(gè)數(shù)據(jù)集中占有大部分的比例。將問(wèn)句以柱狀圖的形式展示就會(huì)有很長(zhǎng)的“尾巴”,尾巴上都是一些出現(xiàn)頻率不高的問(wèn)句。例如在數(shù)據(jù)集中與“ehr系統(tǒng)包含什么功能”意思相近的問(wèn)句有“ehr系統(tǒng)有哪些功能”“ehr 系統(tǒng)有什么功能”“ehr 系統(tǒng)能實(shí)現(xiàn)什么功能”。如果數(shù)據(jù)集大部分都是相似的問(wèn)句,這就會(huì)導(dǎo)致數(shù)據(jù)集的特征比較單一,學(xué)習(xí)的模型泛化能力不強(qiáng)。這就可能需要使用一些其他的算法來(lái)增強(qiáng)模型的泛化能力。

    8 結(jié)束語(yǔ)

    智能時(shí)代來(lái)臨,海量信息充斥在社會(huì)每個(gè)角落,用戶對(duì)自動(dòng)問(wèn)答需求越來(lái)越強(qiáng)烈,現(xiàn)有的問(wèn)答系統(tǒng)還處在起步階段,僅具備最基本的智能與推理能力。人工智能專家在智能問(wèn)答領(lǐng)域的研究從未中斷過(guò),基于知識(shí)圖譜的問(wèn)答系統(tǒng)作為自動(dòng)問(wèn)答研究的重要方向,其技術(shù)發(fā)展趨勢(shì)從限定領(lǐng)域向開(kāi)放領(lǐng)域發(fā)展,從單一數(shù)據(jù)源向多元數(shù)據(jù)源發(fā)展,從淺層語(yǔ)義分析向深度推理發(fā)展。本文關(guān)于知識(shí)圖譜智能問(wèn)答研究綜述期望相關(guān)技術(shù)早突破,開(kāi)拓不同行業(yè)智能問(wèn)答應(yīng)用需求。

    猜你喜歡
    圖譜實(shí)體語(yǔ)義
    繪一張成長(zhǎng)圖譜
    語(yǔ)言與語(yǔ)義
    前海自貿(mào)區(qū):金融服務(wù)實(shí)體
    實(shí)體的可感部分與實(shí)體——兼論亞里士多德分析實(shí)體的兩種模式
    補(bǔ)腎強(qiáng)身片UPLC指紋圖譜
    中成藥(2017年3期)2017-05-17 06:09:01
    兩會(huì)進(jìn)行時(shí):緊扣實(shí)體經(jīng)濟(jì)“釘釘子”
    振興實(shí)體經(jīng)濟(jì)地方如何“釘釘子”
    主動(dòng)對(duì)接你思維的知識(shí)圖譜
    “上”與“下”語(yǔ)義的不對(duì)稱性及其認(rèn)知闡釋
    認(rèn)知范疇模糊與語(yǔ)義模糊
    色视频www国产| 最新在线观看一区二区三区| 久久久久精品国产欧美久久久| 精品国内亚洲2022精品成人| 婷婷亚洲欧美| 日韩免费av在线播放| 又黄又粗又硬又大视频| 757午夜福利合集在线观看| 午夜福利在线观看免费完整高清在 | 国产美女午夜福利| 午夜精品久久久久久毛片777| 女警被强在线播放| 99久久精品国产亚洲精品| 久久久久国产一级毛片高清牌| 欧美国产日韩亚洲一区| 亚洲第一欧美日韩一区二区三区| 国产真实乱freesex| 最近在线观看免费完整版| 国产高清视频在线观看网站| 欧美性猛交╳xxx乱大交人| 琪琪午夜伦伦电影理论片6080| or卡值多少钱| 18禁裸乳无遮挡免费网站照片| 国产成人av教育| 丰满人妻熟妇乱又伦精品不卡| 淫妇啪啪啪对白视频| 色综合欧美亚洲国产小说| 两人在一起打扑克的视频| 99久久综合精品五月天人人| www.精华液| 两个人看的免费小视频| 日本三级黄在线观看| 天堂网av新在线| 亚洲人成网站高清观看| 一级毛片女人18水好多| 亚洲午夜理论影院| 在线国产一区二区在线| 国产精品98久久久久久宅男小说| 夜夜看夜夜爽夜夜摸| 看黄色毛片网站| 麻豆国产av国片精品| 亚洲国产精品成人综合色| 嫩草影院精品99| 俄罗斯特黄特色一大片| 噜噜噜噜噜久久久久久91| 90打野战视频偷拍视频| 少妇人妻一区二区三区视频| 18禁观看日本| 久久久国产欧美日韩av| 欧美av亚洲av综合av国产av| 午夜福利18| 热99在线观看视频| 一进一出好大好爽视频| 免费av毛片视频| 欧美一区二区国产精品久久精品| 亚洲av第一区精品v没综合| 亚洲国产欧美一区二区综合| 国产亚洲欧美98| 丰满人妻熟妇乱又伦精品不卡| 观看免费一级毛片| 熟妇人妻久久中文字幕3abv| 少妇熟女aⅴ在线视频| 日本黄大片高清| 精品电影一区二区在线| 国产蜜桃级精品一区二区三区| 久久久久久久久久黄片| 一区福利在线观看| 一进一出好大好爽视频| 亚洲av成人av| 91av网站免费观看| 俺也久久电影网| 法律面前人人平等表现在哪些方面| 脱女人内裤的视频| 国产成人精品久久二区二区免费| 国产成+人综合+亚洲专区| 免费在线观看影片大全网站| 久久久久久大精品| 99久国产av精品| 欧美精品啪啪一区二区三区| 久久久成人免费电影| 一边摸一边抽搐一进一小说| 欧洲精品卡2卡3卡4卡5卡区| 日本黄色视频三级网站网址| 国产黄a三级三级三级人| 成人性生交大片免费视频hd| 9191精品国产免费久久| 美女午夜性视频免费| 欧美zozozo另类| 老司机午夜福利在线观看视频| 两性午夜刺激爽爽歪歪视频在线观看| 久久精品夜夜夜夜夜久久蜜豆| 国产精品 国内视频| 精品久久久久久久久久久久久| 在线观看免费视频日本深夜| 国产av不卡久久| 可以在线观看的亚洲视频| 国产精品野战在线观看| 少妇人妻一区二区三区视频| 这个男人来自地球电影免费观看| 啦啦啦观看免费观看视频高清| 91字幕亚洲| 亚洲狠狠婷婷综合久久图片| 成熟少妇高潮喷水视频| 精品国产超薄肉色丝袜足j| 99精品欧美一区二区三区四区| 后天国语完整版免费观看| 国产1区2区3区精品| 波多野结衣高清无吗| 国产精品爽爽va在线观看网站| 99久久精品国产亚洲精品| 一个人看视频在线观看www免费 | 亚洲精品美女久久av网站| 成人性生交大片免费视频hd| 老司机深夜福利视频在线观看| 中文字幕人成人乱码亚洲影| 亚洲成av人片免费观看| 9191精品国产免费久久| 国产蜜桃级精品一区二区三区| 给我免费播放毛片高清在线观看| 欧美高清成人免费视频www| 午夜福利18| 欧美在线一区亚洲| 久久午夜综合久久蜜桃| 神马国产精品三级电影在线观看| 最近最新中文字幕大全免费视频| 真实男女啪啪啪动态图| 人人妻,人人澡人人爽秒播| 国产黄色小视频在线观看| 国产精品久久电影中文字幕| 亚洲色图av天堂| 91麻豆精品激情在线观看国产| 成年人黄色毛片网站| 国产伦精品一区二区三区四那| 久久久久亚洲av毛片大全| 日韩欧美免费精品| 国产人伦9x9x在线观看| 午夜视频精品福利| 男女之事视频高清在线观看| 欧美大码av| 18禁观看日本| 国产精品久久视频播放| 中文字幕av在线有码专区| 亚洲国产精品999在线| 国产精品久久视频播放| 亚洲国产日韩欧美精品在线观看 | 精品免费久久久久久久清纯| 黑人欧美特级aaaaaa片| 一级a爱片免费观看的视频| 色精品久久人妻99蜜桃| 国产亚洲精品av在线| 国产又色又爽无遮挡免费看| tocl精华| 国产毛片a区久久久久| 色吧在线观看| 亚洲成a人片在线一区二区| 激情在线观看视频在线高清| 亚洲精品色激情综合| 国产麻豆成人av免费视频| 亚洲va日本ⅴa欧美va伊人久久| 久久婷婷人人爽人人干人人爱| 毛片女人毛片| 久久久久国产精品人妻aⅴ院| 亚洲激情在线av| 一进一出抽搐动态| 网址你懂的国产日韩在线| 88av欧美| 99久国产av精品| 亚洲成人免费电影在线观看| 国产一区二区三区在线臀色熟女| av女优亚洲男人天堂 | 婷婷六月久久综合丁香| 午夜免费成人在线视频| 亚洲18禁久久av| 免费大片18禁| 嫁个100分男人电影在线观看| 亚洲成人精品中文字幕电影| av中文乱码字幕在线| 午夜福利18| 国产av不卡久久| 日本 欧美在线| 欧美成狂野欧美在线观看| 亚洲国产中文字幕在线视频| 亚洲国产欧美网| 国产男靠女视频免费网站| 欧美黄色片欧美黄色片| a级毛片在线看网站| 精品久久久久久久久久久久久| ponron亚洲| 51午夜福利影视在线观看| 国产 一区 欧美 日韩| 此物有八面人人有两片| 两性夫妻黄色片| 亚洲无线观看免费| 亚洲av成人av| 国产高清videossex| 久久久久久九九精品二区国产| 国产黄色小视频在线观看| 日本一本二区三区精品| 99re在线观看精品视频| 99久久国产精品久久久| 熟女电影av网| 国产精品精品国产色婷婷| 欧美国产日韩亚洲一区| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲国产色片| 九九在线视频观看精品| 91在线精品国自产拍蜜月 | 午夜两性在线视频| 两个人视频免费观看高清| 亚洲人成网站高清观看| 草草在线视频免费看| 国产美女午夜福利| 精品国产超薄肉色丝袜足j| 少妇裸体淫交视频免费看高清| 亚洲国产中文字幕在线视频| 国产乱人视频| 久久午夜亚洲精品久久| 国产精品99久久99久久久不卡| 久久香蕉国产精品| 最新美女视频免费是黄的| 亚洲美女黄片视频| tocl精华| 99视频精品全部免费 在线 | 欧美三级亚洲精品| 一个人观看的视频www高清免费观看 | 黄色 视频免费看| 51午夜福利影视在线观看| 国内精品久久久久精免费| 亚洲国产看品久久| 97超级碰碰碰精品色视频在线观看| 久久国产精品影院| 观看美女的网站| 亚洲在线观看片| 美女免费视频网站| 国产美女午夜福利| 夜夜看夜夜爽夜夜摸| 18禁美女被吸乳视频| 亚洲欧美日韩高清在线视频| 欧美午夜高清在线| 欧美成人免费av一区二区三区| 久久久久久九九精品二区国产| 欧美黑人巨大hd| 久久精品国产综合久久久| 99热只有精品国产| 国产精品 欧美亚洲| 人人妻,人人澡人人爽秒播| 国产亚洲av嫩草精品影院| 两性午夜刺激爽爽歪歪视频在线观看| 天天添夜夜摸| 看片在线看免费视频| 色综合亚洲欧美另类图片| 欧美丝袜亚洲另类 | 免费在线观看亚洲国产| 悠悠久久av| 亚洲国产欧美一区二区综合| 亚洲最大成人中文| 中文字幕熟女人妻在线| 国产精品电影一区二区三区| 男女床上黄色一级片免费看| 级片在线观看| 少妇丰满av| 亚洲成人久久爱视频| 亚洲欧美精品综合一区二区三区| 51午夜福利影视在线观看| 免费一级毛片在线播放高清视频| 亚洲国产欧洲综合997久久,| 伦理电影免费视频| 男人舔女人下体高潮全视频| 久久久久国产一级毛片高清牌| 国产爱豆传媒在线观看| 国产亚洲av嫩草精品影院| 国产精品一区二区三区四区免费观看 | 国产伦人伦偷精品视频| netflix在线观看网站| 国产成年人精品一区二区| 成人三级做爰电影| 亚洲国产精品999在线| 一进一出抽搐动态| 欧美一区二区精品小视频在线| 性色avwww在线观看| 亚洲自偷自拍图片 自拍| 国产成人福利小说| 亚洲在线自拍视频| 99热只有精品国产| 最近最新中文字幕大全电影3| 国产真人三级小视频在线观看| x7x7x7水蜜桃| 日韩免费av在线播放| 国产精华一区二区三区| 久久国产精品影院| 午夜福利在线观看吧| 日本熟妇午夜| 免费大片18禁| 一本综合久久免费| 舔av片在线| 国产av麻豆久久久久久久| 97超视频在线观看视频| 中文字幕最新亚洲高清| 精品国产美女av久久久久小说| 久久久久性生活片| 曰老女人黄片| e午夜精品久久久久久久| aaaaa片日本免费| 网址你懂的国产日韩在线| 亚洲精品色激情综合| 麻豆国产av国片精品| 99久久精品一区二区三区| 亚洲av成人不卡在线观看播放网| 国产成年人精品一区二区| 日本 欧美在线| 国产精品永久免费网站| 手机成人av网站| avwww免费| 18美女黄网站色大片免费观看| 国产精品一区二区免费欧美| 欧美日韩黄片免| 国产成年人精品一区二区| 国产欧美日韩一区二区精品| 久久久久久久久中文| 嫩草影视91久久| 亚洲七黄色美女视频| 色av中文字幕| 三级男女做爰猛烈吃奶摸视频| 国产精品,欧美在线| 久9热在线精品视频| netflix在线观看网站| 亚洲美女视频黄频| 欧美日韩一级在线毛片| 国产av不卡久久| 99精品欧美一区二区三区四区| 国产精品久久久久久精品电影| 99国产精品一区二区蜜桃av| 久久国产精品人妻蜜桃| 国产野战对白在线观看| 日韩高清综合在线| 香蕉久久夜色| 亚洲精品粉嫩美女一区| svipshipincom国产片| 男女午夜视频在线观看| 好男人在线观看高清免费视频| 成人高潮视频无遮挡免费网站| 哪里可以看免费的av片| www.精华液| 女人高潮潮喷娇喘18禁视频| 18美女黄网站色大片免费观看| 免费在线观看日本一区| 中文字幕人成人乱码亚洲影| 亚洲人成伊人成综合网2020| 又紧又爽又黄一区二区| 长腿黑丝高跟| www国产在线视频色| 我的老师免费观看完整版| 男女视频在线观看网站免费| 一本综合久久免费| 久久久久久久久久黄片| 老司机福利观看| 久久久久久人人人人人| cao死你这个sao货| 美女被艹到高潮喷水动态| av欧美777| 三级毛片av免费| 91九色精品人成在线观看| 国产不卡一卡二| 这个男人来自地球电影免费观看| 国产探花在线观看一区二区| 伊人久久大香线蕉亚洲五| 男女视频在线观看网站免费| 久久精品亚洲精品国产色婷小说| 国产三级黄色录像| 九色国产91popny在线| 女人高潮潮喷娇喘18禁视频| 欧美成人一区二区免费高清观看 | www.自偷自拍.com| 国产成人影院久久av| 一区二区三区国产精品乱码| 国产成人系列免费观看| 成年人黄色毛片网站| 成人高潮视频无遮挡免费网站| 亚洲精品国产精品久久久不卡| 国产日本99.免费观看| 女同久久另类99精品国产91| 欧美日韩中文字幕国产精品一区二区三区| 少妇的丰满在线观看| 亚洲成人免费电影在线观看| 亚洲av日韩精品久久久久久密| 色综合欧美亚洲国产小说| 三级男女做爰猛烈吃奶摸视频| 欧美日韩中文字幕国产精品一区二区三区| 国产激情久久老熟女| 国产精品久久久久久久电影 | 免费观看人在逋| 蜜桃久久精品国产亚洲av| 精品电影一区二区在线| cao死你这个sao货| 一级毛片高清免费大全| 午夜福利欧美成人| 女警被强在线播放| 一二三四在线观看免费中文在| 国产一区二区在线av高清观看| 美女扒开内裤让男人捅视频| 精品电影一区二区在线| 午夜免费激情av| 午夜两性在线视频| 国产真实乱freesex| 亚洲专区中文字幕在线| 老司机午夜十八禁免费视频| 美女大奶头视频| 欧美一级毛片孕妇| 久久这里只有精品中国| 最新美女视频免费是黄的| 深夜精品福利| 一级毛片精品| 听说在线观看完整版免费高清| 国产精品99久久久久久久久| 久久亚洲真实| 午夜福利在线观看免费完整高清在 | 他把我摸到了高潮在线观看| 高潮久久久久久久久久久不卡| АⅤ资源中文在线天堂| 欧美日本视频| 国产成人精品久久二区二区91| 亚洲精品一卡2卡三卡4卡5卡| 亚洲五月婷婷丁香| 一进一出抽搐gif免费好疼| 无人区码免费观看不卡| 亚洲美女黄片视频| 亚洲国产精品久久男人天堂| 中文字幕人妻丝袜一区二区| 亚洲国产欧美网| 国产伦人伦偷精品视频| 在线观看66精品国产| 丝袜人妻中文字幕| 1000部很黄的大片| 久久久久性生活片| 国内揄拍国产精品人妻在线| 国产又黄又爽又无遮挡在线| 国产精品九九99| 亚洲av片天天在线观看| 日本a在线网址| 国产精品乱码一区二三区的特点| 亚洲九九香蕉| 亚洲国产日韩欧美精品在线观看 | 国产淫片久久久久久久久 | 天堂影院成人在线观看| 一二三四社区在线视频社区8| 精品久久久久久久人妻蜜臀av| 久久中文字幕一级| 老熟妇乱子伦视频在线观看| 成年人黄色毛片网站| 又粗又爽又猛毛片免费看| xxxwww97欧美| avwww免费| 两个人看的免费小视频| 亚洲av电影在线进入| 搞女人的毛片| 这个男人来自地球电影免费观看| 日本一本二区三区精品| 五月玫瑰六月丁香| 亚洲国产欧美网| 日本a在线网址| 国产亚洲av高清不卡| 后天国语完整版免费观看| 久久久久亚洲av毛片大全| 国产视频内射| 国产精品久久久人人做人人爽| 高潮久久久久久久久久久不卡| 中文字幕熟女人妻在线| 国语自产精品视频在线第100页| 一本久久中文字幕| 久久久久亚洲av毛片大全| 成人三级做爰电影| 五月玫瑰六月丁香| 国产午夜精品论理片| cao死你这个sao货| 麻豆久久精品国产亚洲av| 精品无人区乱码1区二区| 美女午夜性视频免费| 九色国产91popny在线| 成人特级av手机在线观看| 欧美乱色亚洲激情| 免费看十八禁软件| 成人国产一区最新在线观看| 欧美成人免费av一区二区三区| 国产精品免费一区二区三区在线| 99国产精品99久久久久| 国产精品精品国产色婷婷| 国产乱人伦免费视频| 欧美色视频一区免费| 人人妻,人人澡人人爽秒播| 精品99又大又爽又粗少妇毛片 | 国产亚洲精品一区二区www| 老鸭窝网址在线观看| 免费在线观看影片大全网站| 少妇的丰满在线观看| 18禁国产床啪视频网站| 欧美成狂野欧美在线观看| 亚洲真实伦在线观看| 欧美国产日韩亚洲一区| 久久久久久国产a免费观看| 免费看光身美女| 日本一二三区视频观看| 最好的美女福利视频网| av黄色大香蕉| 欧美性猛交黑人性爽| 亚洲国产精品合色在线| 麻豆国产av国片精品| 国产成人系列免费观看| 淫妇啪啪啪对白视频| 国产精品女同一区二区软件 | 国产成人一区二区三区免费视频网站| 男女下面进入的视频免费午夜| 亚洲人成网站高清观看| 香蕉丝袜av| 中文亚洲av片在线观看爽| 午夜激情欧美在线| 黄色女人牲交| 午夜日韩欧美国产| 欧美黑人巨大hd| 国产爱豆传媒在线观看| 蜜桃久久精品国产亚洲av| 19禁男女啪啪无遮挡网站| www日本在线高清视频| 久久久色成人| 啦啦啦免费观看视频1| 久久久精品大字幕| 少妇裸体淫交视频免费看高清| 日韩中文字幕欧美一区二区| 在线看三级毛片| 精品国产美女av久久久久小说| 亚洲中文日韩欧美视频| 18美女黄网站色大片免费观看| 欧美+亚洲+日韩+国产| 午夜成年电影在线免费观看| 久久久国产精品麻豆| 免费av不卡在线播放| 午夜激情福利司机影院| 国产免费av片在线观看野外av| 在线国产一区二区在线| 亚洲精品久久国产高清桃花| 男人舔奶头视频| 国内久久婷婷六月综合欲色啪| 淫秽高清视频在线观看| 国产精品亚洲一级av第二区| 国产亚洲欧美98| 日韩欧美三级三区| 亚洲一区二区三区不卡视频| 一本久久中文字幕| 久久久国产欧美日韩av| 亚洲欧美日韩高清在线视频| 岛国在线免费视频观看| 日本免费一区二区三区高清不卡| 日本三级黄在线观看| or卡值多少钱| 国产精品久久久久久久电影 | 在线十欧美十亚洲十日本专区| 欧美色视频一区免费| 国产不卡一卡二| 天堂av国产一区二区熟女人妻| 亚洲精华国产精华精| 国产精品影院久久| 国产 一区 欧美 日韩| 免费观看人在逋| 麻豆久久精品国产亚洲av| 校园春色视频在线观看| 九九热线精品视视频播放| 黑人巨大精品欧美一区二区mp4| 夜夜夜夜夜久久久久| 日本精品一区二区三区蜜桃| 免费在线观看视频国产中文字幕亚洲| 1024手机看黄色片| 亚洲国产看品久久| 色综合婷婷激情| 男插女下体视频免费在线播放| 成人三级黄色视频| 免费在线观看日本一区| 嫩草影院入口| 欧美日本亚洲视频在线播放| 亚洲在线观看片| 免费人成视频x8x8入口观看| 久久久久亚洲av毛片大全| xxx96com| 亚洲精品中文字幕一二三四区| 欧美一区二区精品小视频在线| 亚洲第一电影网av| 91av网站免费观看| 一区二区三区高清视频在线| 丰满人妻熟妇乱又伦精品不卡| 久久中文字幕一级| 99久久久亚洲精品蜜臀av| 一卡2卡三卡四卡精品乱码亚洲| 综合色av麻豆| 国产午夜福利久久久久久| 婷婷丁香在线五月| 午夜福利免费观看在线| 久久精品91蜜桃| 校园春色视频在线观看| or卡值多少钱| 国产一级毛片七仙女欲春2| 亚洲国产中文字幕在线视频| 成在线人永久免费视频| 人妻夜夜爽99麻豆av| 色尼玛亚洲综合影院| 日韩欧美免费精品| ponron亚洲| 最新美女视频免费是黄的| 欧美成人性av电影在线观看| 精品电影一区二区在线| 最新美女视频免费是黄的| 岛国在线免费视频观看| 国产精品久久久久久亚洲av鲁大| 99热这里只有是精品50| 久久亚洲真实| 亚洲成人精品中文字幕电影| 国产av麻豆久久久久久久| 高清毛片免费观看视频网站|