• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    融合回答者排序得分的CQA答案摘要方法

    2023-11-01 11:48:26劉艷超徐廣義鄧忠瑩
    關(guān)鍵詞:排序語義實(shí)驗

    丁 邱, 嚴(yán) 馨 ,*, 劉艷超, 徐廣義, 鄧忠瑩

    1.昆明理工大學(xué) 信息工程與自動化學(xué)院, 云南 昆明 650504;2.昆明理工大學(xué) 云南省人工智能重點(diǎn)實(shí)驗室, 云南 昆明 650504;3.湖北工程學(xué)院 信息技術(shù)中心, 湖北 孝感 432000;4.云南南天電子信息產(chǎn)業(yè)股份有限公司, 云南 昆明 650040

    答案摘要方法能夠?qū)⒍鄠€冗長、質(zhì)量參差不齊的答案整合為一個簡短、貼合問題的摘要提供給用戶,避免用戶再花費(fèi)大量時間和精力從冗長答案中尋找有效信息,提升用戶體驗。問答社區(qū)答案摘要的研究還有利于抽取高質(zhì)量問答對,有利于海量問答資源的再利用[1]。

    早期LIU Yuanjie等[2]對答案進(jìn)行聚類,然后對每個簇中的答案進(jìn)行排序,再從每個簇中抽取重要答案得到摘要結(jié)果。選取幾個答案構(gòu)成摘要的算法,所得摘要語序通順、邏輯連貫,但是冗余度較高。為了降低摘要冗余度,學(xué)者們開始選取更小的文本元素,例如句子構(gòu)成摘要。REN Zhaochun等[3]針對非事實(shí)類問題的答案具有多樣性、稀疏性和簡短性的問題,提出利用稀疏編碼的摘要方法。FAN Qiaoqing等[4]為了降低摘要冗余,提出基于關(guān)鍵詞抽取的摘要算法,利用TextRank生成關(guān)鍵詞,再運(yùn)用AMRR的思想選取摘要句。SONG Hongya等[5]使用卷積神經(jīng)網(wǎng)絡(luò)模型得到句子表示,然后使用稀疏編碼框架估計句子的顯著性,運(yùn)用MMR算法依據(jù)句子顯著性抽取句子生成答案摘要。應(yīng)文豪等[6]應(yīng)用卷積神經(jīng)網(wǎng)絡(luò)獲取句子表示,然后利用句子相似度、位置等特征抽取摘要句。蘇放等[7]發(fā)現(xiàn)摘要中的文字往往出現(xiàn)在原文本的句首位置,因此使用注意力機(jī)制給予句首更高的權(quán)重。侯麗微等[8]針對現(xiàn)有利用注意力機(jī)制的摘要模型多數(shù)將注意力分布到全部文本內(nèi)容中,沒有區(qū)分主題信息重要程度的問題,提出利用注意力機(jī)制關(guān)注主題關(guān)鍵詞信息,融合關(guān)鍵詞信息和文本語義信息引導(dǎo)摘要生成。陶興等[9]針對學(xué)術(shù)問答社區(qū)用戶生成內(nèi)容的摘要任務(wù),使用word2vec得到句子向量,使用MMR算法依據(jù)句子間的相似度選取摘要句,并提出用信息熵、相似度與信息質(zhì)量評估摘要算法的性能,解決學(xué)術(shù)問答社區(qū)缺少人工生成標(biāo)準(zhǔn)摘要的困境。DENG Yang等[10]提出分層比較聚合的方法,經(jīng)過詞級與句級比較聚合后得到問答的最終表示,再使用以問題為驅(qū)動的序列抽取器抽取摘要句。YADAV等[11]利用基于相關(guān)性的排序模型T5[12]選取相關(guān)性較高的句子構(gòu)成答案摘要。

    直接對答案句進(jìn)行特征抽取與建模,在一定程度上改善了答案文本語言信息稀疏的問題,但要充分獲取到答案句中豐富的語義信息有一定難度?,F(xiàn)有方法仍然存在對答案句建模不夠充分,未能獲取到句子深層語義信息的問題。此外,現(xiàn)有方法主要圍繞答案與問題、答案與答案間交互建模選取摘要句,沒有考慮回答者相關(guān)因素對摘要的影響。而根據(jù)回答者歷史表現(xiàn)能夠判斷該用戶提供的答案是否是一個潛在的高質(zhì)量回答,有利于摘要方法找出高質(zhì)量答案句,提升摘要質(zhì)量。為了充分獲取答案句、問題文本的深層語義信息,并在摘要過程中融入回答者的相關(guān)信息,進(jìn)一步改善答案摘要質(zhì)量,本文提出融合回答者排序得分的CQA答案摘要方法(CQA answer summarization method integrating respondents ranking scores,ASIED)。

    1 模型構(gòu)建

    綜合句子相關(guān)性、句子新穎性和回答者排序得分選取摘要句,既考慮了答案與問題、答案與答案間的關(guān)系,還融入了回答者相關(guān)信息幫助摘要模型找出潛在優(yōu)質(zhì)回答。本文方法主要包含4個部分:預(yù)處理,句子編碼,句子評分,選取摘要句。圖1是本文方法的總體架構(gòu)。

    圖1 融合回答者排序得分的CQA答案摘要方法總體架構(gòu)

    1.1 預(yù)處理

    預(yù)處理階段需要將問題對應(yīng)的所有答案進(jìn)行句子劃分,得到答案句集合,并整理答案對應(yīng)的回答者列表,以便后續(xù)部分的實(shí)現(xiàn)。

    假設(shè)問題q擁有m個答案,那么對應(yīng)回答者列表即為(u1,u2,…,um),對問題下的m個答案進(jìn)行句子劃分得到答案句集合S=(S1,S2,…,SN),其中N為m個答案劃分后句子的數(shù)量。

    1.2 句子編碼

    直接對句子進(jìn)行建模,在一定程度上對答案文本語言信息稀疏的問題有所改善,但是要充分獲取到句子的深層語義信息還是有一定難度。

    RoBERTa[13]是BERT的一個變體,從模型的具體細(xì)節(jié)、訓(xùn)練策略和數(shù)據(jù)3個層面對BERT進(jìn)行了優(yōu)化。原始的RoBERTa采用的是字覆蓋的方法訓(xùn)練中文語料,字覆蓋的方式會忽略中文分詞的作用,基于全詞覆蓋(Whole Word Mask)的中文預(yù)訓(xùn)練模型RoBERTa-wwm[14]解決了這一缺陷。該模型由多層Transformer構(gòu)成,是一個深度雙向語言表征模型,輸入文本序列時還融合了每個token的位置信息,能夠捕獲文本中字符的上下文信息,可獲取更為豐富的深層特征。使用RoBERTa-wwm獲取句子每個字的字向量,然后再對句子的字向量矩陣進(jìn)行平均池化得到句向量作為句子的最終表示,解決了句子深層語義信息難以獲取的問題。平均池化就是對句子的字向量矩陣進(jìn)行融合,將其降維為句向量,并保留了句子中的所有信息。

    1.3 句子評分

    受多文檔摘要方法[15]和單文檔摘要方法[16]啟發(fā),綜合句子相關(guān)性、句子新穎性和回答者排序得分選取摘要句,使摘要方法性能得到提升。句子相關(guān)性有利于找出那些貼近問題,與問題內(nèi)容相關(guān)的答案句。句子新穎性有利于降低答案摘要冗余度,即在句子冗余時分配低分,在句子新穎時分配高分。回答者排序得分,則從用戶本身出發(fā)考慮其歷史表現(xiàn)情況,若其在問題對應(yīng)領(lǐng)域有一個較好表現(xiàn)則得分高,反之則得分低。用戶在問題領(lǐng)域中有較好的歷史表現(xiàn),極有可能為該問題提供高質(zhì)量的答案,則該用戶提供的答案應(yīng)該給予更多關(guān)注。

    1.3.1 句子相關(guān)性得分

    1.3.2 句子新穎性得分

    為了降低摘要冗余度,使用句子新穎性得分給予那些高冗余的句子低分,即那些與其他句子重復(fù)度較高的句子將獲得低分,反之則獲得高分。要計算句子Si新穎性得分,首先需要計算句子Si與其余答案句的相似度,計算公式為

    式中,sim(Si,Sj)表示答案句Si與Sj的相似度。

    如果句子Si與其余句子求相似度,所得最大相似度sim(Si,Sj)小于閾值τ,則句子Si為新穎的。若最大相似度大于閾值τ,并且句子Si與問題q相關(guān)性更高,則句子Si也為新穎的。計算如下:

    其中,l是其余句子中與句子Si求得最大相似度的句子索引。為了確定閾值τ,使用50對句子進(jìn)行相似度計算,其中25對為相似的,25對為不相似的。通過實(shí)驗發(fā)現(xiàn)相似句子對的相似度范圍為[0.82,0.97],其均值為0.92,不相似句子對中最大相似度為0.84,故將閾值τ設(shè)為0.92。

    1.3.3 回答者排序得分

    如果回答者在問題領(lǐng)域擁有不錯的歷史表現(xiàn),那么回答者提供的答案極有可能是一個高質(zhì)量的答案,摘要過程中應(yīng)該給予有較優(yōu)表現(xiàn)的回答者的答案更多關(guān)注。專家推薦方法[17]能從社區(qū)中為新問題找出潛在的優(yōu)質(zhì)回答者,得到一個回答者排序列表,排序靠前的用戶擁有較高專業(yè)度。使用專家推薦模型DUM[18]對問題的回答者進(jìn)行排序,得到回答者排序列表,即依據(jù)回答者們的歷史表現(xiàn),判斷他們提供的回答是否為一個潛在的優(yōu)質(zhì)回答。

    使用專家推薦模型將問題q下的回答者(u1,u2,…,um)進(jìn)行排序,獲得回答者排序列表(u2,um,…,u1)。依據(jù)排序列表求出回答者排序得分,

    式中,ui為問題q的第i個回答者。p(ui)為回答者ui在排序列表中的位置,起始值為1。m為問題q回答者的數(shù)量。scoreSort(ui)的取值范圍是[0.5,1],之所以將其最小值設(shè)置為0.5,是因為排在靠后的回答者提供的答案也可能是不錯的答案,只是靠前的回答者提供的答案是優(yōu)質(zhì)回答的概率更大。

    1.4 選取摘要句

    計算得到句子相關(guān)性得分scoreContR(q,Si)、句子新穎性得分scoreNov(Si)和回答者排序得分scoreSort(ui)后,綜合3個評分標(biāo)準(zhǔn)計算句子最終得分,計算公式為

    scoreFinal(Si)=α·scoreContR(q,Si)+β·scoreNov(Si)+γ·scoreSort(ui),

    式中,ui就是為問題q提供答案句Si的回答者,α,β,γ∈[0,1],α+β+γ=1,通過α、β、γ依照3個評分標(biāo)準(zhǔn)在摘要過程中的重要性為其分配不同的權(quán)重。

    使用MMR算法依據(jù)句子最終得分迭代抽取句子構(gòu)成摘要,直到達(dá)到摘要長度上限。抽取摘要句的MMR算法為

    式中,q指要進(jìn)行答案摘要的問題,S是問題q下所有答案進(jìn)行句子劃分后所得的答案句集合,Si是答案句集合S中還未被選取的句子;C為已抽取得到的摘要句集合,c是摘要句集合中的一個摘要句,Clen為摘要長度上限;λ為一個常數(shù),取值范圍在0到1之間;sim(Si,c)是句子Si與已抽取的摘要句c的相似度。

    迭代抽取答案句拼接得到摘要結(jié)果,直到達(dá)到摘要長度上限時停止抽取句子。利用MMR算法思想選取摘要句,有利于保證摘要的多樣性。

    2 實(shí)驗及結(jié)果分析

    2.1 數(shù)據(jù)集

    本文搜集整理了一個天涯問答社區(qū)(http://wenda.tianya.cn)的中文數(shù)據(jù)集。該數(shù)據(jù)集包含問題、答案、提問者、回答者、提問時間、回答時間、回答是否為最佳答案、回答收到的點(diǎn)贊量等信息。對該數(shù)據(jù)集上符合答案摘要任務(wù)的問題進(jìn)行整理,人工生成參考摘要,對本文答案摘要方法進(jìn)行驗證。

    在本文數(shù)據(jù)集上對專家推薦模型DUM進(jìn)行訓(xùn)練。整理1 000個有參考摘要的問題,驗證本文方法有效性。數(shù)據(jù)集的大致情況見表1,其中DUM是指用于訓(xùn)練微調(diào)專家推薦模型的數(shù)據(jù)規(guī)模,而ASIED是指用于確認(rèn)本文方法涉及的超參值和性能驗證的數(shù)據(jù)規(guī)模。

    2.2 評價指標(biāo)

    使用自動文摘常用的ROUGE評測方法來評價摘要質(zhì)量,具體為ROUGE-1、ROUGE-2和ROUGE-L:

    式中,Rs指參考摘要,As指自動摘要結(jié)果,n代表n-gram的長度,Countmatch(gramn)指摘要結(jié)果與參考摘要匹配的n-gram個數(shù),Count(gramn)指參考摘要中包含的n-gram個數(shù),LCS(As,Rs)表示摘要結(jié)果與參考摘要的最長公共子序列長度,len(Rs)表示參考摘要長度。

    2.3 實(shí)驗設(shè)置

    實(shí)驗基于Pytorch深度學(xué)習(xí)框架實(shí)現(xiàn),句子編碼使用RoBERTa-wwm哈工大開源的Chinese-RoBERTa-wwm-ext-large(https://github.com/ymcui/Chinese-BERT-wwm)這個版本,編碼所得句子表示向量維度d為1 024。經(jīng)統(tǒng)計發(fā)現(xiàn),人工生成的1 000個問題的參考摘要平均長度為72.78個字,但人工生成的參考摘要對用戶冗長的表達(dá)進(jìn)行了提煉,為了保證摘要文本的多樣性,將答案摘要的長度限定為100個字,即超過100個字時停止抽取句子。

    在計算句子最終得分時,使用α、β、γ為三個評分標(biāo)準(zhǔn)分配不同的權(quán)重,為了得到較佳的權(quán)重分配,計算α、β、γ不同組合所得的ROUGE值,選取使得ROUGE值最大的組合作為α、β、γ最終取值。α,β,γ∈[0.2,0.4,0.6],α+β+γ=1一共可以得到6組可行的組合。從人工生成參考摘要的問題中隨機(jī)選取800個進(jìn)行實(shí)驗,在確定α、β、γ哪一組取值較優(yōu)的實(shí)驗中將λ取一個固定值。實(shí)驗發(fā)現(xiàn)當(dāng)α=0.6,β=0.2,γ=0.2時,ROUGE取得最大值,因此將其作為較佳的權(quán)重分配進(jìn)行后續(xù)的實(shí)驗。不同組合所得實(shí)驗結(jié)果見表2。為了確定MMR算法中λ取值,對λ取0.1~0.9不同值進(jìn)行實(shí)驗,實(shí)驗結(jié)果見表3。實(shí)驗發(fā)現(xiàn)λ為0.7時ROUGE取得了最大值,因此將λ設(shè)為0.7。

    表2 α、β、γ不同取值實(shí)驗對比結(jié)果

    表3 λ不同取值實(shí)驗對比結(jié)果

    2.4 對比實(shí)驗

    2.4.1 不同句子編碼方法對比實(shí)驗

    word2vec:使用word2vec獲取句子的詞向量矩陣,然后將句子的詞向量矩陣求平均得到句子表示。

    Skip-Thought[19]:利用中心句預(yù)測上下文的句子,該模型包含編碼器和解碼器兩部分,皆是GRU模型。使用Skip-Thought的編碼器對句子進(jìn)行編碼,得到句子表示。

    InferSent_GloVe[20]:使用GloVe獲取詞向量,在數(shù)據(jù)集SNLI(Stanford Natural Language Inference)上對LSTM、GRU等不同結(jié)構(gòu)進(jìn)行訓(xùn)練。選用該文獻(xiàn)中表現(xiàn)最優(yōu)的Bi-LSTM結(jié)合Max-pooling實(shí)現(xiàn)句子編碼進(jìn)行對比實(shí)驗。

    ELMo[21]:ELMo克服了word2vec的缺陷,根據(jù)文本語境對多義詞進(jìn)行理解,依據(jù)輸入序列上下文動態(tài)推斷每個詞的詞向量。使用ELMo獲取詞向量,然后對句子的詞向量矩陣求平均作為句子表示。

    XLNet[22]:XLNet利用自回歸語言模型本身的特點(diǎn)克服Bert的缺點(diǎn),主要采取排列語言模型、雙流自注意力和循環(huán)機(jī)制3個機(jī)制獲取雙向上下文信息。

    為了驗證與基于word2vec的句子編碼方法相比,使用RoBERTa-wwm對句子編碼能更好捕捉到句子的深層語義信息,分別使用word2vec、Skip-Thought、InferSent_GloVe、ELMo、XLNet、RoBERTa-wwm實(shí)現(xiàn)對句子編碼獲取問題和答案句表示,然后再按照本文方法選取摘要句進(jìn)行實(shí)驗。不同句子編碼方法實(shí)驗對比結(jié)果見表4,其中加粗的RoBERTa-wwm為本文句子編碼方法。

    表4 不同句子編碼方法實(shí)驗對比結(jié)果

    表4的實(shí)驗結(jié)果顯示RoBERTa-wwm編碼方法表現(xiàn)較好,較word2vec、Skip-Thought、InferSent_GloVe、ELMo、XLNet這幾個對比方法在ROUGE-1評價指標(biāo)上分別提升了12.75%、12.14%、11%、12.41%、5.1%??梢娕c基于word2vec的句子編碼方法相比,RoBERTa-wwm能捕捉到句子更豐富的深層語義信息。使用word2vec對句子進(jìn)行編碼,只考慮到詞局部的信息,忽略了上下文信息,使得獲取到的句子語義信息比較單調(diào)不夠全面。Skip-Thought、InferSent_GloVe分別基于GRU和Bi-LSTM對句子進(jìn)行編碼,考慮了上下文信息,但實(shí)際上是按順序推理的,沒辦法同時考慮到另一個方向的數(shù)據(jù),使得獲取到的語義信息還是不夠充分。ELMo可以說是動態(tài)的獲取詞向量,能夠依據(jù)詞的上下文語境理解詞的語義,一定程度上解決了一詞多義的問題,但其本質(zhì)上還是基于LSTM實(shí)現(xiàn)的,獲取的語義信息還是不夠深層和全面。BERT模型利用Transformer進(jìn)行編碼,綜合考慮兩個方向的信息,并且能學(xué)習(xí)到文本更深層的語義信息。XLNet可以說是BERT、GPT 2.0和Transformer XL的綜合變體,將三者的優(yōu)點(diǎn)集于一體,尤其是在長文本NLP任務(wù)上較BERT的性能優(yōu)勢會更為明顯。RoBERTa-wwm不僅保留了RoBERTa本身的優(yōu)勢,并且使用mask詞的方法能更好地捕捉詞與詞的邊界關(guān)系。表4的實(shí)驗結(jié)果也表明使用RoBERTa-wwm對句子進(jìn)行編碼,能獲取到更為豐富的語義信息,提升句子相關(guān)性計算的準(zhǔn)確度,改善答案摘要質(zhì)量。

    2.4.2 不同答案摘要方法對比實(shí)驗

    MMR[23]:依據(jù)句子和問題的相關(guān)性,利用MMR算法迭代選取摘要句。

    HSCM[10]:HSCM利用分層比較聚合的方法學(xué)習(xí)答案與問題、答案與答案間的交互,得到問題和答案句表示,使用以問題為驅(qū)動的序列器抽取摘要句。

    T5_sum[11]:利用基于相關(guān)性的排序模型T5依據(jù)答案句與問題的相關(guān)性排序答案句,選取靠前的句子構(gòu)成答案摘要。

    BART[24]:BART是基于Transformer吸納BERT和GPT優(yōu)點(diǎn)做出改進(jìn)的方法,其Seq2Seq架構(gòu)和預(yù)訓(xùn)練任務(wù)使得該模型可直接用于摘要任務(wù)。將每個原始答案輸入BART得到其對應(yīng)摘要,級聯(lián)所得摘要作為摘要結(jié)果。

    為了驗證本文方法在摘要任務(wù)中的性能表現(xiàn),將ASIED與MMR、HSCM、T5_sum、BART進(jìn)行實(shí)驗對比,對比結(jié)果見表5。

    表5 不同答案摘要方法實(shí)驗對比結(jié)果

    表5的實(shí)驗結(jié)果表明本文方法ASIED在問答社區(qū)的答案摘要任務(wù)中取得了不錯表現(xiàn),較MMR、HSCM、T5_sum、BART幾個摘要方法在ROUGE-1評價指標(biāo)上分別提升了11.45%、7.12%、3.56%、2.16%。傳統(tǒng)的MMR摘要方法依據(jù)句子與問題的相似度選取摘要句,考慮了答案句與問題的關(guān)聯(lián),能夠選取出貼近問題的摘要句,但是簡單的利用word2vec得到句子表示,沒能捕捉到句子深層的語義信息,使得摘要的質(zhì)量受到影響。HSCM模型不僅考慮了答案與問題間的關(guān)系,還進(jìn)一步考慮了答案與答案之間的關(guān)系,進(jìn)一步提升了摘要方法的性能。但是答案句與問題語言稀疏卻擁有豐富的語義信息,HSCM采用分層比較聚合獲取到的語義信息還是不夠充分,而使用RoBERTa-wwm模型能捕捉到句子更深層、更豐富的語義信息。ASIED在摘要過程中還融入了回答者的相關(guān)信息,進(jìn)一步改善了摘要質(zhì)量,較已有較優(yōu)表現(xiàn)的T5_sum和BART模型在ROUGE評分上皆有所提升。較T5_sum在ROUGE-1、ROUGE-2、ROUGE-L上分別提升了3.56%、3.19%、2.26%,較BART在ROUGE-1、ROUGE-2、ROUGE-L上分別提升了2.16%、1.85%、0.65%。

    2.5 消融實(shí)驗

    綜合句子相關(guān)性、句子新穎性和回答者排序得分選取摘要句,考慮了答案與問題、答案與答案間的關(guān)聯(lián),并利用專家推薦方法對回答者在對應(yīng)問題中是否有潛力提供優(yōu)質(zhì)回答進(jìn)行評估,幫助摘要模型選取高質(zhì)量答案句。為了驗證句子新穎性和回答者排序得分的有效性進(jìn)行了消融實(shí)驗,實(shí)驗結(jié)果見表6。表中ASIED-Nov表示僅依據(jù)句子相關(guān)性和回答者排序得分選取摘要句,不考慮句子新穎性;ASIED-UOrder表示僅依據(jù)句子相關(guān)性和句子新穎性選取摘要句,不考慮回答者排序得分。

    表6 消融實(shí)驗對比結(jié)果

    由表6發(fā)現(xiàn)去除句子新穎性和去除回答者排序得分ROUGE評價指標(biāo)均有所下降,去除句子新穎性這個標(biāo)準(zhǔn)后ROUGE-1下降了2.57%,選取的摘要句冗余度較高。去除回答者排序得分這個標(biāo)準(zhǔn)對摘要結(jié)果影響更大,ROUGE-1下降了4.1%??梢娋渥有路f性和回答者排序得分這兩個選取標(biāo)準(zhǔn)是有效的,有利于降低摘要的冗余度,找出潛在的高質(zhì)量答案句。句子相關(guān)性是毋庸置疑的,利用該標(biāo)準(zhǔn)才能選取出貼近問題的答案句。

    3 結(jié)語

    為了進(jìn)一步改善答案摘要的質(zhì)量,降低摘要冗余度,提出融合回答者排序得分的CQA答案摘要方法。采用RoBERTa-wwm結(jié)合平均池化對問題和答案句進(jìn)行編碼,解決了難以獲取句子深層語義信息的問題。使用擁有較優(yōu)表現(xiàn)的問答社區(qū)專家推薦方法DUM依據(jù)回答者歷史表現(xiàn)對回答者進(jìn)行排序。再根據(jù)排序結(jié)果計算回答者排序得分,與句子相關(guān)性、句子新穎性相結(jié)合作為選取摘要句的最終依據(jù)。綜合考慮了答案與問題、答案與答案間的關(guān)聯(lián)和回答者的相關(guān)信息,有效地改善了答案摘要質(zhì)量。實(shí)驗表明,在摘要過程融入回答者排序得分,有利于找出高質(zhì)量答案句,使用RoBERTa-wwm編碼句子能夠捕獲深層語義信息,提升句子相關(guān)性計算的準(zhǔn)確度。抽取句子級聯(lián)得到摘要結(jié)果,摘要邏輯連貫性還有待優(yōu)化,在未來的研究工作中考慮對這一缺點(diǎn)進(jìn)行深入研究,尋求改進(jìn)的方法。此外,問答社區(qū)中用戶的表達(dá)不是很規(guī)范,用語存在錯誤,例如少字多字、錯別字等,這些錯誤對摘要結(jié)果會產(chǎn)生極大影響。未來將考慮引入社交媒體規(guī)范化方法,對答案摘要之前的用戶文本進(jìn)行規(guī)范化處理。

    猜你喜歡
    排序語義實(shí)驗
    記一次有趣的實(shí)驗
    排序不等式
    恐怖排序
    語言與語義
    做個怪怪長實(shí)驗
    節(jié)日排序
    刻舟求劍
    兒童繪本(2018年5期)2018-04-12 16:45:32
    NO與NO2相互轉(zhuǎn)化實(shí)驗的改進(jìn)
    實(shí)踐十號上的19項實(shí)驗
    太空探索(2016年5期)2016-07-12 15:17:55
    “上”與“下”語義的不對稱性及其認(rèn)知闡釋
    一区二区三区激情视频| 天天躁狠狠躁夜夜躁狠狠躁| 在线免费观看的www视频| 国产精品av久久久久免费| 最近在线观看免费完整版| 欧美中文综合在线视频| 手机成人av网站| 熟女电影av网| 天堂动漫精品| 日本一二三区视频观看| 美女扒开内裤让男人捅视频| 又黄又粗又硬又大视频| 1000部很黄的大片| 老汉色av国产亚洲站长工具| 给我免费播放毛片高清在线观看| 亚洲在线自拍视频| 12—13女人毛片做爰片一| 宅男免费午夜| 一本久久中文字幕| 久久久久久久久免费视频了| 1000部很黄的大片| 久久久久久国产a免费观看| 国产伦人伦偷精品视频| 成熟少妇高潮喷水视频| 黄色成人免费大全| 国产精品一及| 美女cb高潮喷水在线观看 | 精品福利观看| 我的老师免费观看完整版| 国产精品久久久人人做人人爽| 欧美在线一区亚洲| 日本在线视频免费播放| 黑人巨大精品欧美一区二区mp4| 午夜福利欧美成人| 色精品久久人妻99蜜桃| 最新美女视频免费是黄的| 啦啦啦观看免费观看视频高清| 夜夜看夜夜爽夜夜摸| 热99在线观看视频| a在线观看视频网站| 亚洲男人的天堂狠狠| 久久久久国产精品人妻aⅴ院| 91字幕亚洲| 久久久水蜜桃国产精品网| 午夜精品在线福利| 久久热在线av| 日韩免费av在线播放| 床上黄色一级片| 久久久国产成人免费| 亚洲在线观看片| 成人特级黄色片久久久久久久| 国产精品久久久人人做人人爽| 欧美黑人巨大hd| 蜜桃久久精品国产亚洲av| 亚洲国产精品合色在线| 久久婷婷人人爽人人干人人爱| 夜夜爽天天搞| 国产人伦9x9x在线观看| 三级国产精品欧美在线观看 | 欧美高清成人免费视频www| 国产高清视频在线播放一区| 听说在线观看完整版免费高清| 国内精品久久久久久久电影| 国产毛片a区久久久久| 国产真人三级小视频在线观看| 搡老妇女老女人老熟妇| 国内久久婷婷六月综合欲色啪| 欧美日韩精品网址| 亚洲18禁久久av| 亚洲成av人片免费观看| 少妇的逼水好多| 波多野结衣高清无吗| 综合色av麻豆| 亚洲欧美精品综合久久99| 欧美乱色亚洲激情| 国产三级中文精品| 90打野战视频偷拍视频| 国产精品亚洲av一区麻豆| 国产成人精品久久二区二区免费| 大型黄色视频在线免费观看| 91av网站免费观看| 精品久久久久久久久久久久久| 又紧又爽又黄一区二区| 在线免费观看的www视频| 给我免费播放毛片高清在线观看| 99国产精品99久久久久| 搡老岳熟女国产| 两个人视频免费观看高清| 久久草成人影院| 757午夜福利合集在线观看| 午夜a级毛片| 嫩草影院入口| 99热精品在线国产| 男人舔女人的私密视频| 亚洲七黄色美女视频| 色综合欧美亚洲国产小说| 免费无遮挡裸体视频| 人人妻,人人澡人人爽秒播| 天天添夜夜摸| 国产v大片淫在线免费观看| 免费无遮挡裸体视频| 在线永久观看黄色视频| 午夜精品久久久久久毛片777| 国产欧美日韩精品一区二区| 免费在线观看影片大全网站| 香蕉丝袜av| 成人三级做爰电影| 国产视频一区二区在线看| 国产高清视频在线观看网站| 在线免费观看不下载黄p国产 | 淫秽高清视频在线观看| 亚洲精品456在线播放app | 亚洲av第一区精品v没综合| 狂野欧美激情性xxxx| 国内精品一区二区在线观看| 老汉色∧v一级毛片| 国产伦在线观看视频一区| 精品久久久久久久毛片微露脸| 久久人妻av系列| 欧美在线一区亚洲| 中亚洲国语对白在线视频| 国内精品久久久久久久电影| 国产 一区 欧美 日韩| 成人永久免费在线观看视频| 一区二区三区激情视频| 99国产极品粉嫩在线观看| 18禁国产床啪视频网站| 日本a在线网址| 在线观看日韩欧美| 国产精品永久免费网站| 一级毛片高清免费大全| 三级男女做爰猛烈吃奶摸视频| 欧美日本亚洲视频在线播放| 久久精品夜夜夜夜夜久久蜜豆| 免费人成视频x8x8入口观看| 久久久精品大字幕| 少妇人妻一区二区三区视频| 男插女下体视频免费在线播放| 99久久精品一区二区三区| 国产男靠女视频免费网站| 精品免费久久久久久久清纯| 中文字幕久久专区| 日韩成人在线观看一区二区三区| 丝袜人妻中文字幕| 黑人操中国人逼视频| 国产又色又爽无遮挡免费看| www.www免费av| 免费观看精品视频网站| 亚洲国产看品久久| 女警被强在线播放| 欧美日韩瑟瑟在线播放| АⅤ资源中文在线天堂| 欧美极品一区二区三区四区| 每晚都被弄得嗷嗷叫到高潮| 91av网站免费观看| 午夜久久久久精精品| 久久久久久九九精品二区国产| 日韩欧美免费精品| 一级毛片女人18水好多| 国产又色又爽无遮挡免费看| 亚洲色图 男人天堂 中文字幕| 黑人操中国人逼视频| 国产不卡一卡二| 黄片大片在线免费观看| 麻豆一二三区av精品| av国产免费在线观看| www.www免费av| 看片在线看免费视频| 2021天堂中文幕一二区在线观| 最近最新免费中文字幕在线| netflix在线观看网站| 日韩 欧美 亚洲 中文字幕| 国产亚洲av嫩草精品影院| 午夜日韩欧美国产| 丰满的人妻完整版| 成人鲁丝片一二三区免费| 麻豆成人av在线观看| 19禁男女啪啪无遮挡网站| 一进一出抽搐动态| 黑人欧美特级aaaaaa片| 色尼玛亚洲综合影院| 国产午夜精品久久久久久| 久久午夜亚洲精品久久| 午夜激情福利司机影院| 波多野结衣巨乳人妻| 亚洲 国产 在线| 成年女人永久免费观看视频| 99riav亚洲国产免费| 狂野欧美白嫩少妇大欣赏| 国产伦精品一区二区三区四那| 国产爱豆传媒在线观看| 久久香蕉国产精品| 1024手机看黄色片| 国产伦精品一区二区三区四那| 久久久久久九九精品二区国产| 国产一区二区在线av高清观看| 久久久国产成人免费| 国产欧美日韩精品一区二区| 午夜视频精品福利| 国产一区二区激情短视频| 成人性生交大片免费视频hd| 精品国产乱子伦一区二区三区| 精品国产亚洲在线| www.999成人在线观看| 成人av在线播放网站| 亚洲av中文字字幕乱码综合| 大型黄色视频在线免费观看| 淫秽高清视频在线观看| 在线免费观看不下载黄p国产 | av福利片在线观看| 他把我摸到了高潮在线观看| 男插女下体视频免费在线播放| 99热这里只有是精品50| 999精品在线视频| 日韩三级视频一区二区三区| 欧美日韩福利视频一区二区| 日日摸夜夜添夜夜添小说| 波多野结衣高清无吗| 极品教师在线免费播放| av片东京热男人的天堂| 久久精品国产综合久久久| 97碰自拍视频| 成人特级av手机在线观看| 在线看三级毛片| 熟妇人妻久久中文字幕3abv| 美女大奶头视频| 欧美zozozo另类| 欧美另类亚洲清纯唯美| 老司机在亚洲福利影院| 国产私拍福利视频在线观看| 桃红色精品国产亚洲av| 成人一区二区视频在线观看| 日韩欧美 国产精品| 成年女人永久免费观看视频| 国产成人一区二区三区免费视频网站| 精品久久久久久久人妻蜜臀av| 悠悠久久av| 久久久久久久午夜电影| 精品无人区乱码1区二区| 香蕉久久夜色| 久久久国产欧美日韩av| а√天堂www在线а√下载| 美女高潮的动态| 欧美日韩国产亚洲二区| 久久久国产欧美日韩av| 搡老妇女老女人老熟妇| 美女扒开内裤让男人捅视频| 免费av不卡在线播放| 草草在线视频免费看| 十八禁人妻一区二区| 午夜福利在线观看吧| 久久久久国产一级毛片高清牌| 婷婷亚洲欧美| 久久精品夜夜夜夜夜久久蜜豆| 性色avwww在线观看| 黑人欧美特级aaaaaa片| 久久精品91蜜桃| 日本精品一区二区三区蜜桃| 免费观看的影片在线观看| 欧美一级a爱片免费观看看| 12—13女人毛片做爰片一| 女生性感内裤真人,穿戴方法视频| 麻豆成人午夜福利视频| 国产探花在线观看一区二区| 国产乱人视频| 久久久精品欧美日韩精品| 老司机午夜十八禁免费视频| 91九色精品人成在线观看| 欧美av亚洲av综合av国产av| 香蕉丝袜av| 国产亚洲欧美98| 亚洲av成人一区二区三| 最好的美女福利视频网| 国内毛片毛片毛片毛片毛片| 国产麻豆成人av免费视频| 日韩欧美在线乱码| 村上凉子中文字幕在线| 日本a在线网址| 蜜桃久久精品国产亚洲av| 国产乱人伦免费视频| 色吧在线观看| 亚洲色图 男人天堂 中文字幕| 可以在线观看毛片的网站| 日本黄大片高清| 国产精品一区二区三区四区久久| 一边摸一边抽搐一进一小说| 国内久久婷婷六月综合欲色啪| 无限看片的www在线观看| 国产三级在线视频| 精品国产乱码久久久久久男人| 欧美丝袜亚洲另类 | 国产亚洲精品一区二区www| 亚洲精品一区av在线观看| 亚洲七黄色美女视频| 色尼玛亚洲综合影院| 午夜福利在线观看免费完整高清在 | 在线十欧美十亚洲十日本专区| 一区福利在线观看| 欧美xxxx黑人xx丫x性爽| 天天躁日日操中文字幕| 波多野结衣巨乳人妻| 成人av一区二区三区在线看| 欧美高清成人免费视频www| 97人妻精品一区二区三区麻豆| 黄片小视频在线播放| 精品欧美国产一区二区三| 欧美日本视频| 免费av毛片视频| tocl精华| 一个人看的www免费观看视频| 亚洲精品粉嫩美女一区| 国产高清三级在线| 国产精品一及| 国产精品 欧美亚洲| 人人妻,人人澡人人爽秒播| 免费搜索国产男女视频| 一个人看视频在线观看www免费 | 狂野欧美激情性xxxx| 亚洲成人久久性| 岛国在线免费视频观看| 超碰成人久久| 日本免费a在线| 99精品在免费线老司机午夜| 欧美黄色片欧美黄色片| 在线播放国产精品三级| 男女做爰动态图高潮gif福利片| 女人被狂操c到高潮| 久久久久久人人人人人| 久久久国产成人免费| 手机成人av网站| 日韩欧美免费精品| 午夜福利免费观看在线| 黑人欧美特级aaaaaa片| 亚洲,欧美精品.| 蜜桃久久精品国产亚洲av| 日韩成人在线观看一区二区三区| 桃色一区二区三区在线观看| 日本五十路高清| 久9热在线精品视频| 亚洲熟女毛片儿| 丰满的人妻完整版| 亚洲熟妇熟女久久| 午夜免费成人在线视频| 亚洲美女视频黄频| 精品久久久久久久毛片微露脸| 久久久久九九精品影院| 国产av一区在线观看免费| 小说图片视频综合网站| 黄片小视频在线播放| 欧美色视频一区免费| 欧美国产日韩亚洲一区| 在线观看66精品国产| 国产成+人综合+亚洲专区| 露出奶头的视频| 18禁美女被吸乳视频| 热99re8久久精品国产| 欧美一区二区国产精品久久精品| 一边摸一边抽搐一进一小说| 国产aⅴ精品一区二区三区波| 三级男女做爰猛烈吃奶摸视频| 日韩欧美国产一区二区入口| 国产高清有码在线观看视频| 成人18禁在线播放| 又粗又爽又猛毛片免费看| 中文字幕熟女人妻在线| 国产高清有码在线观看视频| 日韩欧美国产在线观看| 欧美三级亚洲精品| 成人特级av手机在线观看| 美女扒开内裤让男人捅视频| 日本熟妇午夜| 午夜福利高清视频| 黄色视频,在线免费观看| 日韩欧美在线二视频| 全区人妻精品视频| 丰满的人妻完整版| 中文字幕精品亚洲无线码一区| 国产激情欧美一区二区| 老熟妇仑乱视频hdxx| 悠悠久久av| 亚洲欧美日韩无卡精品| 国产精品自产拍在线观看55亚洲| 在线观看免费午夜福利视频| 成人欧美大片| 午夜福利欧美成人| 中亚洲国语对白在线视频| 欧美中文综合在线视频| 亚洲无线观看免费| 男女做爰动态图高潮gif福利片| 香蕉国产在线看| 欧美绝顶高潮抽搐喷水| 国产蜜桃级精品一区二区三区| 99在线视频只有这里精品首页| 看片在线看免费视频| 国产三级在线视频| 嫁个100分男人电影在线观看| 久久亚洲真实| 国产av一区在线观看免费| 亚洲国产日韩欧美精品在线观看 | 一级作爱视频免费观看| 日韩av在线大香蕉| 国产人伦9x9x在线观看| 亚洲欧美精品综合久久99| 少妇的丰满在线观看| 18美女黄网站色大片免费观看| 97人妻精品一区二区三区麻豆| 久久这里只有精品19| 黄色女人牲交| 国产伦在线观看视频一区| 国产亚洲av嫩草精品影院| 丰满人妻熟妇乱又伦精品不卡| 在线十欧美十亚洲十日本专区| 日韩免费av在线播放| 99国产综合亚洲精品| 亚洲男人的天堂狠狠| 在线观看免费视频日本深夜| 五月玫瑰六月丁香| 日韩有码中文字幕| 中文字幕av在线有码专区| 欧美+亚洲+日韩+国产| а√天堂www在线а√下载| 精品日产1卡2卡| 亚洲欧美日韩东京热| 国产精品av视频在线免费观看| 亚洲av熟女| 中出人妻视频一区二区| 一本综合久久免费| 嫩草影视91久久| 午夜亚洲福利在线播放| 老司机福利观看| 激情在线观看视频在线高清| 搡老岳熟女国产| 久久中文字幕人妻熟女| 国产日本99.免费观看| 国产午夜精品论理片| 精品国产三级普通话版| 亚洲五月天丁香| 亚洲欧洲精品一区二区精品久久久| 我的老师免费观看完整版| 国产精品自产拍在线观看55亚洲| 久久久国产成人精品二区| 精品福利观看| 国产成年人精品一区二区| 男人和女人高潮做爰伦理| 免费观看精品视频网站| av中文乱码字幕在线| 狠狠狠狠99中文字幕| 国产综合懂色| 老汉色∧v一级毛片| 18禁国产床啪视频网站| 美女大奶头视频| 丝袜人妻中文字幕| 99精品在免费线老司机午夜| 日韩欧美精品v在线| 色综合婷婷激情| 婷婷精品国产亚洲av在线| 91在线精品国自产拍蜜月 | 一本一本综合久久| 中文字幕高清在线视频| 午夜福利在线在线| 免费人成视频x8x8入口观看| 观看免费一级毛片| 波多野结衣高清无吗| 听说在线观看完整版免费高清| 色av中文字幕| ponron亚洲| 亚洲欧美一区二区三区黑人| 观看免费一级毛片| 久久久久亚洲av毛片大全| 亚洲五月天丁香| 免费一级毛片在线播放高清视频| 午夜福利18| 中亚洲国语对白在线视频| 啦啦啦观看免费观看视频高清| 午夜免费成人在线视频| 国产精品久久视频播放| 麻豆一二三区av精品| 又粗又爽又猛毛片免费看| 色播亚洲综合网| 91老司机精品| av国产免费在线观看| 桃红色精品国产亚洲av| 精品国产乱子伦一区二区三区| 男人舔奶头视频| 欧美zozozo另类| 人妻丰满熟妇av一区二区三区| 亚洲 国产 在线| 91av网站免费观看| 日韩欧美国产在线观看| 国产精品一区二区三区四区免费观看 | 久久中文字幕一级| 最新在线观看一区二区三区| 日本黄大片高清| 国产精华一区二区三区| 又黄又爽又免费观看的视频| 久久香蕉国产精品| xxx96com| 91麻豆精品激情在线观看国产| 亚洲avbb在线观看| 18禁黄网站禁片免费观看直播| 老司机午夜十八禁免费视频| 免费在线观看影片大全网站| 色精品久久人妻99蜜桃| 亚洲自偷自拍图片 自拍| 国产午夜精品久久久久久| 久久久久久久久免费视频了| 久久精品国产亚洲av香蕉五月| 国产成人欧美在线观看| 老熟妇仑乱视频hdxx| 亚洲色图 男人天堂 中文字幕| 国产精品久久久久久久电影 | 欧美激情在线99| 特级一级黄色大片| 久久中文字幕人妻熟女| 久久久久久久久中文| 国产精品爽爽va在线观看网站| 一级毛片高清免费大全| 国产一区二区激情短视频| 脱女人内裤的视频| 久久精品影院6| 淫妇啪啪啪对白视频| 亚洲激情在线av| 中文字幕最新亚洲高清| 精品国产三级普通话版| 精品99又大又爽又粗少妇毛片 | АⅤ资源中文在线天堂| 夜夜躁狠狠躁天天躁| 欧美午夜高清在线| 色尼玛亚洲综合影院| 欧美av亚洲av综合av国产av| xxxwww97欧美| 村上凉子中文字幕在线| 国产精品美女特级片免费视频播放器 | 美女午夜性视频免费| 99久久精品国产亚洲精品| 欧美又色又爽又黄视频| x7x7x7水蜜桃| 波多野结衣高清无吗| 精品无人区乱码1区二区| 国内少妇人妻偷人精品xxx网站 | 成年女人看的毛片在线观看| 色精品久久人妻99蜜桃| 一级黄色大片毛片| 男人的好看免费观看在线视频| 欧美日韩精品网址| 亚洲五月天丁香| 变态另类成人亚洲欧美熟女| 一边摸一边抽搐一进一小说| 日本成人三级电影网站| 色精品久久人妻99蜜桃| 变态另类成人亚洲欧美熟女| www.www免费av| 成年女人看的毛片在线观看| 男人的好看免费观看在线视频| av天堂中文字幕网| 两个人视频免费观看高清| 老熟妇乱子伦视频在线观看| 亚洲五月天丁香| h日本视频在线播放| 欧美xxxx黑人xx丫x性爽| 成年版毛片免费区| 啪啪无遮挡十八禁网站| 国产精品国产高清国产av| 国内毛片毛片毛片毛片毛片| netflix在线观看网站| 久久久精品欧美日韩精品| 日韩欧美在线乱码| 嫩草影院精品99| 久久久久免费精品人妻一区二区| 亚洲九九香蕉| 国产伦在线观看视频一区| 亚洲欧美一区二区三区黑人| 欧美高清成人免费视频www| 免费观看人在逋| 日本熟妇午夜| 夜夜爽天天搞| 小说图片视频综合网站| 国模一区二区三区四区视频 | 男女视频在线观看网站免费| 99视频精品全部免费 在线 | 精品国产超薄肉色丝袜足j| 99精品欧美一区二区三区四区| 欧美色欧美亚洲另类二区| 色在线成人网| 一卡2卡三卡四卡精品乱码亚洲| 久久这里只有精品中国| 久久热在线av| 婷婷亚洲欧美| 免费看十八禁软件| 成人av一区二区三区在线看| 精品无人区乱码1区二区| 亚洲欧美日韩无卡精品| 蜜桃久久精品国产亚洲av| 久久天堂一区二区三区四区| 男女那种视频在线观看| 欧美一区二区国产精品久久精品| 91在线观看av| 岛国在线免费视频观看| 在线观看66精品国产| av女优亚洲男人天堂 | 我要搜黄色片| 在线观看66精品国产| 国产精华一区二区三区| 97碰自拍视频| 国产v大片淫在线免费观看| 国产欧美日韩一区二区三| 午夜精品一区二区三区免费看| 99在线人妻在线中文字幕| 搡老熟女国产l中国老女人| 欧美激情在线99| 成人特级黄色片久久久久久久| 久99久视频精品免费| 好男人电影高清在线观看| 免费看日本二区| 一a级毛片在线观看|