• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    融合標(biāo)簽關(guān)系的法律文本多標(biāo)簽分類方法

    2022-03-11 02:46:04宋澤宇李德玉王素格
    模式識別與人工智能 2022年2期
    關(guān)鍵詞:集上標(biāo)簽語義

    宋澤宇 李 旸 李德玉,3 王素格,3

    近年來,深度學(xué)習(xí)的發(fā)展使司法大數(shù)據(jù)越來越受到人們的關(guān)注,催生出很多面向司法領(lǐng)域的應(yīng)用,智慧法院建設(shè)也被納入國家司法建設(shè)進(jìn)程.在司法領(lǐng)域,法官閱讀案情描述,依據(jù)相關(guān)法律條文,最終確定案件罪名.然而,在同一案件中,通常存在多個要素標(biāo)簽,這些標(biāo)簽的準(zhǔn)確識別與分類對于案情摘要、可解釋類案件推送等司法領(lǐng)域的實際業(yè)務(wù)具有重要的支撐作用.

    目前,學(xué)者們已提出許多方法用于解決多標(biāo)簽分類問題,主要是基于傳統(tǒng)機(jī)器學(xué)習(xí)方法,包含問題轉(zhuǎn)換方法和算法適應(yīng)方法兩類.

    問題轉(zhuǎn)換方法通過分解樣本集,將多標(biāo)簽分類任務(wù)轉(zhuǎn)換為傳統(tǒng)的多個單標(biāo)簽分類任務(wù),該策略與算法無關(guān).常見的是二元相關(guān)算法(Binary Correla-tion, BR)[1],核心思想是將每個標(biāo)簽視為一個單獨(dú)的二類變量,分別為每個標(biāo)簽訓(xùn)練一個二元分類器,不考慮標(biāo)簽間的相關(guān)性[2],但會造成預(yù)測性能下降.為了捕捉標(biāo)簽間的關(guān)系,標(biāo)簽集算法(Label Powerset, LP)將所有標(biāo)簽可能的組合取值視為一個新類,但是,由于標(biāo)簽的可能組合取值隨標(biāo)簽數(shù)指數(shù)增長,訓(xùn)練較復(fù)雜[3].分類器鏈算法(Classifier Chain, CC)以“鏈”的方式連接標(biāo)簽,一個標(biāo)簽的預(yù)測值可幫助預(yù)測另一個標(biāo)簽的不確定性,但只能捕捉標(biāo)簽的低階相關(guān)性[4].

    算法適應(yīng)方法是對已有算法進(jìn)行適當(dāng)變換,以適應(yīng)多標(biāo)簽分類問題.Elisseeff等[5]提出排序支持向量機(jī)(Rank-Support Vector Machine, Rank-SVM),采用基于多標(biāo)簽熵的決策樹進(jìn)行多標(biāo)簽分類.針對司法領(lǐng)域,Thompson[6]采用最近鄰算法和決策樹算法等,實現(xiàn)裁判文書的分類.針對罪名標(biāo)簽預(yù)測中的多標(biāo)簽問題,ulea等[7]采用支持向量機(jī)(SVM)進(jìn)行分類,并以犯罪事實、犯罪時間等作為特征,取得較優(yōu)效果.

    隨著深度學(xué)習(xí)的快速發(fā)展,各種神經(jīng)網(wǎng)絡(luò)模型開始用于多標(biāo)簽文本分類(Multi-label Text Classi-fication, MLTC)任務(wù)中.Conneau等[8]和Yao等[9]將多標(biāo)簽分類視為一系列單標(biāo)簽文本分類任務(wù).Reyes等[10]簡單地將單標(biāo)簽文本分類擴(kuò)展到MLTC.但是這種簡化往往使分類性能下降,原因之一是單標(biāo)簽文本分類不涉及標(biāo)簽依賴問題,而多標(biāo)簽文本分類任務(wù)中各標(biāo)簽之間可能存在語義依賴.另外,當(dāng)涉及某些標(biāo)簽的訓(xùn)練數(shù)據(jù)不足時,標(biāo)簽間的語義依賴作用更明顯[11].Liu等[12]設(shè)計極端多標(biāo)簽-卷積神經(jīng)網(wǎng)絡(luò)模型(Extreme Multi-label-CNN, XML-CNN),側(cè)重于文檔表示,忽略標(biāo)簽間的相關(guān)性.卷積神經(jīng)網(wǎng)絡(luò)-循環(huán)神經(jīng)網(wǎng)絡(luò)模型(Convolutional Neural Network-Recurrent Neural Network, CNN-RNN)[13]和序列生成模型(Sequence Generation Model, SGM)[14]使用循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)解碼器生成一系列可能的標(biāo)簽.在司法領(lǐng)域中,Ye等[15]從自然語言生成(Natural Language Generation, NLG)的角度,使用基于編碼端罪名標(biāo)簽的集合到集合(Sequence-to-Sequence, seq2seq)模型,生成判決觀點.

    雖然標(biāo)簽差異可通過關(guān)注解碼器的狀態(tài)捕捉,但任何兩個標(biāo)簽的相關(guān)性并不能通過固定的遞歸解碼器動態(tài)建模.Yang等[16]提出分層注意力網(wǎng)絡(luò)(Hierarchical Attention Network, HAN),使用分層注意的門控循環(huán)單元(Gate Recurrent Unit, GRU)進(jìn)行多標(biāo)簽文檔分類.Yang等[17]提出序列到集合(Sequence-to-Set, Seq2set)模型,利用集合的無序性,降低錯誤標(biāo)簽序列帶來的影響,不僅捕捉標(biāo)簽之間的相互關(guān)系,而且減少對標(biāo)簽序列的依賴,分類性能得到一定提高.在司法領(lǐng)域中,Luo等[18]使用注意力機(jī)制,將法律條文信息融入文本建模部分,用于輔助罪名預(yù)測的多標(biāo)簽文本分類.

    在實際應(yīng)用中,多標(biāo)簽文本分類任務(wù)中的標(biāo)簽具有語義信息,上述方法將標(biāo)簽看成原子符號,忽略關(guān)聯(lián)于標(biāo)簽的文本內(nèi)容的潛在知識.一些研究者希望利用標(biāo)簽信息捕獲單詞間的相似性和規(guī)律性.Du等[19]交互單詞表示和標(biāo)簽表示,獲得每個詞與標(biāo)簽的匹配得分,度量詞與標(biāo)簽的關(guān)聯(lián),但并未考慮不同標(biāo)簽應(yīng)關(guān)注不同文檔更深層語義表示.Byrd等[20]通過欠采樣標(biāo)簽類別對應(yīng)較多的文本、Chawla等[21]利用過采樣標(biāo)簽類別對應(yīng)較少的文本、Cui等[22]通過在損失函數(shù)中為“尾標(biāo)簽”分配較大權(quán)重的方式,處理標(biāo)簽分布極端不平衡的問題.

    多標(biāo)簽文本分類是研究單個篇章中存在多個標(biāo)簽的情況,從不同標(biāo)簽在篇章中的位置來看,語義關(guān)聯(lián)較強(qiáng)的標(biāo)簽往往在文本中距離較近.當(dāng)文本內(nèi)容較長時,復(fù)雜的標(biāo)簽語義關(guān)聯(lián)信息可能隱藏在繁雜或冗余的內(nèi)容中.此外,法律文本數(shù)據(jù)集上也同樣存在部分標(biāo)簽訓(xùn)練數(shù)據(jù)不足,導(dǎo)致標(biāo)簽分布不平衡的問題,即大量“尾部標(biāo)簽”僅包含在較少的正面文本中.因此,針對上述標(biāo)簽關(guān)聯(lián)的信息,并結(jié)合法律文本分類的角度,需要解決如下3方面的問題:1)如何從法律文本中充分捕獲細(xì)粒度的文本語義信息;2)如何從每個法律文本中提取與相應(yīng)標(biāo)簽相關(guān)的區(qū)別性信息;3)如何準(zhǔn)確挖掘法律標(biāo)簽之間的依賴性或相關(guān)性關(guān)系.

    為此,本文提出融合標(biāo)簽關(guān)系的法律文本多標(biāo)簽分類方法(Multi-label Classification of Legal Text with Fusion of Label Relations, MLC-FLR),利用圖卷積網(wǎng)絡(luò)(Graph Convolutional Network, GCN)的特征矩陣和相關(guān)矩陣,捕捉和探索標(biāo)簽之間的關(guān)鍵依賴關(guān)系,建立標(biāo)簽間的依賴結(jié)構(gòu).再利用不同樣本對于標(biāo)簽的關(guān)注度也不同這一特性,提出標(biāo)簽注意機(jī)制,從樣本內(nèi)容信息中識別與標(biāo)簽相關(guān)的文本表示.最后,將兩者結(jié)合并輸入到編碼器中進(jìn)行分類.在3個法律數(shù)據(jù)集上的實驗表明,本文方法性能較優(yōu).

    1 融合標(biāo)簽關(guān)系的法律文本多標(biāo)簽分類方法

    圖1 MLC-FLR框圖

    1.1 詞的向量化表示

    為了更好地表示文本內(nèi)容,使用預(yù)先訓(xùn)練的Bert模型實現(xiàn)每個詞的上下文感知表示[23].

    1.2 文本和標(biāo)簽的表示

    為了捕獲每個詞的前向和后向上下文語義,采用雙向長短時記憶網(wǎng)絡(luò)(Bi-directional Long-Short Term Memory, Bi-LSTM),獲得法律文本和標(biāo)簽的隱層語義表示.

    將法律文本的嵌入向量X=[x1,x2,…,xn]輸入Bi-LSTM,通過時刻i-1和輸入更新時刻i的隱層狀態(tài)分別為:

    1.3 標(biāo)簽圖

    已有研究表明,在多標(biāo)簽文本分類中,通常標(biāo)簽之間具有相關(guān)性,如何準(zhǔn)確捕獲隱藏在數(shù)據(jù)中的標(biāo)簽關(guān)系是多標(biāo)簽分類的重要問題.本文使用標(biāo)簽圖反映標(biāo)簽關(guān)系,設(shè)計基于鄰近度的相似標(biāo)簽圖構(gòu)造方法,用于模擬標(biāo)簽之間的相關(guān)關(guān)系.方法將每個標(biāo)簽視為一個節(jié)點,每個節(jié)點收集所有鄰居的特征以形成表示.每條邊反映節(jié)點之間的語義相關(guān)性:如果標(biāo)簽共現(xiàn),存在邊;否則,不存在邊.

    設(shè)標(biāo)簽圖G=(V,E),其中,V為節(jié)點集,每個節(jié)點表示一個標(biāo)簽,E為邊集,每個邊表示其連接的2個標(biāo)簽具有相關(guān)性,邊上的權(quán)重表示標(biāo)簽相關(guān)性的強(qiáng)弱.標(biāo)簽圖可用鄰接矩陣A∈Rk×k表示,Aij表示第i個標(biāo)簽和第j個標(biāo)簽的相關(guān)性大小.

    一個多標(biāo)簽文本數(shù)據(jù)集的標(biāo)簽圖可通過學(xué)習(xí)的方式獲得,具有k個節(jié)點vi∈V,邊(vi,vj)∈E,鄰接矩陣A,共現(xiàn)矩陣M∈Rk×k和頻率向量F∈Rk.通過數(shù)據(jù)驅(qū)動的方式建立鄰接矩陣.首先,利用樣本在訓(xùn)練集上的標(biāo)簽標(biāo)注統(tǒng)計所有標(biāo)簽對之間的出現(xiàn)次數(shù),得到共現(xiàn)矩陣M,頻率向量F,其中,k為標(biāo)簽數(shù),F(xiàn)i為標(biāo)簽i在訓(xùn)練集中的頻率.利用這個標(biāo)簽共現(xiàn)矩陣和頻率向量,可得到歸一化的鄰接矩陣A=M/F.這類似于相關(guān)矩陣如何內(nèi)置[24],除了不采用二值化.

    標(biāo)簽嵌入由標(biāo)簽共存圖確定,并捕獲由圖結(jié)構(gòu)定義的標(biāo)簽語義信息.圖卷積網(wǎng)絡(luò)(GCN)聚合所有相鄰節(jié)點的值以更新當(dāng)前節(jié)點.每個卷積層只處理一階鄰域信息.多階鄰域信息可通過堆疊幾個卷積層實現(xiàn).對于每個節(jié)點vi∈V,使用標(biāo)簽在經(jīng)過Bi-LSTM后得到最后一個隱層表示作為節(jié)點特征,標(biāo)簽集Y中的k個標(biāo)簽形成Hk×d,為了區(qū)分,記作M.標(biāo)簽嵌入可表示為

    H(l)=σ(AHlW0),H(l+1)=σ(AHlWl),

    其中,σ(·)表示激活函數(shù),A表示鄰接矩陣,Wl表示第l層的卷積權(quán)重.輸出H(l+1)為融合共現(xiàn)標(biāo)簽關(guān)系的特征表示.

    1.4 標(biāo)簽注意力機(jī)制

    由于多標(biāo)簽文本可由一個或多個標(biāo)簽進(jìn)行標(biāo)記,并且對于每個文本,具有與其對應(yīng)標(biāo)簽最相關(guān)的上下文,即一個文本中的單詞對每個標(biāo)簽的貢獻(xiàn)不同,因此,為了得到具有與標(biāo)簽相關(guān)的法律文本表示,本文設(shè)計標(biāo)簽注意力機(jī)制,更好地從每個法律文本中提取相應(yīng)標(biāo)簽的區(qū)別性信息.

    qj(e)=softmax(Vj(e,1),Vj(e,2),…,Vj(e,m)).

    然后將qj(e)按行進(jìn)行max運(yùn)算,并將得到所有最大值進(jìn)行拼接,得到最大相關(guān)矩陣:

    Bj=max(qj(1))⊕max(qj(2))⊕…⊕

    max(qj(n))∈Rn×1.

    將得到的Bj與1.2節(jié)得到的法律文本隱層表示Ht進(jìn)行點積,得到與標(biāo)簽yj相關(guān)的法律文本表示:

    同樣,針對法律文本與所有標(biāo)簽執(zhí)行上述過程,得到k個融合標(biāo)簽信息的法律文本表示,再將其拼接,可得

    至此,得到標(biāo)簽的圖表示H(l+1)和標(biāo)簽相關(guān)的文檔表示Mt,前者側(cè)重于標(biāo)簽內(nèi)容的表示,后者在一定程度上反映文本內(nèi)容與標(biāo)簽之間的語義關(guān)聯(lián),將兩者相乘并進(jìn)行分類:

    f=H(l+1)Mt.

    1.5 分類器的構(gòu)建

    利用標(biāo)簽注意力機(jī)制,獲得標(biāo)簽相關(guān)的法律文本表示f后,再通過全連接層和sigmoid函數(shù)構(gòu)建多標(biāo)簽分類器:

    其中,W為可訓(xùn)練模型參數(shù),sigmoid函數(shù)將輸出值轉(zhuǎn)化為概率.

    交叉熵?fù)p失可作為損失函數(shù),已被證明適用于多標(biāo)簽文本分類任務(wù)[25],具體公式如下:

    我的接近并最終投身文學(xué),近一甲子矣。在此漫漫歲月,雖無驕人成績,所幸終日矻矻,與文學(xué)相伴了一生。朋友曾與我談及一同起步的同行許多已巍然成樹,嘆息我等才情有限,始終不成氣候,最多算棵草而已,很沒勁。我同意他的比喻,卻不同意他的自卑。沒有長成樹木,長成了草,也是文學(xué)原野上的生命。而且,一粒種子,能長成一棵草,生動地活著,其實也并不容易。說樹不是一天長成的,草又何嘗不是?天時地利人和,一樣不能少。就一個寫作者而言,不說社會歷史那么高大上的原因了,僅僅稿件的發(fā)表就不知耗費(fèi)了編輯們多少辛勞。

    2 實驗及結(jié)果分析

    本文在NVIDIA 1080Ti上使用Pytorch完成實驗,GCN嵌入維度設(shè)為768維,批處理大小為8,Bert的詞向量維度為768維,在維基百科上進(jìn)行預(yù)訓(xùn)練,使用自適應(yīng)矩估計(Adaptive Moment Estimation, Adam)優(yōu)化器最小化最終目標(biāo)函數(shù),學(xué)習(xí)率為2e-5,設(shè)置失活率為0.5,降低過擬合的影響.

    2.1 實驗數(shù)據(jù)集及評價指標(biāo)

    本文的數(shù)據(jù)來源于2019 “中國法研杯”司法人工智能挑戰(zhàn)賽,該數(shù)據(jù)集來源于中國裁判文書網(wǎng),包括婚姻家庭(Divorce)、勞動爭議(Labor)和借款合同(Loan)領(lǐng)域.自行將數(shù)據(jù)集劃分為訓(xùn)練集、驗證集和測試集[26],數(shù)據(jù)集具體信息如表1所示.

    表1 數(shù)據(jù)集信息

    本文采用的評價指標(biāo)為漢明損失(Hamming Loss)、Macro-F1和Micro-F1.

    漢明損失評估被錯誤分類的標(biāo)簽對的個數(shù):

    數(shù)值越小表明模型分類能力越強(qiáng).

    Macro-F1先計算每個類別的F1值,再對所有類求平均值:

    Micro-F1先計算所有類別總的精確率和召回率,再計算F1值:

    其中,TPi表示被正確分類的正例,F(xiàn)Ni表示正例被錯分為負(fù)例,F(xiàn)Pi表示負(fù)例被錯分為正例.

    2.2 對比方法

    本文選擇如下5種對比方法.

    1)SGM[14].將多標(biāo)簽分類任務(wù)看作序列生成問題,不但考慮標(biāo)簽間的相關(guān)性,還自動獲取輸入文本的關(guān)鍵信息.

    2)SGM+GE[14].該方法是對SGM的改進(jìn),提出帶有全局嵌入(Global Embedding, GE)的解碼器結(jié)構(gòu).

    3)基于語義單元的多標(biāo)簽文本分類(Seman-tic-Unit-Based Dilated Convolution for Multi-label Text Classification, SU4MLC)[27].通過多層擴(kuò)展卷積產(chǎn)生更高層次的語義單位表示,并產(chǎn)生相應(yīng)的混合注意機(jī)制,在詞級和語義單位級提取信息.

    4)Seq2set[17].利用集合的無序性,降低錯誤的標(biāo)簽序列帶來的影響,不僅捕捉標(biāo)簽之間的相互關(guān)系,而且減少對標(biāo)簽序列的依賴.

    5)特定標(biāo)簽的注意力網(wǎng)絡(luò)(Label Specific Atten-tion Network, LSAN)[28].對于文檔內(nèi)容和標(biāo)簽文本,借助自注意力和標(biāo)簽注意力機(jī)制,學(xué)習(xí)特定于標(biāo)簽的文檔表示,最終有效集成這兩部分,提高最終預(yù)測性能.

    上述5種對比方法均采用原文代碼.

    2.3 實驗結(jié)果對比

    各方法在Divorce、Labor、Loan數(shù)據(jù)集上的實驗結(jié)果如表2所示,表中漢明損失值越小越好,Macro-F1、Micro-F1值越大越好,黑體數(shù)字為最優(yōu)結(jié)果.

    由表2可知,除去Loan數(shù)據(jù)集上的Micro-F1指標(biāo),MLC-FLR的其余指標(biāo)值均優(yōu)于其它方法,說明MLC-FLR對法律文書多標(biāo)簽分類的有效性.由于SGM、SGM+GE和MU4MLC的主體都是將多標(biāo)簽分類作為序列生成問題進(jìn)行處理,SGM+GE效果最優(yōu),其原因是SGM+GE加入全局嵌入,有效減少錯誤傳播.Seq2set的結(jié)果優(yōu)于SGM、SGM+GE和MU4MLC,是因為Seq2set利用集合的無序性,降低錯誤標(biāo)簽序列帶來的影響,較好地捕捉標(biāo)簽間的關(guān)系.相比SGM、SGM+GE、MU4MLC、Seq2set,LSAN的Macro-F1值有很大的提升,說明有效的集成標(biāo)簽語義和文檔內(nèi)容可提高分類性能.在3個數(shù)據(jù)集上,Micro-F1值均大于Macro-F1值,主要原因是數(shù)據(jù)類別不均衡造成的,樣本數(shù)目較多的類別結(jié)果影響整體性能.MLC-FLR的Micro-F1與Macro-F1差值最小,說明本文對少數(shù)類數(shù)據(jù)標(biāo)簽的標(biāo)注性能有所提升.

    在3個數(shù)據(jù)集上的標(biāo)簽頻率分布如圖2所示.由圖可知,Labor數(shù)據(jù)集上尾標(biāo)簽出現(xiàn)頻率大多分布在100次左右,Divorce數(shù)據(jù)集上標(biāo)簽頻率明顯高于Labor數(shù)據(jù)集.漢明損失用于衡量被錯誤標(biāo)記的標(biāo)簽個數(shù),只有少量尾標(biāo)簽的預(yù)測錯誤不會對漢明損失產(chǎn)生較大的影響,因此相比而言Labor數(shù)據(jù)集上的漢明損失值更低.

    圖2 標(biāo)簽頻率分布圖

    在Loan數(shù)據(jù)集上,MLC-FLR的Micro-F1值較低,原因如下:一方面,Loan數(shù)據(jù)集的大小明顯小于Divorce、Loan數(shù)據(jù)集,使方法不能充分學(xué)習(xí)標(biāo)簽的特征;另一方面,Loan數(shù)據(jù)集同樣含有相對較多的長尾標(biāo)簽,而MLC-FLR是基于訓(xùn)練集構(gòu)建標(biāo)簽之間的關(guān)系,對于不均衡且數(shù)據(jù)量較小的文本,構(gòu)建的共現(xiàn)矩陣較稀疏,影響最終結(jié)果.因此,采用隨機(jī)采樣的方式,從呈現(xiàn)長尾分布的數(shù)據(jù)樣本集中隨機(jī)重復(fù)抽取樣本(有放回),可得到更多的樣本.

    在數(shù)據(jù)是否增強(qiáng)的情況下,MLC-FLR在Loan數(shù)據(jù)集上的實驗結(jié)果如表3所示.由表可看出,在進(jìn)行少量數(shù)據(jù)增強(qiáng)的情況下,MLC-FLR取得不錯結(jié)果,從而證實上述分析的合理性.

    表3 數(shù)據(jù)是否增強(qiáng)時MLC-FLR的指標(biāo)值

    2.4 消融實驗結(jié)果

    MLC-FLR主要由2個協(xié)同工作的關(guān)鍵模塊組成,即標(biāo)簽圖嵌入模塊和標(biāo)簽注意力模塊.本節(jié)通過消融實驗驗證每個模塊的效果.

    為了證實每個模塊的重要性,定義LAM為去除標(biāo)簽圖嵌入模塊的模型,LAM-W為LAM中的詞嵌入采用Word2vec(Word to Vector)的模型,GCN-LAM-W為MLC-FLR中的詞嵌入采用Word2vec的模型.分別在3個數(shù)據(jù)集上進(jìn)行實驗,實驗結(jié)果如表4所示.

    由表4可看出,對比使用Bert作為詞嵌入的MLC-FLR和LAM,指標(biāo)值說明標(biāo)簽圖在實驗中的有效性,標(biāo)簽之間的關(guān)系形成的標(biāo)簽圖更有效地捕獲標(biāo)簽之間的關(guān)系,提升方法的分類能力.相比使用Word2vec作為詞嵌入的LAM-W和MLC-FLR-W,指標(biāo)值同樣表明MLC-FLR-W的分類效果優(yōu)于LAM-W,指標(biāo)值說明標(biāo)簽圖在分類中的重要性,而LAM-W更側(cè)重于捕獲文本信息,僅用于提取與相應(yīng)標(biāo)簽相關(guān)的區(qū)別性信息,而加入標(biāo)簽圖嵌入時可更有效地捕獲標(biāo)簽之間的關(guān)系,但同時二者都不可或缺,結(jié)合兩部分,才能有助于更好地提升方法的分類性能.

    表4 各方法在3個數(shù)據(jù)集上的消融實驗結(jié)果

    3 結(jié) 束 語

    針對多標(biāo)簽文本分類問題,本文提出融合標(biāo)簽關(guān)系的法律文本多標(biāo)簽分類方法(MLC-FLR).為了充分挖掘標(biāo)簽之間的相關(guān)關(guān)系,提出基于鄰近度的相似標(biāo)簽圖構(gòu)造方法,利用GCN得到標(biāo)簽的帶有關(guān)系特征的語義嵌入.此外,提出特定標(biāo)簽的注意力機(jī)制,用于獲取具有標(biāo)簽特征的文本表示,捕獲有用的標(biāo)簽特定信息.最終結(jié)合兩者用于分類.在3個法律數(shù)據(jù)集上的實驗結(jié)果說明本文方法的有效性.在對Loan數(shù)據(jù)集進(jìn)行分類時,MLC-FLR在Micro-F1值上并未取得最優(yōu)結(jié)果,經(jīng)過仔細(xì)分析發(fā)現(xiàn),該方法對于類似于Loan這樣的數(shù)據(jù)分布極不均衡的數(shù)據(jù)集或小樣本數(shù)據(jù)集,效果并不理想.因此,下一階段的任務(wù)主要是研究在數(shù)據(jù)分布不均衡或處理小樣本數(shù)據(jù)時,如何提升方法的分類性能.

    猜你喜歡
    集上標(biāo)簽語義
    Cookie-Cutter集上的Gibbs測度
    語言與語義
    鏈完備偏序集上廣義向量均衡問題解映射的保序性
    無懼標(biāo)簽 Alfa Romeo Giulia 200HP
    車迷(2018年11期)2018-08-30 03:20:32
    不害怕撕掉標(biāo)簽的人,都活出了真正的漂亮
    海峽姐妹(2018年3期)2018-05-09 08:21:02
    復(fù)扇形指標(biāo)集上的分布混沌
    “上”與“下”語義的不對稱性及其認(rèn)知闡釋
    標(biāo)簽化傷害了誰
    基于多進(jìn)制查詢樹的多標(biāo)簽識別方法
    認(rèn)知范疇模糊與語義模糊
    精品久久久久久久人妻蜜臀av| 久久精品国产清高在天天线| 91av网站免费观看| 美女 人体艺术 gogo| 欧洲精品卡2卡3卡4卡5卡区| 国产精品国产高清国产av| 此物有八面人人有两片| 变态另类丝袜制服| 一本久久中文字幕| 日韩欧美在线二视频| 国产精品亚洲美女久久久| 不卡一级毛片| 88av欧美| 精品久久久久久久末码| 日本在线视频免费播放| 亚洲最大成人中文| 国产精品久久久av美女十八| 亚洲欧美一区二区三区黑人| 国产亚洲欧美98| 看免费av毛片| 午夜福利高清视频| www.999成人在线观看| 狠狠狠狠99中文字幕| 老司机午夜十八禁免费视频| 色综合婷婷激情| 麻豆久久精品国产亚洲av| 国内揄拍国产精品人妻在线 | 午夜福利在线观看吧| 首页视频小说图片口味搜索| 日韩国内少妇激情av| www.自偷自拍.com| 国产一区二区在线av高清观看| 这个男人来自地球电影免费观看| 日韩欧美国产在线观看| 黄网站色视频无遮挡免费观看| 欧美黑人精品巨大| 18禁美女被吸乳视频| 国产日本99.免费观看| 成人一区二区视频在线观看| 亚洲全国av大片| 18禁国产床啪视频网站| 成人手机av| 国产精品永久免费网站| 午夜两性在线视频| 国产91精品成人一区二区三区| 男女视频在线观看网站免费 | 亚洲国产日韩欧美精品在线观看 | 国产97色在线日韩免费| 国产成人精品久久二区二区免费| 人人妻人人澡欧美一区二区| 精品免费久久久久久久清纯| 亚洲国产中文字幕在线视频| 日韩国内少妇激情av| 久久久国产欧美日韩av| 久久久久久久精品吃奶| 熟女少妇亚洲综合色aaa.| 国产成+人综合+亚洲专区| 午夜福利在线在线| or卡值多少钱| 成年女人毛片免费观看观看9| 国产亚洲精品av在线| 成人国产一区最新在线观看| 19禁男女啪啪无遮挡网站| tocl精华| 精品久久久久久久人妻蜜臀av| 午夜视频精品福利| or卡值多少钱| 欧美成人免费av一区二区三区| 91九色精品人成在线观看| 国产精品久久久久久亚洲av鲁大| 国产黄色小视频在线观看| 十分钟在线观看高清视频www| 午夜日韩欧美国产| 男人舔奶头视频| av有码第一页| 国产亚洲欧美98| 韩国av一区二区三区四区| 此物有八面人人有两片| 18禁美女被吸乳视频| 可以免费在线观看a视频的电影网站| 久久久久免费精品人妻一区二区 | 午夜精品在线福利| 久久 成人 亚洲| 国产精品综合久久久久久久免费| 成人免费观看视频高清| 亚洲成国产人片在线观看| 亚洲专区字幕在线| 国产野战对白在线观看| 色播亚洲综合网| 午夜成年电影在线免费观看| 亚洲 欧美 日韩 在线 免费| 哪里可以看免费的av片| 久久久精品国产亚洲av高清涩受| 国产熟女xx| 91成人精品电影| 亚洲九九香蕉| 亚洲avbb在线观看| 中文亚洲av片在线观看爽| 亚洲激情在线av| 亚洲精品久久国产高清桃花| 最新美女视频免费是黄的| 国产视频一区二区在线看| 18禁国产床啪视频网站| 热99re8久久精品国产| 看黄色毛片网站| 国产精品久久久久久亚洲av鲁大| 国产高清有码在线观看视频 | 最新美女视频免费是黄的| 日韩中文字幕欧美一区二区| 长腿黑丝高跟| 两人在一起打扑克的视频| 91九色精品人成在线观看| 波多野结衣av一区二区av| 亚洲欧美一区二区三区黑人| 国产又黄又爽又无遮挡在线| 久久婷婷成人综合色麻豆| 国产黄a三级三级三级人| 操出白浆在线播放| 超碰成人久久| 中文字幕人成人乱码亚洲影| 久久性视频一级片| 在线国产一区二区在线| 国产又色又爽无遮挡免费看| 禁无遮挡网站| 欧美最黄视频在线播放免费| 亚洲美女黄片视频| 久久亚洲真实| 久久青草综合色| 大型黄色视频在线免费观看| 18禁美女被吸乳视频| 亚洲男人的天堂狠狠| 国产精品免费视频内射| av有码第一页| 亚洲avbb在线观看| 国产精品亚洲一级av第二区| 哪里可以看免费的av片| 精品欧美一区二区三区在线| 一区二区三区激情视频| or卡值多少钱| 国产成人啪精品午夜网站| 变态另类成人亚洲欧美熟女| 免费高清视频大片| 性欧美人与动物交配| 美女国产高潮福利片在线看| 日本精品一区二区三区蜜桃| 久久久久久亚洲精品国产蜜桃av| 精品不卡国产一区二区三区| 欧美性猛交黑人性爽| 国产视频内射| 中文亚洲av片在线观看爽| 99在线人妻在线中文字幕| 黄色片一级片一级黄色片| 成人永久免费在线观看视频| 黄片小视频在线播放| 在线观看日韩欧美| 色婷婷久久久亚洲欧美| 亚洲av成人av| 性欧美人与动物交配| 少妇熟女aⅴ在线视频| 婷婷六月久久综合丁香| 女性被躁到高潮视频| 丰满的人妻完整版| 久久久精品国产亚洲av高清涩受| 在线观看66精品国产| 天堂动漫精品| 国产v大片淫在线免费观看| 国产精品99久久99久久久不卡| 日韩欧美三级三区| 国产97色在线日韩免费| 香蕉久久夜色| 亚洲第一青青草原| 很黄的视频免费| 不卡av一区二区三区| 色综合亚洲欧美另类图片| 真人一进一出gif抽搐免费| 亚洲av成人一区二区三| 黄色女人牲交| 免费在线观看亚洲国产| 国语自产精品视频在线第100页| 亚洲激情在线av| 亚洲成人久久爱视频| 国产伦在线观看视频一区| 午夜福利一区二区在线看| 1024手机看黄色片| 亚洲专区字幕在线| АⅤ资源中文在线天堂| 欧美中文综合在线视频| 国产一区二区三区视频了| 嫩草影院精品99| 校园春色视频在线观看| 欧美一区二区精品小视频在线| 国内毛片毛片毛片毛片毛片| 久久午夜综合久久蜜桃| 日韩成人在线观看一区二区三区| 国产av又大| av电影中文网址| 久久婷婷人人爽人人干人人爱| 一级作爱视频免费观看| 国产成+人综合+亚洲专区| 精品国产美女av久久久久小说| 久99久视频精品免费| 欧美激情久久久久久爽电影| 女生性感内裤真人,穿戴方法视频| 两人在一起打扑克的视频| 久热爱精品视频在线9| av有码第一页| 最新美女视频免费是黄的| 午夜福利在线在线| 香蕉国产在线看| 香蕉久久夜色| 国产精品,欧美在线| 精品一区二区三区四区五区乱码| 国产精品99久久99久久久不卡| 国产午夜精品久久久久久| www国产在线视频色| 欧美成人午夜精品| 欧美性猛交╳xxx乱大交人| 日本在线视频免费播放| 日韩成人在线观看一区二区三区| 最近最新免费中文字幕在线| 99久久综合精品五月天人人| 国产精品野战在线观看| 亚洲av成人不卡在线观看播放网| 男女之事视频高清在线观看| 精品久久蜜臀av无| 美女国产高潮福利片在线看| 久久狼人影院| 午夜亚洲福利在线播放| 婷婷丁香在线五月| av电影中文网址| 日本免费一区二区三区高清不卡| 88av欧美| 麻豆国产av国片精品| 欧美久久黑人一区二区| 久热爱精品视频在线9| 久久亚洲精品不卡| av在线天堂中文字幕| 国内精品久久久久久久电影| 亚洲中文日韩欧美视频| 国产精品综合久久久久久久免费| 老汉色av国产亚洲站长工具| 久久九九热精品免费| 日韩欧美国产在线观看| 在线观看66精品国产| 精品乱码久久久久久99久播| 99久久综合精品五月天人人| 日本五十路高清| 久久久久九九精品影院| 无限看片的www在线观看| 亚洲男人天堂网一区| 久久精品国产99精品国产亚洲性色| 日本黄色视频三级网站网址| 国产成人精品久久二区二区91| 国产激情欧美一区二区| 99热只有精品国产| 午夜成年电影在线免费观看| 美女大奶头视频| 99精品久久久久人妻精品| 成年版毛片免费区| 亚洲av第一区精品v没综合| 免费在线观看日本一区| 黄片小视频在线播放| 成年女人毛片免费观看观看9| 每晚都被弄得嗷嗷叫到高潮| 大香蕉久久成人网| 久久国产精品影院| 免费人成视频x8x8入口观看| 香蕉久久夜色| 久久精品影院6| 午夜成年电影在线免费观看| 啦啦啦免费观看视频1| 日韩有码中文字幕| 国产午夜福利久久久久久| 日本a在线网址| 免费一级毛片在线播放高清视频| 亚洲av美国av| 亚洲天堂国产精品一区在线| 午夜a级毛片| 免费在线观看亚洲国产| 999久久久国产精品视频| www.www免费av| www日本在线高清视频| 国产精品九九99| 正在播放国产对白刺激| 国产野战对白在线观看| 久99久视频精品免费| 国产亚洲精品久久久久久毛片| 免费观看人在逋| 国产99久久九九免费精品| 国产av一区二区精品久久| 在线av久久热| 最好的美女福利视频网| 无人区码免费观看不卡| 亚洲电影在线观看av| 亚洲av熟女| 国产亚洲精品综合一区在线观看 | 亚洲五月婷婷丁香| 日本成人三级电影网站| 国产精品久久久久久人妻精品电影| 亚洲国产欧美网| 欧美黑人欧美精品刺激| 久久热在线av| 国产欧美日韩一区二区三| 少妇的丰满在线观看| www.自偷自拍.com| 国产麻豆成人av免费视频| 一区二区三区激情视频| 麻豆av在线久日| 欧美绝顶高潮抽搐喷水| 欧美性猛交╳xxx乱大交人| 窝窝影院91人妻| 久久中文看片网| 熟女少妇亚洲综合色aaa.| 人人妻,人人澡人人爽秒播| 在线观看免费日韩欧美大片| 侵犯人妻中文字幕一二三四区| 性色av乱码一区二区三区2| 精品高清国产在线一区| 亚洲国产欧洲综合997久久, | 亚洲全国av大片| a在线观看视频网站| 国语自产精品视频在线第100页| 免费女性裸体啪啪无遮挡网站| 国产精品野战在线观看| 亚洲精品国产精品久久久不卡| 人人澡人人妻人| 一进一出好大好爽视频| 高清在线国产一区| 日韩欧美一区视频在线观看| 人妻久久中文字幕网| 波多野结衣av一区二区av| 国产成人av教育| 亚洲精品在线美女| 男人的好看免费观看在线视频 | 亚洲美女黄片视频| 欧美丝袜亚洲另类 | 亚洲国产高清在线一区二区三 | 国产精品野战在线观看| 亚洲av成人av| 精品国产乱子伦一区二区三区| 国产一卡二卡三卡精品| 亚洲国产精品久久男人天堂| 精品国产一区二区三区四区第35| 免费看日本二区| 此物有八面人人有两片| 美女 人体艺术 gogo| 日韩免费av在线播放| 欧美成狂野欧美在线观看| 国产精品亚洲一级av第二区| 一区二区三区精品91| 侵犯人妻中文字幕一二三四区| 夜夜爽天天搞| 日韩国内少妇激情av| 免费看美女性在线毛片视频| 欧美 亚洲 国产 日韩一| 视频区欧美日本亚洲| 窝窝影院91人妻| 哪里可以看免费的av片| 黄色毛片三级朝国网站| 成人免费观看视频高清| 国产亚洲精品av在线| 国产精品爽爽va在线观看网站 | 欧美黄色片欧美黄色片| 夜夜躁狠狠躁天天躁| 精品乱码久久久久久99久播| 国内精品久久久久精免费| 欧美黑人欧美精品刺激| 国产精品电影一区二区三区| 琪琪午夜伦伦电影理论片6080| 成人一区二区视频在线观看| 视频区欧美日本亚洲| 亚洲av中文字字幕乱码综合 | 亚洲va日本ⅴa欧美va伊人久久| 中文字幕另类日韩欧美亚洲嫩草| 老司机深夜福利视频在线观看| 丝袜美腿诱惑在线| 久久精品亚洲精品国产色婷小说| 久久人妻福利社区极品人妻图片| 两性午夜刺激爽爽歪歪视频在线观看 | 波多野结衣高清作品| 精品久久久久久久久久免费视频| 在线天堂中文资源库| 国产激情欧美一区二区| 露出奶头的视频| 9191精品国产免费久久| 制服丝袜大香蕉在线| 在线观看舔阴道视频| 久久久精品欧美日韩精品| 91在线观看av| 免费看美女性在线毛片视频| 欧美日韩瑟瑟在线播放| 亚洲国产欧美一区二区综合| 亚洲三区欧美一区| 一级作爱视频免费观看| 亚洲精品在线观看二区| 老司机午夜福利在线观看视频| 精华霜和精华液先用哪个| 可以免费在线观看a视频的电影网站| 亚洲国产精品999在线| 久久久久国产一级毛片高清牌| 美女大奶头视频| 人妻久久中文字幕网| 一区福利在线观看| 国产高清videossex| 久久天堂一区二区三区四区| 午夜免费鲁丝| 国产精品爽爽va在线观看网站 | 在线天堂中文资源库| 黄色毛片三级朝国网站| 国产精品av久久久久免费| 搡老熟女国产l中国老女人| 少妇裸体淫交视频免费看高清 | 黄网站色视频无遮挡免费观看| 久久性视频一级片| 日本免费一区二区三区高清不卡| e午夜精品久久久久久久| 欧美av亚洲av综合av国产av| 午夜成年电影在线免费观看| 深夜精品福利| 男男h啪啪无遮挡| 淫秽高清视频在线观看| 国产熟女xx| 51午夜福利影视在线观看| 欧美激情久久久久久爽电影| 国产成人影院久久av| 动漫黄色视频在线观看| 国产极品粉嫩免费观看在线| 国产野战对白在线观看| 国产成人啪精品午夜网站| 久久天堂一区二区三区四区| 免费在线观看日本一区| 国产精品精品国产色婷婷| 无限看片的www在线观看| 国产成人精品无人区| 国产精品一区二区精品视频观看| 大香蕉久久成人网| 自线自在国产av| 在线av久久热| 久久99热这里只有精品18| 亚洲人成网站高清观看| 琪琪午夜伦伦电影理论片6080| 黄色成人免费大全| cao死你这个sao货| 久久精品91蜜桃| 精品熟女少妇八av免费久了| 91成人精品电影| 美女扒开内裤让男人捅视频| 亚洲成人国产一区在线观看| 看片在线看免费视频| 嫩草影院精品99| 757午夜福利合集在线观看| 亚洲国产欧美一区二区综合| 身体一侧抽搐| 桃色一区二区三区在线观看| 两个人免费观看高清视频| 国产又黄又爽又无遮挡在线| 女性生殖器流出的白浆| 亚洲最大成人中文| 桃红色精品国产亚洲av| 日韩精品青青久久久久久| 可以免费在线观看a视频的电影网站| 日本 av在线| 久久国产精品人妻蜜桃| 淫秽高清视频在线观看| 婷婷亚洲欧美| 99riav亚洲国产免费| 一进一出抽搐gif免费好疼| 精品无人区乱码1区二区| 18禁观看日本| 麻豆国产av国片精品| 亚洲国产欧美日韩在线播放| 后天国语完整版免费观看| 夜夜看夜夜爽夜夜摸| 久久久久九九精品影院| 一二三四在线观看免费中文在| 国产精品av久久久久免费| 国产成人av激情在线播放| 久久欧美精品欧美久久欧美| 满18在线观看网站| 最近最新中文字幕大全电影3 | 亚洲自拍偷在线| 1024视频免费在线观看| 国产激情欧美一区二区| 亚洲欧美日韩无卡精品| 午夜福利在线观看吧| 国产1区2区3区精品| 97人妻精品一区二区三区麻豆 | 99精品久久久久人妻精品| 中文字幕精品免费在线观看视频| 欧美亚洲日本最大视频资源| 精品久久久久久久毛片微露脸| 美女扒开内裤让男人捅视频| 12—13女人毛片做爰片一| 两性夫妻黄色片| 在线观看www视频免费| 大香蕉久久成人网| 国产一级毛片七仙女欲春2 | 久久久久久人人人人人| 操出白浆在线播放| 欧美av亚洲av综合av国产av| 亚洲人成网站高清观看| 日韩欧美免费精品| 亚洲电影在线观看av| 在线看三级毛片| 日韩欧美一区二区三区在线观看| 一级毛片精品| 欧美zozozo另类| 丝袜在线中文字幕| 亚洲第一欧美日韩一区二区三区| 日本精品一区二区三区蜜桃| 免费在线观看视频国产中文字幕亚洲| 十八禁人妻一区二区| 亚洲av成人不卡在线观看播放网| 美女扒开内裤让男人捅视频| 国产午夜精品久久久久久| 亚洲最大成人中文| 最近在线观看免费完整版| 国产野战对白在线观看| xxx96com| 午夜亚洲福利在线播放| 国产一级毛片七仙女欲春2 | 欧美黑人欧美精品刺激| 免费在线观看视频国产中文字幕亚洲| 欧美成狂野欧美在线观看| 亚洲自拍偷在线| 国产精品一区二区免费欧美| 久久久精品欧美日韩精品| 欧美激情久久久久久爽电影| 午夜福利视频1000在线观看| 女人高潮潮喷娇喘18禁视频| 精品第一国产精品| 日本免费a在线| 国产99白浆流出| 狂野欧美激情性xxxx| 亚洲成av片中文字幕在线观看| 一本大道久久a久久精品| 91国产中文字幕| 亚洲国产精品sss在线观看| 黄色a级毛片大全视频| 中文字幕另类日韩欧美亚洲嫩草| 999久久久精品免费观看国产| www国产在线视频色| 亚洲国产欧洲综合997久久, | 一本一本综合久久| 巨乳人妻的诱惑在线观看| 两个人看的免费小视频| 18禁美女被吸乳视频| 老司机靠b影院| 校园春色视频在线观看| 色综合站精品国产| 午夜激情av网站| 在线观看免费午夜福利视频| 男女做爰动态图高潮gif福利片| 热re99久久国产66热| 在线观看午夜福利视频| 午夜影院日韩av| 淫妇啪啪啪对白视频| 午夜亚洲福利在线播放| 悠悠久久av| 99热这里只有精品一区 | 人人妻人人澡欧美一区二区| 国产精品一区二区免费欧美| 两个人视频免费观看高清| 国产爱豆传媒在线观看 | 午夜两性在线视频| 久久精品国产99精品国产亚洲性色| 亚洲国产欧洲综合997久久, | 最近在线观看免费完整版| 在线观看一区二区三区| 波多野结衣巨乳人妻| 一边摸一边抽搐一进一小说| 国产亚洲精品第一综合不卡| 亚洲欧美日韩高清在线视频| 免费人成视频x8x8入口观看| 欧美又色又爽又黄视频| 观看免费一级毛片| 狠狠狠狠99中文字幕| 天天躁夜夜躁狠狠躁躁| 在线播放国产精品三级| 欧美激情高清一区二区三区| 黄色 视频免费看| 日本三级黄在线观看| 极品教师在线免费播放| 麻豆久久精品国产亚洲av| 欧美中文综合在线视频| 欧美性猛交╳xxx乱大交人| 欧美日韩黄片免| 国产成人啪精品午夜网站| 亚洲性夜色夜夜综合| 亚洲精品中文字幕在线视频| 日韩欧美在线二视频| 久久中文字幕一级| 成人av一区二区三区在线看| svipshipincom国产片| 精品国产乱码久久久久久男人| 亚洲成人久久性| 国产av一区在线观看免费| 少妇裸体淫交视频免费看高清 | 亚洲国产看品久久| 亚洲中文日韩欧美视频| 成人手机av| 久久亚洲精品不卡| 久久久久免费精品人妻一区二区 | 女同久久另类99精品国产91| 久久草成人影院| 视频区欧美日本亚洲| 精品国产亚洲在线| 亚洲国产中文字幕在线视频| 极品教师在线免费播放| 99久久久亚洲精品蜜臀av| 级片在线观看| 满18在线观看网站| 午夜福利在线在线| 啦啦啦观看免费观看视频高清| 麻豆av在线久日|