不平衡數(shù)據(jù)集文本多分類深度學(xué)習(xí)算法

王德志，梁俊艷

(1.華北科技學(xué)院 計(jì)算機(jī)學(xué)院，河北 廊坊 065201；2.華北科技學(xué)院 圖書館，河北 廊坊 065201)

0 引 言

在自然語言處理中，文本分類研究中主要分為二分類和多分類問題[1,2]。訓(xùn)練數(shù)據(jù)集的平衡性對深度學(xué)習(xí)算法的性能有重要的影響。文本多分類的訓(xùn)練數(shù)據(jù)集多是不平衡數(shù)據(jù)集。所謂不平衡數(shù)據(jù)集就是在同一個(gè)數(shù)據(jù)集中的某類數(shù)據(jù)的樣本數(shù)量遠(yuǎn)遠(yuǎn)大于或者小于其它樣本的數(shù)量。而少數(shù)類樣本被錯(cuò)誤分類的代價(jià)要比多數(shù)類樣本錯(cuò)誤分類造成的損失更大。文獻(xiàn)[3]提出在卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中基于標(biāo)簽權(quán)重修改損失函數(shù)結(jié)果，強(qiáng)化少數(shù)類樣本對模型參數(shù)的影響。文獻(xiàn)[4]提出基于詞向量遷移的預(yù)訓(xùn)練任務(wù)選擇方法，區(qū)分小類別樣本，提升小類別分類準(zhǔn)確度。文獻(xiàn)[5]提出基于層次聚類的不平衡數(shù)據(jù)加權(quán)方法，根據(jù)密度因子確定采樣頻率，提升小樣本權(quán)重。文獻(xiàn)[6]提出基于差分孿生卷積神經(jīng)網(wǎng)絡(luò)的超平面特征圖，利用樣本與不同超平面的距離進(jìn)行不平衡數(shù)據(jù)集分類的算法。目前研究中主要側(cè)重于文本的二分類問題或者是通用性的低維特征向量的不平衡數(shù)據(jù)集的分類問題[7-10]。而基于高維度詞向量的文本不平衡數(shù)據(jù)集多分類問題面臨巨大的挑戰(zhàn)。本文基于高維度向量聚類方法，提出一種混合式不平衡文本數(shù)據(jù)集采樣方法，在保障大樣本數(shù)據(jù)分類準(zhǔn)確度的基礎(chǔ)上，提升小樣本數(shù)據(jù)分類的準(zhǔn)確率，并通過實(shí)驗(yàn)驗(yàn)證了該方法的分類效果和準(zhǔn)確率。

1 基于詞向量的文本多分類特點(diǎn)

1.1 詞向量的高維特性

在文本多分類處理中，首先需要對文本中各個(gè)詞進(jìn)行向量化表示，經(jīng)典的方法有TF-IDF、skip-gram和CBOW等方法。文本數(shù)據(jù)集的詞向量處理可以采用自定義模型訓(xùn)練方式或者采用經(jīng)典的詞向量模型，例如Word2vec、GloVe和FastText等[11]。但是，無論采用哪一種方式，當(dāng)文本訓(xùn)練樣本數(shù)據(jù)非常多時(shí)，訓(xùn)練所涉及到的基本詞匯量也會不斷增多。尤其是對非規(guī)范文本處理時(shí)(例如微博文本)，會遇到大量新生詞匯。為了更準(zhǔn)確表示文本之間的關(guān)系，就需要對文本中的詞進(jìn)行高維度向量化，每個(gè)維度代表一個(gè)文本特征，只有詞的向量維度達(dá)到一定規(guī)模時(shí)，才能夠提供特征具有區(qū)分度的文本分類訓(xùn)練樣本數(shù)據(jù)。谷歌公司基于大量通用新聞材料訓(xùn)練了具有300維的Word2vec詞向量模型。Facebook基于通用的維基新聞材料訓(xùn)練了具有300維的FastText模型。這些高維度模型為文本多分類提供了堅(jiān)實(shí)的詞向量基礎(chǔ)。

1.2 數(shù)據(jù)集不平衡性

高維度詞向量模型只是為分詞向量化提供了支撐，但是在文本多分類中，還需要大量的訓(xùn)練樣本數(shù)據(jù)。由于目前文本多分類大量使用有監(jiān)督學(xué)習(xí)方法，因此需要對訓(xùn)練數(shù)據(jù)進(jìn)行樣本標(biāo)注。而大量的文本數(shù)據(jù)進(jìn)行多分類標(biāo)注是一個(gè)困難的事情，要想獲得完全平衡的已標(biāo)注文本分類訓(xùn)練數(shù)據(jù)基本是不可能的。而且隨著分類數(shù)據(jù)的增多，也對訓(xùn)練數(shù)據(jù)集的平衡性提出了挑戰(zhàn)。在實(shí)際文本多分類研究中，大量使用不平衡的訓(xùn)練數(shù)據(jù)集。其中，小樣本數(shù)量標(biāo)注數(shù)據(jù)的預(yù)測準(zhǔn)確性，在特定應(yīng)用領(lǐng)域中有重要作用。例如，在電子郵件中分類出具有詐騙性質(zhì)的郵件，相對于普通郵件和廣告垃圾郵件就屬于小樣本數(shù)量標(biāo)注數(shù)據(jù)。數(shù)據(jù)集的不平衡性已經(jīng)成為多數(shù)文本多分類的基本屬性。

2 文本多分類混合式均分聚類采樣算法(HCSA)

2.1 總體架構(gòu)

為解決文本多分類訓(xùn)練數(shù)據(jù)集不平衡問題，可以采用欠采樣(下采樣)或過采樣(上采樣)方式進(jìn)行數(shù)據(jù)集的預(yù)處理。其中欠采樣以小樣本數(shù)量為標(biāo)準(zhǔn)，對大樣本數(shù)據(jù)進(jìn)行減量提取，使大樣本數(shù)量與小樣本數(shù)量具有相同的規(guī)模，數(shù)據(jù)集總量減少。而過采樣正好與之相反，以大樣本數(shù)量為標(biāo)準(zhǔn)，對小樣本數(shù)據(jù)進(jìn)行復(fù)制增量，使小樣本數(shù)量與大樣本數(shù)量具有相同規(guī)模，數(shù)據(jù)集總量增加。但在文本多分類數(shù)據(jù)集中，由于分類標(biāo)簽是多個(gè)，如果僅基于最小樣本和最大樣本進(jìn)行處理，都會導(dǎo)致數(shù)據(jù)集的不合理性，影響最終深度學(xué)習(xí)模型的訓(xùn)練結(jié)果。因此，本文提出一種基于聚類的均分混合式采樣算法(HCSA)。其主要步驟如下：

(1)計(jì)算樣本數(shù)據(jù)量均線

如式(1)所示，計(jì)算出所有不同分類樣本數(shù)量的算數(shù)平均數(shù)，以此作為樣本數(shù)據(jù)量均線。其中N表示分類標(biāo)簽數(shù)量，Xi表示每個(gè)分類中樣本的總數(shù)量

(1)

(2)進(jìn)行樣本分區(qū)

以Lavg均線為基準(zhǔn)，對每個(gè)分類樣本進(jìn)行分區(qū)。如式(2)所示，其中樣本大于均線的為上區(qū)zup，樣本數(shù)量小于均線的為下區(qū)zdn，并計(jì)算出與均線的差值di

di=Xi-Lavg

(2)

(3)進(jìn)行混合采樣

對上區(qū)zup樣本數(shù)據(jù)采用基于K-means聚類的欠采樣方法，每個(gè)分類樣本減少di個(gè)數(shù)據(jù)，實(shí)現(xiàn)每類樣本數(shù)據(jù)量為Lavg。對于下區(qū)zdn樣本數(shù)據(jù)采用基于K-means聚類的過采樣方法，每個(gè)分類樣本增加di個(gè)數(shù)據(jù)，實(shí)現(xiàn)每類樣本數(shù)據(jù)量為Lavg。最終形成的新樣本數(shù)據(jù)集樣本數(shù)量為N×Lavg，從而實(shí)現(xiàn)不同分類樣本數(shù)據(jù)量的均衡性。

通過上述步驟實(shí)現(xiàn)了多分類樣本的均衡性，其關(guān)鍵步驟是上分區(qū)和下分區(qū)的不同采樣方法。本文提出基于K-means聚類采樣方法，對聚類小樣本數(shù)據(jù)進(jìn)行等比例擴(kuò)充，對聚類大樣本數(shù)據(jù)進(jìn)行等比例縮減，從而保證各聚類樣本數(shù)據(jù)特征的均衡性，為后續(xù)深度模型訓(xùn)練提供保障。

2.2 基于K-means聚類的過采樣均線下數(shù)據(jù)

在不平衡數(shù)據(jù)集中，均線下數(shù)據(jù)屬于小樣本數(shù)據(jù)，需要增加數(shù)據(jù)樣本數(shù)量。本算法采用基于K-means聚類的方法，對每類樣本數(shù)據(jù)進(jìn)行聚類，根據(jù)同類樣本中聚類的分布情況，進(jìn)行樣本增加。聚類簇內(nèi)數(shù)據(jù)越多，說明數(shù)據(jù)特征向量相似，增加的數(shù)據(jù)相對就少；聚類數(shù)據(jù)越少說明樣本特征比較特殊，就增加相對多一些。

2.2.1 文本向量距離計(jì)算

在傳統(tǒng)的K-means算法中多采用歐式距離進(jìn)行空間中節(jié)點(diǎn)距離計(jì)算，但是在文本多分類中，要通過文本詞向量空間距離來體現(xiàn)文本的相似度，因此采用歐式距離不適合。本算法采用文本余弦距離來計(jì)算多維空間中節(jié)點(diǎn)的距離，如式(3)所示

(3)

式中：x和y是多維詞向量空間中的兩個(gè)節(jié)點(diǎn)；向量空間維度n維；xi和yi表示兩個(gè)向量在第i維空間的值。從公式中可以看出，對于兩個(gè)文本向量，如果文本越相似，則Dis(x,y)越小，距離越近。當(dāng)兩個(gè)文本完全一致時(shí)，距離為0。當(dāng)兩個(gè)文本完全不相同時(shí)，距離最大值為1，即Dis(x,y)∈[0,1]。

2.2.2 基于輪廓系數(shù)的K-means聚類

在K-means聚類中K值代表聚類簇的數(shù)量。由于聚類屬于無監(jiān)督學(xué)習(xí)，因此無法提前確定最佳的K值。K值的大小直接影響到最終聚類的效果。因此，本算數(shù)采用動(dòng)態(tài)調(diào)整的基于輪廓系統(tǒng)的K值選取與數(shù)據(jù)聚類，其步驟如下。

(1)K值與平均輪廓系統(tǒng)數(shù)S初始化

在有M個(gè)節(jié)點(diǎn)的向量空間中，聚類的簇?cái)?shù)量K∈[1,M]，即聚類的極端可能性是所有節(jié)點(diǎn)都在一個(gè)聚類中，或者每個(gè)節(jié)點(diǎn)獨(dú)立一個(gè)簇，與其它任何節(jié)點(diǎn)無關(guān)。因此K值初始化為2，從最小可能聚類簇?cái)?shù)開始。平均輪廓系數(shù)S由于還沒有計(jì)算，因此取最小值-1，方便后面比較。隨機(jī)選取兩個(gè)節(jié)點(diǎn)作為初始聚類簇的質(zhì)心節(jié)點(diǎn)。

(2)所有節(jié)點(diǎn)聚類

基于當(dāng)前K簇，首先，每個(gè)節(jié)點(diǎn)i計(jì)算其與所屬簇質(zhì)心的距離，然后選取距離最小的簇為其所在簇。在計(jì)算完所有節(jié)點(diǎn)后，如式(4)所示，計(jì)算本簇中所有節(jié)點(diǎn)與質(zhì)心的平均距離，然后選取到質(zhì)心距離與平均距離最接近的節(jié)點(diǎn)作為新的質(zhì)心。最后計(jì)算新質(zhì)心與舊質(zhì)心的距離，如果小于一定的值，結(jié)束聚類，否則開始新一輪以新質(zhì)心為核心的聚類

hk_new=

(4)

(3)計(jì)算每個(gè)節(jié)點(diǎn)的凝聚度

在聚類結(jié)束后，為了利用輪廓系數(shù)動(dòng)態(tài)優(yōu)化選取K值，首先計(jì)算每個(gè)節(jié)點(diǎn)xi的凝聚度。所謂節(jié)點(diǎn)的凝聚度就是此節(jié)點(diǎn)xi與同簇的其它節(jié)點(diǎn)的平均距離，其計(jì)算如式(5)所示。ci為節(jié)點(diǎn)i所在的簇

(5)

(4)計(jì)算機(jī)每個(gè)節(jié)點(diǎn)的分離度

所謂分離度是節(jié)點(diǎn)xi與其最近簇cm中所有節(jié)點(diǎn)的平均距離，如式(6)所示。而最近簇cm的計(jì)算如式(7)所示，就是用xi到某個(gè)簇所有節(jié)點(diǎn)平均距離作為衡量該點(diǎn)到該簇的距離后，選擇最小平均距離的簇作為最近簇cm

(6)

(7)

(5)計(jì)算平均輪廓系數(shù)

凝聚度代表了簇內(nèi)的密度程度，分離度代表了簇間的距離。理論上凝聚度越小，簇間距離越遠(yuǎn)，聚類效果越好，因此，基于式(8)計(jì)算所有節(jié)點(diǎn)平均輪廓系數(shù)S。公式中Si表示節(jié)點(diǎn)i的輪廓系數(shù)，S表示平均輪廓系數(shù)，它是所有節(jié)點(diǎn)輪廓系數(shù)之和的算數(shù)平均數(shù)，其取值范圍為S∈[-1,1]。S的值越大代表聚類效果越好

(8)

(6)動(dòng)態(tài)調(diào)整K值

增加K值，重復(fù)上述步驟(2)到步驟(5)，計(jì)算出新一輪迭代中的輪廓系數(shù)。當(dāng)?shù)鶱次后，選取平均輪廓系數(shù)最大值的K作為聚類簇?cái)?shù)，并以此時(shí)的聚類結(jié)果為最終結(jié)果。

2.2.3 均線下數(shù)據(jù)過采樣

在對數(shù)據(jù)集的每類數(shù)據(jù)進(jìn)行完聚類后，如式(2)所示，Lavg均線下的分類數(shù)據(jù)集需要增加|di|個(gè)數(shù)據(jù)，從而達(dá)到均線數(shù)據(jù)量。第i類數(shù)據(jù)集增加數(shù)據(jù)量如式(9)所示

(9)

Ni,j表示數(shù)據(jù)集中第i類數(shù)據(jù)中聚類后第j簇需要增加的數(shù)據(jù)量。Xi表示第i類數(shù)據(jù)集的總量，Mi,j表示第i類數(shù)據(jù)集中聚類后第j簇的數(shù)據(jù)量，Ki表示第i類數(shù)據(jù)集聚類的簇?cái)?shù)量。從公式中可以看出，在聚類后，聚類簇中數(shù)據(jù)量越多在本類數(shù)據(jù)中增加的數(shù)據(jù)量就越少。不同類別數(shù)據(jù)之間，距離均線Lavg越遠(yuǎn)，整體的增加數(shù)據(jù)量越多。在同一簇中數(shù)據(jù)的增加方法，采用隨機(jī)復(fù)制法。其過程就是，首先對簇中Mi,j個(gè)數(shù)據(jù)進(jìn)行編號，其編號范圍為[1,Mi,j]，然后在此數(shù)據(jù)范圍內(nèi)進(jìn)行隨機(jī)抽簽。如果Ni,j≤Mi,j，則隨機(jī)抽簽Ni,j個(gè)不重復(fù)數(shù)據(jù)復(fù)制。如果Ni,j>Mi,j，隨機(jī)抽簽Ni,j個(gè)可重復(fù)數(shù)據(jù)復(fù)制。

2.3 基于K-means聚類的欠采樣均線上數(shù)據(jù)

在不平衡數(shù)據(jù)集中，均線上數(shù)據(jù)屬于大樣本數(shù)據(jù)，為了防止分類模型過擬合與提升訓(xùn)練速度，需要減少數(shù)據(jù)樣本數(shù)量。與小樣本數(shù)據(jù)處理方式類似，大樣本數(shù)據(jù)也采用基于輪廓系數(shù)的K-means動(dòng)態(tài)聚類方法，對每類樣本數(shù)據(jù)進(jìn)行聚類，根據(jù)同類樣本中聚類的分布情況，進(jìn)行樣本減少。聚類簇內(nèi)數(shù)據(jù)越多，說明數(shù)據(jù)特征向量相似，減少的數(shù)據(jù)相對就多；聚類數(shù)據(jù)越少說明樣本特征比較特殊，就減少相對少一些。其第i類數(shù)據(jù)集減少數(shù)據(jù)量如式(10)所示

(10)

Qi,j表示數(shù)據(jù)集中第i類數(shù)據(jù)中聚類后第j簇需要減少的數(shù)據(jù)量，|di|表示Lavg均線上的第i類數(shù)據(jù)集需要減少的數(shù)據(jù)個(gè)數(shù)。在同一簇中數(shù)據(jù)的選取方法，采用隨機(jī)選擇法，就是在Mi,j個(gè)數(shù)中隨機(jī)選取|Xi-Qi,j|個(gè)數(shù)。

3 文本多分類卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)(CNN)是機(jī)器學(xué)習(xí)中的經(jīng)典神經(jīng)網(wǎng)絡(luò)模型，在多個(gè)領(lǐng)域中都得到成功的應(yīng)用。針對自然語言分析，CNN一般采用一維模型結(jié)構(gòu)，可以修改為并行的文本分類卷積神經(jīng)網(wǎng)絡(luò)TextCNN，其模型結(jié)構(gòu)如圖1所示。可以有多個(gè)并行的卷積層對輸入的文本進(jìn)行處理，最大池化層可以采用步長為3、4和5的方案進(jìn)行數(shù)據(jù)處理，目的是提取不同單詞間隔的文本特征信息，最后通過平鋪層進(jìn)行特征信息的匯總。為了保障模型的運(yùn)行效率，本文根據(jù)詞向量高維度特性，設(shè)計(jì)的TextCNN模型采用具有3個(gè)并行卷積層的一維卷積模型結(jié)構(gòu)，如圖2所示。模型中卷積層輸入維度為(50,300)結(jié)構(gòu),輸出為(50,256)。卷積層激活函數(shù)采用“relu”函數(shù)，輸出層激活函數(shù)采用“softmax”函數(shù)，優(yōu)化器采用“adam”，損失函數(shù)采用“catego-rical_crossentropy”。

圖1 TextCNN網(wǎng)絡(luò)模型結(jié)構(gòu)

圖2 TextCNN模型參數(shù)

4 不均衡微博災(zāi)害數(shù)據(jù)集

文本多分類算法一般都是針對特定文本數(shù)據(jù)集進(jìn)行優(yōu)化。本算法的優(yōu)化主要針對微博災(zāi)害數(shù)據(jù)集。此數(shù)據(jù)集來自于CrisisNLP網(wǎng)站(https://crisisnlp.qcri.org)。其提供了2013年至2015年的2萬1千多條災(zāi)害相關(guān)的微博數(shù)據(jù)，并人工對這些數(shù)據(jù)進(jìn)行了多分類標(biāo)注。其標(biāo)注樣本數(shù)據(jù)情況見表1。標(biāo)注包含受傷、死亡、失蹤、查找、人員安置、疏散等9類信息。其中最大分類樣本數(shù)量約是最小樣本分類數(shù)量的13倍，5種分類在數(shù)據(jù)集均線下，4種分類在數(shù)據(jù)集均線上，屬于典型的不平衡文本數(shù)據(jù)集。在數(shù)據(jù)集預(yù)處理方面，由于在微博文章中要求內(nèi)容不能超過140個(gè)單詞，因此在文本向量化前需要先進(jìn)行關(guān)鍵詞提取，為了保證提取的關(guān)鍵詞能夠代表文章的目標(biāo)分類，經(jīng)統(tǒng)計(jì)分析最終選取文章平均詞語量50作為參數(shù)，即詞頻統(tǒng)計(jì)前50的單詞作為文章的關(guān)鍵詞。

表1 微博災(zāi)害數(shù)據(jù)集標(biāo)定情況

5 實(shí)驗(yàn)數(shù)據(jù)分析

5.1 實(shí)驗(yàn)條件

本實(shí)驗(yàn)基于個(gè)人工作站，其軟硬件配置見表2。本實(shí)驗(yàn)基于Word2vec模型對微博災(zāi)害數(shù)據(jù)集進(jìn)行分詞向量化，每條文本維度為(50,300)。其中，50代表此文本中的關(guān)鍵詞，如果關(guān)鍵詞個(gè)數(shù)不足50，補(bǔ)零進(jìn)行處理。300代表每個(gè)詞的維度，即詞特征向量空間為300維。實(shí)驗(yàn)中共使用21 125條微博數(shù)據(jù)，其中90%用來進(jìn)行模型訓(xùn)練，10%用來模型測試。TextCNN模型數(shù)據(jù)輸出維度為(9，1)，表示分類為9個(gè)。

表2 實(shí)驗(yàn)配置條件

5.2 評價(jià)指標(biāo)

機(jī)器學(xué)習(xí)算法的評價(jià)指標(biāo)通常采用準(zhǔn)確率(Acc)、精確率(P)、召回率(R)和F1值。在文本多分類中，準(zhǔn)確率、召回率和F1值可以采用算術(shù)平均(Pm、Rm和F1m)和加權(quán)平均(Pw、Rw和F1w)計(jì)算兩種方法，其計(jì)算如式(11)、式(12)所示

(11)

(12)

其中，Pi為每個(gè)分類的精確率，即“本類正確預(yù)測的數(shù)量/所有預(yù)測為本類的數(shù)量”；Ri為召回率，即“本類正確預(yù)測的數(shù)量/所有本類的數(shù)量”；F1i是“2*(Pi*Ri)/(Pi+Ri)”。αi為不同分類樣本占總樣本的比例，N為分類總數(shù)。

5.3 實(shí)驗(yàn)結(jié)果分析

為驗(yàn)證本算法性能，進(jìn)行了4種方法進(jìn)行實(shí)驗(yàn)數(shù)據(jù)對比。第一種是常規(guī)方法，未對數(shù)據(jù)集進(jìn)行欠采樣或過采樣；第二種是隨機(jī)欠采樣方式，以最小分類數(shù)據(jù)集數(shù)據(jù)量為標(biāo)準(zhǔn)，其它分類數(shù)據(jù)集進(jìn)行隨機(jī)欠采樣；第三種是隨機(jī)過采樣方式，以最大分類數(shù)據(jù)集數(shù)據(jù)量為標(biāo)準(zhǔn)，其它分類數(shù)據(jù)集進(jìn)行隨機(jī)復(fù)制過采樣；第四種是本文提出的HCSA采樣方法。4種方法實(shí)驗(yàn)結(jié)果的混淆矩陣，如圖3所示。

圖3 預(yù)測結(jié)果混淆矩陣

基于各方法的混淆矩陣計(jì)算出對應(yīng)各分類數(shù)據(jù)集的評價(jià)指標(biāo)值見表3。從表中數(shù)據(jù)可以看出，分類5為最小數(shù)據(jù)集，在F1值中HCSA算法值最大，小樣本的預(yù)測精確率和召回率都有提升。分類7為最大數(shù)據(jù)集，在F1值中HCSA算法值最大，精確率和召回率性能都沒有下降。

表3 各方法評價(jià)指標(biāo)值

圖4和圖5展示了各方法的算數(shù)平均值和加權(quán)平均值指標(biāo)數(shù)據(jù)。從圖中可以看出，HCSA算法的準(zhǔn)確率和F1值最高，過采樣與常規(guī)方法性能相近，欠采樣方法指標(biāo)值最低。欠采樣由于隨機(jī)丟棄了訓(xùn)練樣本數(shù)據(jù)，導(dǎo)致性能下降嚴(yán)重。而過采樣雖然增加了訓(xùn)練數(shù)據(jù)，但是由于是隨機(jī)復(fù)制，沒能保證一定增加文本向量空間中小特征向量。另一方面，過采樣由于存在大量的復(fù)制數(shù)據(jù)，導(dǎo)致TextCNN模型在訓(xùn)練中出現(xiàn)了過擬合現(xiàn)象。說明，雖然增加了訓(xùn)練數(shù)據(jù)數(shù)量，但是如果增加的不合理，會導(dǎo)致模型過擬合，不能提升模型的預(yù)測性能。而在HCSA算法中，由于進(jìn)行了聚類，對小樣本中小特征向量提高了復(fù)制的比例，因此能夠提升小特征的預(yù)測準(zhǔn)確率。對大樣本數(shù)據(jù)，為了防止過擬合，進(jìn)行了訓(xùn)練數(shù)據(jù)集拋棄。但是沒有導(dǎo)致指標(biāo)值像欠采樣一樣下降非常多，這是由于在數(shù)據(jù)拋棄時(shí)，是基于聚類結(jié)果，聚類的數(shù)據(jù)越多，拋棄的比例就增多。這樣最終保證各類特征在數(shù)據(jù)集中分布平衡。

圖4 算數(shù)平均指標(biāo)值

圖5 加權(quán)平均指標(biāo)值

上面的實(shí)驗(yàn)結(jié)果可以看出，通過在HCSA算法中引入動(dòng)態(tài)聚類方法，能夠進(jìn)一步基于文本的高維特征對數(shù)據(jù)集進(jìn)行區(qū)分，為欠采樣和過采樣提供基礎(chǔ)，最終實(shí)現(xiàn)文本訓(xùn)練數(shù)據(jù)集中數(shù)據(jù)在高維向量空間中特征向量的平衡分布，為提高文本多分類性能提供支持。

6 結(jié)束語

本文在文本不平衡數(shù)據(jù)集的多分類算法中，引入基于輪廓系數(shù)的動(dòng)態(tài)K-means聚類方法對不平衡數(shù)據(jù)集進(jìn)行聚類，并利用聚類簇采用混合式采樣方式，實(shí)現(xiàn)文本數(shù)據(jù)集的平衡分布。以微博災(zāi)害數(shù)據(jù)集為例，驗(yàn)證了HCSA算法在TextCNN模型上的性能。通過實(shí)驗(yàn)驗(yàn)證此算法相對常規(guī)方法、過采樣和欠采樣方法在準(zhǔn)確率和F1值等方面都有性能提升。下一步工作可以針對文本高維空間的聚類方法進(jìn)行優(yōu)化，提升算法的執(zhí)行速度，進(jìn)一步提升高維度文本向量的聚類效果，提高基于文本不平衡數(shù)據(jù)集的多分類準(zhǔn)確性。