• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于BERT與BiLSTM混合方法的網(wǎng)絡(luò)輿情非平衡文本情感分析*

    2022-04-28 08:58:52顧鳳云
    情報雜志 2022年4期
    關(guān)鍵詞:特征詞維度分類

    劉 繼 顧鳳云

    (新疆財經(jīng)大學(xué)統(tǒng)計與數(shù)據(jù)科學(xué)學(xué)學(xué)院 烏魯木齊 830012)

    隨著大數(shù)據(jù)時代的來臨,不同用戶通過社交媒體平臺(如微博、論壇等)產(chǎn)生了海量的情緒化數(shù)據(jù),而輿情文本情感分析發(fā)揮著非同小可的作用。目前,文本情感分析作為突發(fā)公共事件管理與控制的重要范疇,通過識別輿情文本情感傾向,由此發(fā)掘出網(wǎng)民產(chǎn)生情感極性的原因。網(wǎng)民情緒的表達會影響輿論傳播的廣度及其深度,若負面情緒快速傳播則不利于事件解決,還會惡化事態(tài)的發(fā)展形勢。因此,在重大突發(fā)事件管理中,輿情文本情感分析對輿情預(yù)警、有效引導(dǎo)及良性發(fā)展具有重大的意義[1]。

    1 相關(guān)研究

    情感分析是對主觀性文本中的情感和態(tài)度進行分類,主要方法為機器學(xué)習(xí)、深度學(xué)習(xí)等方法。從機器學(xué)習(xí)的視角出發(fā),基于機器學(xué)習(xí)[2]的文本傾向性分析方法需要使用語料庫,訓(xùn)練分類模型。如朱軍等人[3]對文本數(shù)據(jù)使用詞袋模型進行分類,考慮Word2Vec建立新的詞向量;在集成算法樸素貝葉斯與SVM[2]中,精準(zhǔn)率和召回率都有所提升。在文本分類上神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)取得顯著成效,利用搭建神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),構(gòu)成不同的神經(jīng)網(wǎng)絡(luò)算法如CNN、雙向LSTM、文本CNN等。Y.Kim[4]最早提出將CNN應(yīng)用于文本的傾向性分析,并得到較好的效果;在Y.Kim分析的基礎(chǔ)上,Conneau等人[5]采用了深度卷積網(wǎng)絡(luò)方法提出VDCNN模型。隨后預(yù)訓(xùn)練模型開始興起,在NLP領(lǐng)域有了重大突破;Vaswani等人[6]提出的BERT模型在評價指標(biāo)中得到更好的提升。Devlin等人[7]主要介紹BERT模型的實際價值,并在11個自然語言處理任務(wù)上獲得了較好的研究成果。段丹丹[8]用BERT模型對正負平衡的短文本數(shù)據(jù)進行預(yù)訓(xùn)練,用特征向量來表示語言模型,隨后將獲得的特征向量輸入Softmax進行分類,利用F1值作為評價指標(biāo)。李可悅等[9]采用BERT模型的預(yù)訓(xùn)練完成單條文本的特征向量表示,隨后有區(qū)別性地將特征向量輸入分類器,采用電商文本的樣本進行算法驗證。宋明等[10]通過爬蟲獲得微博非平衡文本數(shù)據(jù),將BERT模型的損失函數(shù)換為Focal Loss進行情感分析;分類結(jié)果在準(zhǔn)確性上進行驗證,中性偏高但是負向偏低。

    由于單模型的局限性,研究者開始探索混合模型。國顯達等人[11]利用混合CNN與雙向LSTM做文本情感分析,通過比較得出CNN與雙向LSTM[12]模型的優(yōu)越性。諶志群等[13]對文獻[12]進一步優(yōu)化,將BERT與雙向LSTM結(jié)合優(yōu)于CNN與雙向LSTM,采用平衡數(shù)據(jù)得到較好的評測效果。Cai等[14]對網(wǎng)民的情緒取向利用統(tǒng)計方法進行分類,然后使用BERT與BiLSTM的雙向編碼組合的預(yù)測方法,對用戶所表達的情緒傾向進行建模和預(yù)測。趙亞歐等[15]對不同類別的平衡樣本利用ELMo和Transformer的混合模型進行情感分類,在評價指標(biāo)上得到了提升。莊穆妮等[16]主要采用LDA主題模型與BERT模型,通過改進BERT預(yù)訓(xùn)練任務(wù)與詞向量深度融合的方式,多次累加深度預(yù)訓(xùn)練任務(wù)進而提高模型在情感分類中的精確度。

    上述研究中樣本數(shù)據(jù)基本屬于正負平衡數(shù)據(jù),但在實際爬取的文本數(shù)據(jù)中很少出現(xiàn)正負數(shù)據(jù)平衡的情況。非平衡文本數(shù)據(jù)會出現(xiàn)評測失衡的問題,小樣本數(shù)據(jù)易出現(xiàn)過擬合問題,基于此,本文提出了M2BERT-BiLSTM模型進行情感分析,對輿情非平衡文本進行有效分析。

    2M2BERT-BiLSTM模型構(gòu)建

    BERT[6]是從Transformer中衍生出來的預(yù)訓(xùn)練模型,可將其沿用至自然語言處理任務(wù)。Transformer是Google Brain中Ashish Vaswani等在Attention Is All You Need[6]中所提出的sequence2sequence模型,應(yīng)用方式主要是先進行預(yù)訓(xùn)練語言模型,然后適當(dāng)?shù)胤峙浣o下游任務(wù)如分類、標(biāo)記等。

    由于BERT是從Transformer中衍生的模型,Transformers模型包括encoder和decoder。此處主要說明encoder部分,考慮摒棄時間循環(huán)結(jié)構(gòu),主要依賴位置編碼來輔助建模。

    圖1Transformer模型結(jié)構(gòu)編碼器部分

    圖1為Transformer模型的編碼器部分。第1部分Transformer模型中沒有使用序列的順序信息,“位置編碼”提供每個字的位置信息給Transformer, 才能識別出語言中的順序關(guān)系。第2部分多頭自注意力機制實際上是由h個self-attention并行組成。輸入為Tembedding經(jīng)過線性變換得到Q、K、V(Q = linear_q(Tembedding)、K = linear_k(Tembedding)、V = linear_v(Tembedding))后同時經(jīng)過h次的放縮點積attention,得到多頭信息。將(1)式結(jié)果進行拼接,再通過線性變換得到的值作為多頭attention的輸出。

    (1)

    MultiHead(Q,K,V)=Concat(head1,…,headh)Wo

    (2)

    第3部分殘差連接,即在上步中注意力機制進行轉(zhuǎn)置使其維度與Tembedding一致,將兩者相加的作用是隱藏層可歸一為標(biāo)準(zhǔn)正態(tài)分布。在反向傳播時,為避免構(gòu)建BERT模型層次太深或出現(xiàn)梯度消失等問題,訓(xùn)練時常用的方法為殘差連接。

    Thidden=Activate(Linear(Linear(Tattention)))

    (3)

    第4部分前向傳播,即為兩層線性映射并用激活函數(shù)。

    BERT模型應(yīng)用方式主要是先進行預(yù)訓(xùn)練語言模型,然后適當(dāng)?shù)嘏浣o下游任務(wù)如分類、標(biāo)記等(見圖2)。BERT模型通過兩種無監(jiān)督方法相結(jié)合進行預(yù)訓(xùn)練;Masked LM主要為隨機遮蓋或替換單條文本里面任意字或詞,模型通過對剩余詞匯的理解,預(yù)測出被遮蓋或替換的詞。具體為以下內(nèi)容:

    圖2 語言模型任務(wù)

    a. 80%被替換成[mask]; 例如 我喜歡小貓?!蚁矚g小[mask]。

    b. 10%被替換成任意其他token;例如 我喜歡小貓?!蚁矚g小米。

    c. 10%原封不動.例如 我喜歡小貓—我喜歡小貓。

    另一種無監(jiān)督方法為Next Sentence Prediction。句子以[CLS]開始, 在兩句話之間和句末加[SEP], 此目的是讓模型理解兩個句子之間的聯(lián)系。訓(xùn)練輸入句子A和B,模型預(yù)測A的下句是不是為B。

    輸入文本數(shù)據(jù)的第一個標(biāo)記都是[CLS],對應(yīng)的是 Transformer 的輸出,是用來表示整個句子的,可用于下游的分類任務(wù)。

    原模型(圖3)隱藏層的計算結(jié)果里只要取出C(維度是Thidden∈R[batch size,sequence length,embedding dimension])進行混合模型的計算?,F(xiàn)沿著sequence length的維度分別求Maxpooling、Meanpooling、M2pooling。M2pooling即均值與最大池化進行鏈接(兩者鏈接是將兩者前后鏈接),Meanpooling即沿著句子長度維度只求均值,Maxpooling沿著句子長度維度只求最大值。均值池化會將大多數(shù)總體信息特征均等處理;最大值池化獲取的特征較稀疏,但會保留極化特征;均值與最大池化拼接會在保留多數(shù)總體信息特征的基礎(chǔ)上突出極化特征。

    (4)

    (5)

    M2pooling=concatenate(Meanpooling&Maxpooling)

    (6)

    圖3M2BERT-BiLSTM模型

    其中N表示embedding dimension維度; Thidden(1)表示Thidden中sequence length維度位置為1;M2pooling∈R[batch size ,embedding dimension*2];均值與最大池化拼接的方法就相當(dāng)于DOC2VEC的方法,將單條評論轉(zhuǎn)換成一條向量,轉(zhuǎn)換出向量的維度是一致的。因此通過gt作為BiLSTM的輸入,表示如下:

    gt=S1(Wg*Mt+bg)

    (7)

    其中t={1,2,…,Y},Wg(矩陣調(diào)整成與級聯(lián)后的維度相同)Wg∈Rdg*Y,bg為gt的偏置,Mt為最大值與均值拼接后的特征向量,S1為激活函數(shù)Sigmoid函數(shù)。

    輸入向量后需進到隱含層中,由于BiLSTM模型的隱含層分為向前隱含層與向后隱含層。向前隱含層h↑是通過t時刻從正向計算,而向后隱含層h↓是從反向計算,計算如下:

    (8)

    (9)

    隱含層在t時刻輸出的向量為Vt,計算如下:

    Vt=ht↑⊕ht↓

    (10)

    將進行隱含層ht↑與隱含層ht↓連接組合成特征向量H, 全連接層使用ReLU作為激活函數(shù),利用特征向量H的輸出作為輸出層,并采用Softmax函數(shù)進行分類。

    本文采用M2BERT-BiLSTM方法構(gòu)建模型,預(yù)測微博評論的情緒傾向。M2BERT作為上游部分,BiLSTM作為下游部分;混合模型不是簡單的權(quán)值組合模型,計算復(fù)雜度有所增加,但計算的準(zhǔn)確性上升。M2BERT具有學(xué)習(xí)附近單詞統(tǒng)計特征的能力,而BiLSTM具有學(xué)習(xí)上下文信息的能力,這符合人類語言系統(tǒng)的邏輯。

    3 “新型冠狀病毒肺炎”微博數(shù)據(jù)的測試分析

    3.1數(shù)據(jù)選取本文使用VG瀏覽器以“新型冠狀病毒肺炎”為關(guān)鍵詞采集有關(guān)話題的內(nèi)容,總共采集微博13 077條數(shù)據(jù),內(nèi)容為用戶名、正文、UID、評論內(nèi)容、bid。數(shù)據(jù)未帶傾向性的標(biāo)注,但要確保數(shù)據(jù)有效性,首先對文本內(nèi)容進行SnowNLP(自然語言處理)分類,再進行人工標(biāo)注(標(biāo)注分為正向、中性、負向三類)。通過人工與機器算法的對比分析,進一步調(diào)整得出較為準(zhǔn)確的正負語料。鑒于本文只研究情感二分類(即正向與負向),正向評論以1表示,負向評論以0表示。選取數(shù)據(jù)集80%作為訓(xùn)練集,20%作為測試集(見表1)。

    表1 微博的評論數(shù)據(jù)集合

    3.2參數(shù)設(shè)置在易用性與速度方面,PyTorch較優(yōu),因此本文模型利用PyTorch搭建。通常采用CPU,特殊樣本可以通過GPU加速。BERT模型中的動態(tài)學(xué)習(xí)率和提前終止(early stop)可以確定參數(shù)Num_epochs和Learning_rate。設(shè)置Num_epochs =7表明本文模型進行了7期訓(xùn)練;主要是根據(jù)記錄Num_epochs的AUC,如果當(dāng)前的AUC比上一個epoch沒有提升,則降低當(dāng)前的學(xué)習(xí)率,該測試中的AUC在7個epoch都沒有提升,即停止訓(xùn)練;則模型的學(xué)習(xí)率為5e-5。Batch表示每次輸入模型中訓(xùn)練的部分數(shù)據(jù),Batch_size為每個Batch中訓(xùn)練樣本的數(shù)量。Batch_size可以設(shè)置為16、32、64、128、256等,Batch_size=16、32、64的時候迭代次數(shù)增加,但訓(xùn)練速度過慢;Batch_size越大越能夠表現(xiàn)出全體數(shù)據(jù)的特征,確定的梯度下降方向越準(zhǔn)確;在設(shè)置為256的時候迭代次數(shù)減少,但造成參數(shù)修正緩慢;則Batch_size設(shè)置為128。Pad_size表示短評論文本進行填補,長評論文本進行切分處理;微博評論文本屬于短文本,因此將每條評論處理長度為20。在BERT[6]模型中Hidden_size設(shè)置為768,它表示模型隱藏層神經(jīng)元數(shù),在混合模型中沒有改變,將Hidden_size設(shè)置為768(見表2)。

    表2 參數(shù)設(shè)置

    3.3結(jié)果分析本文從準(zhǔn)確率(Precision_score)、召回率(Recall_score)、F1(F1-score)三個方面作為評價指標(biāo)。Precision是判別模型對負樣本的區(qū)分能力;Recall體現(xiàn)模型對正樣本的識別能力;只有當(dāng)精確率與召回率的數(shù)值同為1時F1值達到最大。若正負數(shù)據(jù)集為非平衡文本,在計算精確率與召回率時會出現(xiàn)差距。F1-score結(jié)合Precision與Recall兩個評價指標(biāo)可以更加全面的反映分類性能。F1值評估分類器性能時,分類器的性能越好F1值越接近于1,因此作為本文衡量實驗效果主要評價指標(biāo)。

    ①W2V-SVM:使用Jieba進行分詞并將數(shù)據(jù)轉(zhuǎn)換成list in list形式,初始化word2vec模型和詞表,各個詞向量用平均的方式生成整句對應(yīng)的向量。用矩陣生成建模,用轉(zhuǎn)換后的矩陣擬合SVM模型,對評論進行模型訓(xùn)練。

    ②W2V-Logistic:以上方法擬合Logistic模型,對評論進行模型訓(xùn)練。

    ③LSTM:將文本語料貼上標(biāo)簽并分詞,統(tǒng)計詞出現(xiàn)次數(shù)調(diào)用Keras中LSTM,計算預(yù)測值進行評價。

    ④W2V-TextCNN:將句子進行切分,去掉停用詞與標(biāo)點符號。Embedding層調(diào)用google開發(fā)的Word2Vec方法將文本向量映射為數(shù)字向量;經(jīng)過一維卷積層與最大池化層,最后接一層全連接的softmax層輸出每個類別的概率。

    ⑤BiLSTM:定義超參數(shù)大小,定義兩層雙向LSTM的模型結(jié)構(gòu),最后使用全連接層在經(jīng)過softmax輸出結(jié)果。

    ⑥BERT:數(shù)據(jù)預(yù)處理是中文數(shù)據(jù)集,所以使用預(yù)處理模型BERT-base,參數(shù)為原始參數(shù),利用預(yù)訓(xùn)練文本特征后輸入BERT模型分類。

    ⑦Mean-BERT: 從BERT模型隱藏層輸出的T沿著sequence length維度的序列使用、即均值池化

    ⑧Max-BERT:隱藏層輸出的T沿著sequence length維度使用即最大池化。

    ⑨M2BERT:對從隱藏層輸出的T沿著sequence length維度使用即均值與最大池化進行拼接。

    ⑩M2BERT-BiLSTM:最大與均值池化的拼接后輸入到BiLSTM的模型中。

    在BERT模型中數(shù)據(jù)集要shuffle,為防止過擬合加入dropout機制、L2正則等。

    從以上整體結(jié)果分析,非平衡文本數(shù)據(jù)的問題導(dǎo)致整體的分類效果偏向于對負樣本的區(qū)分;由于數(shù)據(jù)特殊性負面情緒比較明顯,正面情緒比較中性化則在判別的過程中出現(xiàn)了明顯區(qū)分。比較BERT與W2V-SVM模型的準(zhǔn)確率,W2V-SVM模型達到80.46%,與BERT模型僅差1.67%,說明在評價指標(biāo)準(zhǔn)確率上兩者的差距??;但是在召回率相差9.02%。W2V-Logistic在準(zhǔn)確率與召回率相對穩(wěn)定,但F1值比BERT模型低4.04%。LSTM與BiLSTM兩者相比,BiLSTM模型各項指標(biāo)均有不同程度的提升,說明前后兩個方向獲取文本信息將會更有優(yōu)勢,BiLSTM學(xué)習(xí)能力比單向的LSTM強。雙向LSTM模型雖然考慮了前后文本信息,但神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力加上詞向量的組合會更好一些;相比于BERT模型,W2V-TextCNN模型的F1值相差0.79%(見表3)。

    表3 基本模型結(jié)果比較

    Mean-BERT的測試結(jié)果受到樣本的影響,本文通過篩選出語義不明確的樣本進行測試,評價結(jié)果中Precision與Recall的得分相差較大;語義不明確的樣本信息特征均等處理,導(dǎo)致極化特征未凸顯,在非平衡文本數(shù)據(jù)的情況下忽略特征的情感含義造成模型難以識別計劃特征。從以上結(jié)果來看,Max-BERT模型提取出極化特征,但小樣本只將關(guān)鍵詞信息提取出來會使得文本信息大量丟失;評價指標(biāo)F1值達到79.88%,比BERT模型降低了0.52%,說明此模型比BERT略差。均值與最大化拼接不僅考慮當(dāng)前文本極化特征,而且不會丟失大部分文本信息,BERT模型與此模型F1值相差0.13%;F1值相比于均值池化與最大值池化有所提高(見表4)。在圖4中,根據(jù)AUC做出比較并選擇較優(yōu)模型進行集成處理。M2BERT-BiLSTM模型不僅在F1值上有較高的提升,并且在評判正負樣本分類的結(jié)果上也沒有太大的差距。在可控范圍之內(nèi)達到較優(yōu)的效果,在非平衡文本數(shù)據(jù)的情況下選擇M2BERT-BiLSTM模型進行情感分類。

    表4BERT改進模型結(jié)果比較

    圖4 不同模型的AUC比較

    圖4為BERT和M2BERT-BiLSTM模型訓(xùn)練集與測試集的AUC值比較。根據(jù)圖4可以分析出從epoch1到epoch5的過程中,M2BERT-BiLSTM模型訓(xùn)練集與測試集的AUC差距從12.55%逐漸縮小至1.07%;而相比于M2BERT-BiLSTM模型,BERT模型訓(xùn)練集與測試集的效果較差。因此在準(zhǔn)確性上M2BERT-BiLSTM模型比BERT模型有較好的效果。

    4 “新型冠狀病毒肺炎”事件的文本情感詞網(wǎng)分析

    通過M2BERT-BiLSTM模型對“新型冠狀病毒肺炎”事件的文本數(shù)據(jù)進行分類,分類后得到的正負向文本進行詞網(wǎng)分析。為增強正向與負向的特征詞顯示度,提取出每行評論文本特征詞后刪除事件名稱(新型冠狀病毒肺炎等),然后利用Gephi軟件進行繪圖。情感特征詞網(wǎng)可以更加直觀地反映出原文本語料的內(nèi)容,例如:“武漢”與“醫(yī)護”分開時,在不同的語境中表達不同的含義。正向可表達為“武漢的醫(yī)護人員辛苦了”,還可以表示“保護好奔赴于武漢的醫(yī)護人員”;負向可以表達“武漢醫(yī)護人員的隔離問題怎么辦”,還可能表達“武漢醫(yī)護人民出門要戴口罩”。

    圖5 新型冠狀病毒肺炎正面情緒文本特征詞網(wǎng)

    通過圖5可以得出,正面情緒特征詞網(wǎng)聚集較為明顯,其中主要聚集點有7部分。聚點1“保護”為出發(fā)點,網(wǎng)民正面情緒主要來自于醫(yī)護人員、社會工作者、物資及時的送達、“逆行者”等。在疫情期間各地醫(yī)護人員勇敢逆行,火速馳援湖北武漢,奮戰(zhàn)于一線的醫(yī)護人員積極帶領(lǐng)公眾共度難關(guān),因此保護醫(yī)護人員的安全成為公眾所期盼的愿望。聚點2“武漢”為中心點信息主要為相信國家和政府“封城”的措施是有效的,在家自行隔離能有效控制疫情傳播。聚點3“加油”為中心點信息希望全國各地疫情早日散去,堅持就是勝利,可以聽到好消息。聚點4以“接觸”為起點較為零散,主要展示出的信息為不能歡度春節(jié),但人們盡量做好防護措施。聚點5為小團體,主要表達為燃眉之急的事務(wù)為企業(yè)復(fù)工;由于疫情的原因居家隔離沒有經(jīng)濟來源。還說明此次疫情表現(xiàn)出科技的重要性,大數(shù)據(jù)技術(shù)可以提升疫情的有效管理。聚點6主要是網(wǎng)民希望出行盡快恢復(fù)正常;大多網(wǎng)民從未有過長時間的居家隔離,因此群眾們還未適應(yīng)。聚點7為我國在第一時間防止疫情擴散,萬眾一心抗擊疫情。其余為散落詞團,可先不作為重點考慮。

    圖6 新型冠狀病毒肺炎負面情緒文本特征詞網(wǎng)

    從圖6整體可以得出,負面情緒特征詞網(wǎng)中言語離散,說明負向的語言較為單一且不聚集。負面情緒成團較少,但是明顯成團的地方需要特別關(guān)注,其中主要聚集點有5部分。聚點1“野生”“海鮮”“市場”等詞可知疫情發(fā)現(xiàn)地在海鮮市場,得出野生海鮮市場會造成公眾負面情緒高漲,而北京新發(fā)地市場的三文魚等水產(chǎn)品檢測出新冠病毒,將會引起公眾情緒的二次爆發(fā)。為防止引起公眾負面情緒波動,相關(guān)單位應(yīng)對各地所有海鮮市場等易發(fā)生疫情的市場做出規(guī)范的防控措施;加強對肉類、海鮮等貨物的監(jiān)測監(jiān)管,掌握其來源和流向;加強工作人員的健康管理,外來人員的體溫檢測等措施;通過官方平臺將采取的措施及時公布,使公眾輿論不產(chǎn)生大幅度上升。聚點2“武漢”為中心點,“造謠”“報道”“軌跡”為環(huán)繞點可知,疫情得到有效防控,但各地陸續(xù)出現(xiàn)無癥狀感染者。通過各大平臺,相關(guān)單位應(yīng)將感染患者的行動軌跡及時公布、對于疫情制定的措施及時有效報道,以免公民隨意猜測,容易形成謠言無限擴散從而造成不必要的恐慌。通過聚點3以“隔離”為出發(fā)點,“外地”“檢測”“謠言”“傳播”為輔助點分析,各地區(qū)對于外來人員首先做核酸檢測,并且對于有疑似癥狀者采取恰當(dāng)?shù)尼t(yī)學(xué)觀察;對于外來人員的核酸檢測給予證明,防止人員行動不便。聚點4為“醫(yī)類方面”“口罩”的原因主要可以從兩個角度出發(fā):一是在疫情初發(fā)階段口罩的稀缺;二是在全國各地仍有感染患者,口罩負面情緒上漲,從側(cè)面反映出疫情情況好轉(zhuǎn)已有人放松警惕。關(guān)于醫(yī)藥的傳言,相關(guān)單位要及時回應(yīng),以防止公眾盲目相信并出現(xiàn)搶購的情況。聚點5為分散點,主要討論病毒的潛伏期、公布航班的情況等。

    5 結(jié) 語

    本文緊緊圍繞“新型冠狀病毒肺炎”事件的相關(guān)話題,根據(jù)有關(guān)的知識探討了輿情非平衡文本數(shù)據(jù)的情感分析。對微博相關(guān)的內(nèi)容進行抓取,通過人工與機器算法的對比分析得出較為準(zhǔn)確的語料,在通過M2BERT-BiLSTM模型對輿情非平衡文本數(shù)據(jù)進行情感分類。運用正負向評論分別計算行特征詞與共現(xiàn)矩陣,利用Gephi中模塊度畫出正向情緒特征詞網(wǎng)與負向情緒特征詞網(wǎng),更加清晰了解輿情的情感特征;根據(jù)輿情文本的特征詞網(wǎng)分析出事件產(chǎn)生正面情緒與負面情緒的主要原因,有助于相關(guān)部門通過相關(guān)的分析及時采取措施。本研究也存在不足之處,采集的數(shù)據(jù)集不大以至于未能挖掘更多的情感特征以供情感分析,在后續(xù)研究中將擴大數(shù)據(jù)范圍進行深入的研究,為輿情的分析與引導(dǎo)提供更好的建議。

    猜你喜歡
    特征詞維度分類
    分類算一算
    淺論詩中“史”識的四個維度
    中華詩詞(2019年7期)2019-11-25 01:43:00
    分類討論求坐標(biāo)
    基于改進TFIDF算法的郵件分類技術(shù)
    數(shù)據(jù)分析中的分類討論
    產(chǎn)品評論文本中特征詞提取及其關(guān)聯(lián)模型構(gòu)建與應(yīng)用
    教你一招:數(shù)的分類
    光的維度
    燈與照明(2016年4期)2016-06-05 09:01:45
    “五個維度”解有機化學(xué)推斷題
    面向文本分類的特征詞選取方法研究與改進
    欧美bdsm另类| 搞女人的毛片| 欧美极品一区二区三区四区| 熟女人妻精品中文字幕| 水蜜桃什么品种好| 能在线免费看毛片的网站| 国产高清有码在线观看视频| 亚洲精品久久午夜乱码| 国产精品精品国产色婷婷| 一级二级三级毛片免费看| 久久97久久精品| 卡戴珊不雅视频在线播放| 18禁在线无遮挡免费观看视频| 日韩成人av中文字幕在线观看| 亚洲av电影在线观看一区二区三区 | 亚州av有码| 久久99热这里只有精品18| 久久久久精品久久久久真实原创| 亚洲精品成人久久久久久| 高清日韩中文字幕在线| 99热网站在线观看| 日韩制服骚丝袜av| 亚洲av免费在线观看| 亚洲av福利一区| 色吧在线观看| 美女黄网站色视频| 精品一区二区免费观看| 爱豆传媒免费全集在线观看| 日韩三级伦理在线观看| 26uuu在线亚洲综合色| 亚洲伊人久久精品综合| 一级毛片 在线播放| 99久久精品热视频| 亚洲综合色惰| 综合色av麻豆| 国产综合精华液| 天天躁日日操中文字幕| 丰满少妇做爰视频| 男人和女人高潮做爰伦理| 在现免费观看毛片| 亚洲综合精品二区| 久久精品国产亚洲网站| 蜜桃久久精品国产亚洲av| videos熟女内射| 午夜免费观看性视频| 国产亚洲精品av在线| 免费大片黄手机在线观看| 免费大片黄手机在线观看| 全区人妻精品视频| 国产永久视频网站| 国产精品一区二区性色av| 日韩一本色道免费dvd| 久久国产乱子免费精品| 热99在线观看视频| 中文精品一卡2卡3卡4更新| 天堂√8在线中文| 搡老乐熟女国产| 国产av国产精品国产| 69人妻影院| av国产久精品久网站免费入址| 熟女人妻精品中文字幕| 蜜桃久久精品国产亚洲av| 精品久久久久久久人妻蜜臀av| 国产白丝娇喘喷水9色精品| 日韩一本色道免费dvd| 日韩精品有码人妻一区| 国产精品一及| 亚洲欧洲日产国产| 免费看美女性在线毛片视频| 欧美xxxx黑人xx丫x性爽| 免费在线观看成人毛片| 女的被弄到高潮叫床怎么办| 国产91av在线免费观看| 精品亚洲乱码少妇综合久久| av专区在线播放| 黄色日韩在线| 自拍偷自拍亚洲精品老妇| 午夜激情久久久久久久| 嫩草影院新地址| 免费看日本二区| 成人无遮挡网站| 国产淫片久久久久久久久| 国产亚洲一区二区精品| 久久草成人影院| 国产高清三级在线| 日韩欧美一区视频在线观看 | 麻豆成人av视频| 最近中文字幕2019免费版| 一区二区三区高清视频在线| 22中文网久久字幕| 日本色播在线视频| 美女黄网站色视频| 最近视频中文字幕2019在线8| 美女xxoo啪啪120秒动态图| 欧美激情在线99| 精品一区二区三区视频在线| 97精品久久久久久久久久精品| 精品久久久久久成人av| 久久久久久久亚洲中文字幕| 91精品一卡2卡3卡4卡| 亚洲成色77777| 天天躁夜夜躁狠狠久久av| 最新中文字幕久久久久| 亚洲av成人av| 亚洲最大成人av| 性色avwww在线观看| 亚洲精品成人av观看孕妇| 欧美极品一区二区三区四区| 一级爰片在线观看| 天天一区二区日本电影三级| 亚洲欧美一区二区三区黑人 | 一级毛片黄色毛片免费观看视频| 91aial.com中文字幕在线观看| 爱豆传媒免费全集在线观看| 久久精品久久精品一区二区三区| 久久久久精品性色| 久热久热在线精品观看| 免费观看精品视频网站| 欧美激情国产日韩精品一区| 国产午夜福利久久久久久| 精华霜和精华液先用哪个| 亚洲av成人av| 91在线精品国自产拍蜜月| 乱系列少妇在线播放| 午夜精品国产一区二区电影 | 免费黄色在线免费观看| 成年av动漫网址| 亚洲精华国产精华液的使用体验| 国产探花极品一区二区| 亚洲第一区二区三区不卡| 深夜a级毛片| 噜噜噜噜噜久久久久久91| 午夜老司机福利剧场| 成人二区视频| 波多野结衣巨乳人妻| 欧美三级亚洲精品| 91av网一区二区| 久久久久久久午夜电影| av卡一久久| 又爽又黄无遮挡网站| 成人美女网站在线观看视频| 中文资源天堂在线| 免费观看av网站的网址| 26uuu在线亚洲综合色| 国产精品日韩av在线免费观看| 一区二区三区四区激情视频| 国产中年淑女户外野战色| 久久精品国产鲁丝片午夜精品| 久久久久免费精品人妻一区二区| 亚洲av日韩在线播放| 免费观看a级毛片全部| 色哟哟·www| av卡一久久| 麻豆av噜噜一区二区三区| 免费少妇av软件| www.av在线官网国产| freevideosex欧美| 2018国产大陆天天弄谢| 国模一区二区三区四区视频| 欧美丝袜亚洲另类| 国产高清三级在线| 老司机影院毛片| 97人妻精品一区二区三区麻豆| 亚洲内射少妇av| 久久久久九九精品影院| 99热这里只有精品一区| 亚洲人成网站在线观看播放| av专区在线播放| 大香蕉97超碰在线| 亚洲精品视频女| 好男人视频免费观看在线| 亚洲精华国产精华液的使用体验| 国产极品天堂在线| 国产毛片a区久久久久| 色综合色国产| 全区人妻精品视频| 热99在线观看视频| 日本爱情动作片www.在线观看| 午夜激情欧美在线| 夜夜爽夜夜爽视频| 美女内射精品一级片tv| 91精品伊人久久大香线蕉| 国产美女午夜福利| 99热这里只有是精品50| 精品国产一区二区三区久久久樱花 | 国产精品1区2区在线观看.| 亚洲乱码一区二区免费版| 男女边吃奶边做爰视频| 亚洲av免费高清在线观看| 国产乱人偷精品视频| 国产成人一区二区在线| 全区人妻精品视频| 婷婷六月久久综合丁香| 激情 狠狠 欧美| 久久久久网色| 色尼玛亚洲综合影院| 不卡视频在线观看欧美| 日日啪夜夜撸| 国产精品三级大全| 丰满少妇做爰视频| 欧美 日韩 精品 国产| 91狼人影院| 日韩av在线免费看完整版不卡| 日本午夜av视频| 国产亚洲最大av| 51国产日韩欧美| 午夜视频国产福利| 22中文网久久字幕| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 精品一区二区免费观看| 一级毛片久久久久久久久女| 国产乱来视频区| 免费看av在线观看网站| 久久精品国产鲁丝片午夜精品| 可以在线观看毛片的网站| 成人高潮视频无遮挡免费网站| 午夜日本视频在线| 久久久久久国产a免费观看| 男人和女人高潮做爰伦理| 尤物成人国产欧美一区二区三区| h日本视频在线播放| 国产精品久久久久久精品电影| 欧美激情在线99| 久久久久久久国产电影| 看十八女毛片水多多多| 久久精品夜夜夜夜夜久久蜜豆| 欧美激情在线99| 九九爱精品视频在线观看| 看十八女毛片水多多多| 九九久久精品国产亚洲av麻豆| 精品久久久久久久末码| 国产乱人偷精品视频| 欧美三级亚洲精品| 国产一区亚洲一区在线观看| 国产在视频线精品| 最近最新中文字幕大全电影3| 一级毛片黄色毛片免费观看视频| 亚洲综合色惰| 亚洲婷婷狠狠爱综合网| 直男gayav资源| 大陆偷拍与自拍| 男人舔女人下体高潮全视频| 一区二区三区四区激情视频| 欧美丝袜亚洲另类| 亚洲性久久影院| 午夜福利在线在线| 国产一区二区亚洲精品在线观看| 国产黄色视频一区二区在线观看| 国产激情偷乱视频一区二区| 国产免费一级a男人的天堂| 黑人高潮一二区| 亚洲欧美清纯卡通| 精品久久久久久久久久久久久| 看十八女毛片水多多多| 99久久精品热视频| 日日摸夜夜添夜夜爱| 99久国产av精品| 国产一区二区三区综合在线观看 | 久久综合国产亚洲精品| 日本黄色片子视频| 91狼人影院| 亚洲精品日韩av片在线观看| 超碰av人人做人人爽久久| 免费看日本二区| 久久久久久久久久人人人人人人| 美女国产视频在线观看| 男女视频在线观看网站免费| 女的被弄到高潮叫床怎么办| 成年版毛片免费区| 国产精品av视频在线免费观看| 精品久久久精品久久久| 国产色爽女视频免费观看| 国产成人精品久久久久久| 中文精品一卡2卡3卡4更新| 能在线免费观看的黄片| 看黄色毛片网站| 街头女战士在线观看网站| 91久久精品国产一区二区三区| 久久精品久久久久久久性| 不卡视频在线观看欧美| 国产不卡一卡二| 乱人视频在线观看| 成人无遮挡网站| 老师上课跳d突然被开到最大视频| 亚洲成色77777| 少妇丰满av| 亚洲av福利一区| 99热6这里只有精品| 内地一区二区视频在线| 欧美变态另类bdsm刘玥| 久久久午夜欧美精品| 日韩成人av中文字幕在线观看| 欧美丝袜亚洲另类| 麻豆成人av视频| 国内揄拍国产精品人妻在线| 国产在视频线精品| 国产探花在线观看一区二区| 亚洲av中文av极速乱| 国产黄色小视频在线观看| 久久草成人影院| 亚洲经典国产精华液单| xxx大片免费视频| 午夜激情欧美在线| 老司机影院成人| 伊人久久国产一区二区| 一级毛片黄色毛片免费观看视频| 免费不卡的大黄色大毛片视频在线观看 | 国产一级毛片在线| 国产黄片美女视频| 黑人高潮一二区| 国产中年淑女户外野战色| 欧美+日韩+精品| 又大又黄又爽视频免费| 天美传媒精品一区二区| 国产精品蜜桃在线观看| 国产男女超爽视频在线观看| 丰满人妻一区二区三区视频av| 五月天丁香电影| 国产精品人妻久久久久久| 深夜a级毛片| 啦啦啦中文免费视频观看日本| 九九爱精品视频在线观看| 麻豆久久精品国产亚洲av| av一本久久久久| 国产精品久久久久久久久免| 免费av不卡在线播放| 国产 亚洲一区二区三区 | 国精品久久久久久国模美| 尤物成人国产欧美一区二区三区| 国产免费一级a男人的天堂| 国产高清国产精品国产三级 | 爱豆传媒免费全集在线观看| 人妻少妇偷人精品九色| 麻豆成人av视频| 亚洲美女视频黄频| 99久久精品国产国产毛片| 看黄色毛片网站| 日韩中字成人| 成人无遮挡网站| 赤兔流量卡办理| 男人舔女人下体高潮全视频| 亚洲av免费高清在线观看| 成人午夜精彩视频在线观看| 国产三级在线视频| 国产av国产精品国产| 国产色爽女视频免费观看| 国产极品天堂在线| 亚洲精品影视一区二区三区av| 夜夜爽夜夜爽视频| 国产黄频视频在线观看| 国产黄色小视频在线观看| av黄色大香蕉| 一区二区三区高清视频在线| 观看美女的网站| 色尼玛亚洲综合影院| 午夜福利网站1000一区二区三区| 一级二级三级毛片免费看| 精品亚洲乱码少妇综合久久| 天天躁夜夜躁狠狠久久av| 搡老妇女老女人老熟妇| 亚洲天堂国产精品一区在线| 91午夜精品亚洲一区二区三区| 91在线精品国自产拍蜜月| 老女人水多毛片| 亚洲精品亚洲一区二区| 欧美一区二区亚洲| 九九爱精品视频在线观看| av在线蜜桃| 欧美一区二区亚洲| 别揉我奶头 嗯啊视频| 九草在线视频观看| 国产成年人精品一区二区| 人妻系列 视频| 欧美日韩综合久久久久久| 亚洲最大成人av| 亚洲不卡免费看| 边亲边吃奶的免费视频| 亚洲av一区综合| 国产色爽女视频免费观看| 蜜臀久久99精品久久宅男| 成人无遮挡网站| kizo精华| 日韩制服骚丝袜av| 久99久视频精品免费| 免费无遮挡裸体视频| 国产亚洲91精品色在线| 亚洲精品456在线播放app| 人妻夜夜爽99麻豆av| 最近中文字幕高清免费大全6| 亚洲av不卡在线观看| 午夜福利网站1000一区二区三区| 一级毛片久久久久久久久女| 真实男女啪啪啪动态图| 亚洲真实伦在线观看| 亚洲精品国产av成人精品| 尾随美女入室| 色吧在线观看| 超碰97精品在线观看| 永久网站在线| 亚洲欧洲日产国产| 亚洲av不卡在线观看| 亚洲精品亚洲一区二区| 毛片一级片免费看久久久久| 国产激情偷乱视频一区二区| 亚洲怡红院男人天堂| 日韩一区二区三区影片| 美女脱内裤让男人舔精品视频| 偷拍熟女少妇极品色| 日韩欧美国产在线观看| 免费看a级黄色片| 国内精品宾馆在线| 99re6热这里在线精品视频| 777米奇影视久久| 中文字幕免费在线视频6| 亚洲av中文av极速乱| 一本久久精品| 日韩成人伦理影院| 亚洲怡红院男人天堂| 亚洲精品成人av观看孕妇| 精品不卡国产一区二区三区| 精品一区在线观看国产| 国产色爽女视频免费观看| 久久精品夜夜夜夜夜久久蜜豆| 在线免费观看不下载黄p国产| 免费看光身美女| 国产亚洲91精品色在线| 久久久久久久国产电影| 亚洲av国产av综合av卡| 欧美成人a在线观看| 色5月婷婷丁香| 午夜激情久久久久久久| 久久精品国产亚洲av天美| 国产黄频视频在线观看| 国内精品宾馆在线| 伦理电影大哥的女人| 国产精品日韩av在线免费观看| 国产精品麻豆人妻色哟哟久久 | 成人性生交大片免费视频hd| 国产精品1区2区在线观看.| 激情 狠狠 欧美| 99热这里只有是精品50| 97人妻精品一区二区三区麻豆| 51国产日韩欧美| 久久久久久久久久人人人人人人| 69人妻影院| 午夜视频国产福利| 爱豆传媒免费全集在线观看| 午夜福利成人在线免费观看| 人妻夜夜爽99麻豆av| 国语对白做爰xxxⅹ性视频网站| 国产伦在线观看视频一区| 国产亚洲午夜精品一区二区久久 | 一区二区三区免费毛片| 国产精品一二三区在线看| 成年女人看的毛片在线观看| 久久韩国三级中文字幕| 日日摸夜夜添夜夜添av毛片| 一边亲一边摸免费视频| 精品亚洲乱码少妇综合久久| 国产午夜精品久久久久久一区二区三区| 国产精品美女特级片免费视频播放器| 简卡轻食公司| 欧美3d第一页| 男的添女的下面高潮视频| 久久99热这里只频精品6学生| 日韩欧美一区视频在线观看 | 亚洲18禁久久av| 久久久久久久久久久丰满| 日本午夜av视频| 午夜激情福利司机影院| 亚洲电影在线观看av| 一二三四中文在线观看免费高清| 亚洲欧美成人精品一区二区| 日韩av免费高清视频| 色尼玛亚洲综合影院| 街头女战士在线观看网站| 亚洲国产色片| 一级毛片黄色毛片免费观看视频| 一个人观看的视频www高清免费观看| 国产午夜精品论理片| 淫秽高清视频在线观看| 久久精品熟女亚洲av麻豆精品 | 午夜福利视频1000在线观看| 成年版毛片免费区| 91在线精品国自产拍蜜月| 欧美高清成人免费视频www| 国产男人的电影天堂91| 亚洲av在线观看美女高潮| 久久精品国产自在天天线| 国产单亲对白刺激| 黄片无遮挡物在线观看| 在线 av 中文字幕| 熟女电影av网| 日韩欧美精品免费久久| 夫妻性生交免费视频一级片| 91在线精品国自产拍蜜月| 欧美人与善性xxx| 九色成人免费人妻av| 成人美女网站在线观看视频| 久久这里只有精品中国| 久久久久久久国产电影| av免费观看日本| 婷婷色av中文字幕| 日韩精品青青久久久久久| 在线 av 中文字幕| 三级经典国产精品| 丝袜美腿在线中文| 99久久九九国产精品国产免费| av在线播放精品| 国产成人精品福利久久| 午夜亚洲福利在线播放| 久久久久久久久久成人| 超碰av人人做人人爽久久| 精品少妇黑人巨大在线播放| 淫秽高清视频在线观看| 欧美变态另类bdsm刘玥| 夫妻午夜视频| 欧美潮喷喷水| 国产精品人妻久久久影院| 精品久久久噜噜| 又粗又硬又长又爽又黄的视频| 又黄又爽又刺激的免费视频.| 色综合亚洲欧美另类图片| 精品久久久久久久久久久久久| 亚洲av男天堂| 色尼玛亚洲综合影院| 免费电影在线观看免费观看| 精品久久久久久久久久久久久| 成人国产麻豆网| 亚洲不卡免费看| 菩萨蛮人人尽说江南好唐韦庄| 亚洲精品乱码久久久v下载方式| 精品国产三级普通话版| 三级国产精品片| 国产精品无大码| 特大巨黑吊av在线直播| 街头女战士在线观看网站| 麻豆av噜噜一区二区三区| 97人妻精品一区二区三区麻豆| 午夜精品国产一区二区电影 | av天堂中文字幕网| 97热精品久久久久久| 夫妻性生交免费视频一级片| 能在线免费看毛片的网站| 日本免费在线观看一区| 国产亚洲精品久久久com| 国产精品久久久久久久电影| 国产在视频线精品| 身体一侧抽搐| 亚洲国产精品成人久久小说| 人妻夜夜爽99麻豆av| 丰满少妇做爰视频| 高清视频免费观看一区二区 | 精品国内亚洲2022精品成人| 夫妻午夜视频| 日日摸夜夜添夜夜添av毛片| 视频中文字幕在线观看| 国产精品一区二区三区四区免费观看| 久久午夜福利片| av在线蜜桃| 午夜激情欧美在线| 国产精品无大码| 亚洲人成网站在线播| 亚洲综合色惰| 成人综合一区亚洲| 久久久精品94久久精品| 国产成人午夜福利电影在线观看| 免费看美女性在线毛片视频| 天天一区二区日本电影三级| 在线观看免费高清a一片| 国产高清不卡午夜福利| 男人和女人高潮做爰伦理| 老司机影院毛片| 日本一二三区视频观看| 亚洲精品aⅴ在线观看| 久久人人爽人人片av| 免费高清在线观看视频在线观看| 欧美成人精品欧美一级黄| 日本wwww免费看| 国产免费又黄又爽又色| 久久久久久久午夜电影| 中文资源天堂在线| 日韩成人av中文字幕在线观看| 一个人看的www免费观看视频| 亚洲欧美清纯卡通| 国内少妇人妻偷人精品xxx网站| 97精品久久久久久久久久精品| 精品人妻视频免费看| 午夜激情欧美在线| 亚洲成人中文字幕在线播放| 欧美成人精品欧美一级黄| 美女国产视频在线观看| 日韩电影二区| 综合色丁香网| 精品不卡国产一区二区三区| 亚洲国产色片| 久久99蜜桃精品久久| 亚洲精品国产av蜜桃| 亚洲欧美成人综合另类久久久| 真实男女啪啪啪动态图| 有码 亚洲区| 免费看不卡的av| 久久99热这里只频精品6学生| 亚洲无线观看免费| 女人十人毛片免费观看3o分钟| 成人亚洲欧美一区二区av| 国产精品嫩草影院av在线观看| 欧美日韩精品成人综合77777| 高清在线视频一区二区三区| 国产黄a三级三级三级人| 欧美+日韩+精品| 美女内射精品一级片tv| 三级国产精品欧美在线观看| 成年免费大片在线观看| 九九久久精品国产亚洲av麻豆|