• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于BERT與BiLSTM混合方法的網(wǎng)絡(luò)輿情非平衡文本情感分析*

    2022-04-28 08:58:52顧鳳云
    情報雜志 2022年4期
    關(guān)鍵詞:特征詞維度分類

    劉 繼 顧鳳云

    (新疆財經(jīng)大學(xué)統(tǒng)計與數(shù)據(jù)科學(xué)學(xué)學(xué)院 烏魯木齊 830012)

    隨著大數(shù)據(jù)時代的來臨,不同用戶通過社交媒體平臺(如微博、論壇等)產(chǎn)生了海量的情緒化數(shù)據(jù),而輿情文本情感分析發(fā)揮著非同小可的作用。目前,文本情感分析作為突發(fā)公共事件管理與控制的重要范疇,通過識別輿情文本情感傾向,由此發(fā)掘出網(wǎng)民產(chǎn)生情感極性的原因。網(wǎng)民情緒的表達會影響輿論傳播的廣度及其深度,若負面情緒快速傳播則不利于事件解決,還會惡化事態(tài)的發(fā)展形勢。因此,在重大突發(fā)事件管理中,輿情文本情感分析對輿情預(yù)警、有效引導(dǎo)及良性發(fā)展具有重大的意義[1]。

    1 相關(guān)研究

    情感分析是對主觀性文本中的情感和態(tài)度進行分類,主要方法為機器學(xué)習(xí)、深度學(xué)習(xí)等方法。從機器學(xué)習(xí)的視角出發(fā),基于機器學(xué)習(xí)[2]的文本傾向性分析方法需要使用語料庫,訓(xùn)練分類模型。如朱軍等人[3]對文本數(shù)據(jù)使用詞袋模型進行分類,考慮Word2Vec建立新的詞向量;在集成算法樸素貝葉斯與SVM[2]中,精準(zhǔn)率和召回率都有所提升。在文本分類上神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)取得顯著成效,利用搭建神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),構(gòu)成不同的神經(jīng)網(wǎng)絡(luò)算法如CNN、雙向LSTM、文本CNN等。Y.Kim[4]最早提出將CNN應(yīng)用于文本的傾向性分析,并得到較好的效果;在Y.Kim分析的基礎(chǔ)上,Conneau等人[5]采用了深度卷積網(wǎng)絡(luò)方法提出VDCNN模型。隨后預(yù)訓(xùn)練模型開始興起,在NLP領(lǐng)域有了重大突破;Vaswani等人[6]提出的BERT模型在評價指標(biāo)中得到更好的提升。Devlin等人[7]主要介紹BERT模型的實際價值,并在11個自然語言處理任務(wù)上獲得了較好的研究成果。段丹丹[8]用BERT模型對正負平衡的短文本數(shù)據(jù)進行預(yù)訓(xùn)練,用特征向量來表示語言模型,隨后將獲得的特征向量輸入Softmax進行分類,利用F1值作為評價指標(biāo)。李可悅等[9]采用BERT模型的預(yù)訓(xùn)練完成單條文本的特征向量表示,隨后有區(qū)別性地將特征向量輸入分類器,采用電商文本的樣本進行算法驗證。宋明等[10]通過爬蟲獲得微博非平衡文本數(shù)據(jù),將BERT模型的損失函數(shù)換為Focal Loss進行情感分析;分類結(jié)果在準(zhǔn)確性上進行驗證,中性偏高但是負向偏低。

    由于單模型的局限性,研究者開始探索混合模型。國顯達等人[11]利用混合CNN與雙向LSTM做文本情感分析,通過比較得出CNN與雙向LSTM[12]模型的優(yōu)越性。諶志群等[13]對文獻[12]進一步優(yōu)化,將BERT與雙向LSTM結(jié)合優(yōu)于CNN與雙向LSTM,采用平衡數(shù)據(jù)得到較好的評測效果。Cai等[14]對網(wǎng)民的情緒取向利用統(tǒng)計方法進行分類,然后使用BERT與BiLSTM的雙向編碼組合的預(yù)測方法,對用戶所表達的情緒傾向進行建模和預(yù)測。趙亞歐等[15]對不同類別的平衡樣本利用ELMo和Transformer的混合模型進行情感分類,在評價指標(biāo)上得到了提升。莊穆妮等[16]主要采用LDA主題模型與BERT模型,通過改進BERT預(yù)訓(xùn)練任務(wù)與詞向量深度融合的方式,多次累加深度預(yù)訓(xùn)練任務(wù)進而提高模型在情感分類中的精確度。

    上述研究中樣本數(shù)據(jù)基本屬于正負平衡數(shù)據(jù),但在實際爬取的文本數(shù)據(jù)中很少出現(xiàn)正負數(shù)據(jù)平衡的情況。非平衡文本數(shù)據(jù)會出現(xiàn)評測失衡的問題,小樣本數(shù)據(jù)易出現(xiàn)過擬合問題,基于此,本文提出了M2BERT-BiLSTM模型進行情感分析,對輿情非平衡文本進行有效分析。

    2M2BERT-BiLSTM模型構(gòu)建

    BERT[6]是從Transformer中衍生出來的預(yù)訓(xùn)練模型,可將其沿用至自然語言處理任務(wù)。Transformer是Google Brain中Ashish Vaswani等在Attention Is All You Need[6]中所提出的sequence2sequence模型,應(yīng)用方式主要是先進行預(yù)訓(xùn)練語言模型,然后適當(dāng)?shù)胤峙浣o下游任務(wù)如分類、標(biāo)記等。

    由于BERT是從Transformer中衍生的模型,Transformers模型包括encoder和decoder。此處主要說明encoder部分,考慮摒棄時間循環(huán)結(jié)構(gòu),主要依賴位置編碼來輔助建模。

    圖1Transformer模型結(jié)構(gòu)編碼器部分

    圖1為Transformer模型的編碼器部分。第1部分Transformer模型中沒有使用序列的順序信息,“位置編碼”提供每個字的位置信息給Transformer, 才能識別出語言中的順序關(guān)系。第2部分多頭自注意力機制實際上是由h個self-attention并行組成。輸入為Tembedding經(jīng)過線性變換得到Q、K、V(Q = linear_q(Tembedding)、K = linear_k(Tembedding)、V = linear_v(Tembedding))后同時經(jīng)過h次的放縮點積attention,得到多頭信息。將(1)式結(jié)果進行拼接,再通過線性變換得到的值作為多頭attention的輸出。

    (1)

    MultiHead(Q,K,V)=Concat(head1,…,headh)Wo

    (2)

    第3部分殘差連接,即在上步中注意力機制進行轉(zhuǎn)置使其維度與Tembedding一致,將兩者相加的作用是隱藏層可歸一為標(biāo)準(zhǔn)正態(tài)分布。在反向傳播時,為避免構(gòu)建BERT模型層次太深或出現(xiàn)梯度消失等問題,訓(xùn)練時常用的方法為殘差連接。

    Thidden=Activate(Linear(Linear(Tattention)))

    (3)

    第4部分前向傳播,即為兩層線性映射并用激活函數(shù)。

    BERT模型應(yīng)用方式主要是先進行預(yù)訓(xùn)練語言模型,然后適當(dāng)?shù)嘏浣o下游任務(wù)如分類、標(biāo)記等(見圖2)。BERT模型通過兩種無監(jiān)督方法相結(jié)合進行預(yù)訓(xùn)練;Masked LM主要為隨機遮蓋或替換單條文本里面任意字或詞,模型通過對剩余詞匯的理解,預(yù)測出被遮蓋或替換的詞。具體為以下內(nèi)容:

    圖2 語言模型任務(wù)

    a. 80%被替換成[mask]; 例如 我喜歡小貓?!蚁矚g小[mask]。

    b. 10%被替換成任意其他token;例如 我喜歡小貓?!蚁矚g小米。

    c. 10%原封不動.例如 我喜歡小貓—我喜歡小貓。

    另一種無監(jiān)督方法為Next Sentence Prediction。句子以[CLS]開始, 在兩句話之間和句末加[SEP], 此目的是讓模型理解兩個句子之間的聯(lián)系。訓(xùn)練輸入句子A和B,模型預(yù)測A的下句是不是為B。

    輸入文本數(shù)據(jù)的第一個標(biāo)記都是[CLS],對應(yīng)的是 Transformer 的輸出,是用來表示整個句子的,可用于下游的分類任務(wù)。

    原模型(圖3)隱藏層的計算結(jié)果里只要取出C(維度是Thidden∈R[batch size,sequence length,embedding dimension])進行混合模型的計算?,F(xiàn)沿著sequence length的維度分別求Maxpooling、Meanpooling、M2pooling。M2pooling即均值與最大池化進行鏈接(兩者鏈接是將兩者前后鏈接),Meanpooling即沿著句子長度維度只求均值,Maxpooling沿著句子長度維度只求最大值。均值池化會將大多數(shù)總體信息特征均等處理;最大值池化獲取的特征較稀疏,但會保留極化特征;均值與最大池化拼接會在保留多數(shù)總體信息特征的基礎(chǔ)上突出極化特征。

    (4)

    (5)

    M2pooling=concatenate(Meanpooling&Maxpooling)

    (6)

    圖3M2BERT-BiLSTM模型

    其中N表示embedding dimension維度; Thidden(1)表示Thidden中sequence length維度位置為1;M2pooling∈R[batch size ,embedding dimension*2];均值與最大池化拼接的方法就相當(dāng)于DOC2VEC的方法,將單條評論轉(zhuǎn)換成一條向量,轉(zhuǎn)換出向量的維度是一致的。因此通過gt作為BiLSTM的輸入,表示如下:

    gt=S1(Wg*Mt+bg)

    (7)

    其中t={1,2,…,Y},Wg(矩陣調(diào)整成與級聯(lián)后的維度相同)Wg∈Rdg*Y,bg為gt的偏置,Mt為最大值與均值拼接后的特征向量,S1為激活函數(shù)Sigmoid函數(shù)。

    輸入向量后需進到隱含層中,由于BiLSTM模型的隱含層分為向前隱含層與向后隱含層。向前隱含層h↑是通過t時刻從正向計算,而向后隱含層h↓是從反向計算,計算如下:

    (8)

    (9)

    隱含層在t時刻輸出的向量為Vt,計算如下:

    Vt=ht↑⊕ht↓

    (10)

    將進行隱含層ht↑與隱含層ht↓連接組合成特征向量H, 全連接層使用ReLU作為激活函數(shù),利用特征向量H的輸出作為輸出層,并采用Softmax函數(shù)進行分類。

    本文采用M2BERT-BiLSTM方法構(gòu)建模型,預(yù)測微博評論的情緒傾向。M2BERT作為上游部分,BiLSTM作為下游部分;混合模型不是簡單的權(quán)值組合模型,計算復(fù)雜度有所增加,但計算的準(zhǔn)確性上升。M2BERT具有學(xué)習(xí)附近單詞統(tǒng)計特征的能力,而BiLSTM具有學(xué)習(xí)上下文信息的能力,這符合人類語言系統(tǒng)的邏輯。

    3 “新型冠狀病毒肺炎”微博數(shù)據(jù)的測試分析

    3.1數(shù)據(jù)選取本文使用VG瀏覽器以“新型冠狀病毒肺炎”為關(guān)鍵詞采集有關(guān)話題的內(nèi)容,總共采集微博13 077條數(shù)據(jù),內(nèi)容為用戶名、正文、UID、評論內(nèi)容、bid。數(shù)據(jù)未帶傾向性的標(biāo)注,但要確保數(shù)據(jù)有效性,首先對文本內(nèi)容進行SnowNLP(自然語言處理)分類,再進行人工標(biāo)注(標(biāo)注分為正向、中性、負向三類)。通過人工與機器算法的對比分析,進一步調(diào)整得出較為準(zhǔn)確的正負語料。鑒于本文只研究情感二分類(即正向與負向),正向評論以1表示,負向評論以0表示。選取數(shù)據(jù)集80%作為訓(xùn)練集,20%作為測試集(見表1)。

    表1 微博的評論數(shù)據(jù)集合

    3.2參數(shù)設(shè)置在易用性與速度方面,PyTorch較優(yōu),因此本文模型利用PyTorch搭建。通常采用CPU,特殊樣本可以通過GPU加速。BERT模型中的動態(tài)學(xué)習(xí)率和提前終止(early stop)可以確定參數(shù)Num_epochs和Learning_rate。設(shè)置Num_epochs =7表明本文模型進行了7期訓(xùn)練;主要是根據(jù)記錄Num_epochs的AUC,如果當(dāng)前的AUC比上一個epoch沒有提升,則降低當(dāng)前的學(xué)習(xí)率,該測試中的AUC在7個epoch都沒有提升,即停止訓(xùn)練;則模型的學(xué)習(xí)率為5e-5。Batch表示每次輸入模型中訓(xùn)練的部分數(shù)據(jù),Batch_size為每個Batch中訓(xùn)練樣本的數(shù)量。Batch_size可以設(shè)置為16、32、64、128、256等,Batch_size=16、32、64的時候迭代次數(shù)增加,但訓(xùn)練速度過慢;Batch_size越大越能夠表現(xiàn)出全體數(shù)據(jù)的特征,確定的梯度下降方向越準(zhǔn)確;在設(shè)置為256的時候迭代次數(shù)減少,但造成參數(shù)修正緩慢;則Batch_size設(shè)置為128。Pad_size表示短評論文本進行填補,長評論文本進行切分處理;微博評論文本屬于短文本,因此將每條評論處理長度為20。在BERT[6]模型中Hidden_size設(shè)置為768,它表示模型隱藏層神經(jīng)元數(shù),在混合模型中沒有改變,將Hidden_size設(shè)置為768(見表2)。

    表2 參數(shù)設(shè)置

    3.3結(jié)果分析本文從準(zhǔn)確率(Precision_score)、召回率(Recall_score)、F1(F1-score)三個方面作為評價指標(biāo)。Precision是判別模型對負樣本的區(qū)分能力;Recall體現(xiàn)模型對正樣本的識別能力;只有當(dāng)精確率與召回率的數(shù)值同為1時F1值達到最大。若正負數(shù)據(jù)集為非平衡文本,在計算精確率與召回率時會出現(xiàn)差距。F1-score結(jié)合Precision與Recall兩個評價指標(biāo)可以更加全面的反映分類性能。F1值評估分類器性能時,分類器的性能越好F1值越接近于1,因此作為本文衡量實驗效果主要評價指標(biāo)。

    ①W2V-SVM:使用Jieba進行分詞并將數(shù)據(jù)轉(zhuǎn)換成list in list形式,初始化word2vec模型和詞表,各個詞向量用平均的方式生成整句對應(yīng)的向量。用矩陣生成建模,用轉(zhuǎn)換后的矩陣擬合SVM模型,對評論進行模型訓(xùn)練。

    ②W2V-Logistic:以上方法擬合Logistic模型,對評論進行模型訓(xùn)練。

    ③LSTM:將文本語料貼上標(biāo)簽并分詞,統(tǒng)計詞出現(xiàn)次數(shù)調(diào)用Keras中LSTM,計算預(yù)測值進行評價。

    ④W2V-TextCNN:將句子進行切分,去掉停用詞與標(biāo)點符號。Embedding層調(diào)用google開發(fā)的Word2Vec方法將文本向量映射為數(shù)字向量;經(jīng)過一維卷積層與最大池化層,最后接一層全連接的softmax層輸出每個類別的概率。

    ⑤BiLSTM:定義超參數(shù)大小,定義兩層雙向LSTM的模型結(jié)構(gòu),最后使用全連接層在經(jīng)過softmax輸出結(jié)果。

    ⑥BERT:數(shù)據(jù)預(yù)處理是中文數(shù)據(jù)集,所以使用預(yù)處理模型BERT-base,參數(shù)為原始參數(shù),利用預(yù)訓(xùn)練文本特征后輸入BERT模型分類。

    ⑦Mean-BERT: 從BERT模型隱藏層輸出的T沿著sequence length維度的序列使用、即均值池化

    ⑧Max-BERT:隱藏層輸出的T沿著sequence length維度使用即最大池化。

    ⑨M2BERT:對從隱藏層輸出的T沿著sequence length維度使用即均值與最大池化進行拼接。

    ⑩M2BERT-BiLSTM:最大與均值池化的拼接后輸入到BiLSTM的模型中。

    在BERT模型中數(shù)據(jù)集要shuffle,為防止過擬合加入dropout機制、L2正則等。

    從以上整體結(jié)果分析,非平衡文本數(shù)據(jù)的問題導(dǎo)致整體的分類效果偏向于對負樣本的區(qū)分;由于數(shù)據(jù)特殊性負面情緒比較明顯,正面情緒比較中性化則在判別的過程中出現(xiàn)了明顯區(qū)分。比較BERT與W2V-SVM模型的準(zhǔn)確率,W2V-SVM模型達到80.46%,與BERT模型僅差1.67%,說明在評價指標(biāo)準(zhǔn)確率上兩者的差距??;但是在召回率相差9.02%。W2V-Logistic在準(zhǔn)確率與召回率相對穩(wěn)定,但F1值比BERT模型低4.04%。LSTM與BiLSTM兩者相比,BiLSTM模型各項指標(biāo)均有不同程度的提升,說明前后兩個方向獲取文本信息將會更有優(yōu)勢,BiLSTM學(xué)習(xí)能力比單向的LSTM強。雙向LSTM模型雖然考慮了前后文本信息,但神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力加上詞向量的組合會更好一些;相比于BERT模型,W2V-TextCNN模型的F1值相差0.79%(見表3)。

    表3 基本模型結(jié)果比較

    Mean-BERT的測試結(jié)果受到樣本的影響,本文通過篩選出語義不明確的樣本進行測試,評價結(jié)果中Precision與Recall的得分相差較大;語義不明確的樣本信息特征均等處理,導(dǎo)致極化特征未凸顯,在非平衡文本數(shù)據(jù)的情況下忽略特征的情感含義造成模型難以識別計劃特征。從以上結(jié)果來看,Max-BERT模型提取出極化特征,但小樣本只將關(guān)鍵詞信息提取出來會使得文本信息大量丟失;評價指標(biāo)F1值達到79.88%,比BERT模型降低了0.52%,說明此模型比BERT略差。均值與最大化拼接不僅考慮當(dāng)前文本極化特征,而且不會丟失大部分文本信息,BERT模型與此模型F1值相差0.13%;F1值相比于均值池化與最大值池化有所提高(見表4)。在圖4中,根據(jù)AUC做出比較并選擇較優(yōu)模型進行集成處理。M2BERT-BiLSTM模型不僅在F1值上有較高的提升,并且在評判正負樣本分類的結(jié)果上也沒有太大的差距。在可控范圍之內(nèi)達到較優(yōu)的效果,在非平衡文本數(shù)據(jù)的情況下選擇M2BERT-BiLSTM模型進行情感分類。

    表4BERT改進模型結(jié)果比較

    圖4 不同模型的AUC比較

    圖4為BERT和M2BERT-BiLSTM模型訓(xùn)練集與測試集的AUC值比較。根據(jù)圖4可以分析出從epoch1到epoch5的過程中,M2BERT-BiLSTM模型訓(xùn)練集與測試集的AUC差距從12.55%逐漸縮小至1.07%;而相比于M2BERT-BiLSTM模型,BERT模型訓(xùn)練集與測試集的效果較差。因此在準(zhǔn)確性上M2BERT-BiLSTM模型比BERT模型有較好的效果。

    4 “新型冠狀病毒肺炎”事件的文本情感詞網(wǎng)分析

    通過M2BERT-BiLSTM模型對“新型冠狀病毒肺炎”事件的文本數(shù)據(jù)進行分類,分類后得到的正負向文本進行詞網(wǎng)分析。為增強正向與負向的特征詞顯示度,提取出每行評論文本特征詞后刪除事件名稱(新型冠狀病毒肺炎等),然后利用Gephi軟件進行繪圖。情感特征詞網(wǎng)可以更加直觀地反映出原文本語料的內(nèi)容,例如:“武漢”與“醫(yī)護”分開時,在不同的語境中表達不同的含義。正向可表達為“武漢的醫(yī)護人員辛苦了”,還可以表示“保護好奔赴于武漢的醫(yī)護人員”;負向可以表達“武漢醫(yī)護人員的隔離問題怎么辦”,還可能表達“武漢醫(yī)護人民出門要戴口罩”。

    圖5 新型冠狀病毒肺炎正面情緒文本特征詞網(wǎng)

    通過圖5可以得出,正面情緒特征詞網(wǎng)聚集較為明顯,其中主要聚集點有7部分。聚點1“保護”為出發(fā)點,網(wǎng)民正面情緒主要來自于醫(yī)護人員、社會工作者、物資及時的送達、“逆行者”等。在疫情期間各地醫(yī)護人員勇敢逆行,火速馳援湖北武漢,奮戰(zhàn)于一線的醫(yī)護人員積極帶領(lǐng)公眾共度難關(guān),因此保護醫(yī)護人員的安全成為公眾所期盼的愿望。聚點2“武漢”為中心點信息主要為相信國家和政府“封城”的措施是有效的,在家自行隔離能有效控制疫情傳播。聚點3“加油”為中心點信息希望全國各地疫情早日散去,堅持就是勝利,可以聽到好消息。聚點4以“接觸”為起點較為零散,主要展示出的信息為不能歡度春節(jié),但人們盡量做好防護措施。聚點5為小團體,主要表達為燃眉之急的事務(wù)為企業(yè)復(fù)工;由于疫情的原因居家隔離沒有經(jīng)濟來源。還說明此次疫情表現(xiàn)出科技的重要性,大數(shù)據(jù)技術(shù)可以提升疫情的有效管理。聚點6主要是網(wǎng)民希望出行盡快恢復(fù)正常;大多網(wǎng)民從未有過長時間的居家隔離,因此群眾們還未適應(yīng)。聚點7為我國在第一時間防止疫情擴散,萬眾一心抗擊疫情。其余為散落詞團,可先不作為重點考慮。

    圖6 新型冠狀病毒肺炎負面情緒文本特征詞網(wǎng)

    從圖6整體可以得出,負面情緒特征詞網(wǎng)中言語離散,說明負向的語言較為單一且不聚集。負面情緒成團較少,但是明顯成團的地方需要特別關(guān)注,其中主要聚集點有5部分。聚點1“野生”“海鮮”“市場”等詞可知疫情發(fā)現(xiàn)地在海鮮市場,得出野生海鮮市場會造成公眾負面情緒高漲,而北京新發(fā)地市場的三文魚等水產(chǎn)品檢測出新冠病毒,將會引起公眾情緒的二次爆發(fā)。為防止引起公眾負面情緒波動,相關(guān)單位應(yīng)對各地所有海鮮市場等易發(fā)生疫情的市場做出規(guī)范的防控措施;加強對肉類、海鮮等貨物的監(jiān)測監(jiān)管,掌握其來源和流向;加強工作人員的健康管理,外來人員的體溫檢測等措施;通過官方平臺將采取的措施及時公布,使公眾輿論不產(chǎn)生大幅度上升。聚點2“武漢”為中心點,“造謠”“報道”“軌跡”為環(huán)繞點可知,疫情得到有效防控,但各地陸續(xù)出現(xiàn)無癥狀感染者。通過各大平臺,相關(guān)單位應(yīng)將感染患者的行動軌跡及時公布、對于疫情制定的措施及時有效報道,以免公民隨意猜測,容易形成謠言無限擴散從而造成不必要的恐慌。通過聚點3以“隔離”為出發(fā)點,“外地”“檢測”“謠言”“傳播”為輔助點分析,各地區(qū)對于外來人員首先做核酸檢測,并且對于有疑似癥狀者采取恰當(dāng)?shù)尼t(yī)學(xué)觀察;對于外來人員的核酸檢測給予證明,防止人員行動不便。聚點4為“醫(yī)類方面”“口罩”的原因主要可以從兩個角度出發(fā):一是在疫情初發(fā)階段口罩的稀缺;二是在全國各地仍有感染患者,口罩負面情緒上漲,從側(cè)面反映出疫情情況好轉(zhuǎn)已有人放松警惕。關(guān)于醫(yī)藥的傳言,相關(guān)單位要及時回應(yīng),以防止公眾盲目相信并出現(xiàn)搶購的情況。聚點5為分散點,主要討論病毒的潛伏期、公布航班的情況等。

    5 結(jié) 語

    本文緊緊圍繞“新型冠狀病毒肺炎”事件的相關(guān)話題,根據(jù)有關(guān)的知識探討了輿情非平衡文本數(shù)據(jù)的情感分析。對微博相關(guān)的內(nèi)容進行抓取,通過人工與機器算法的對比分析得出較為準(zhǔn)確的語料,在通過M2BERT-BiLSTM模型對輿情非平衡文本數(shù)據(jù)進行情感分類。運用正負向評論分別計算行特征詞與共現(xiàn)矩陣,利用Gephi中模塊度畫出正向情緒特征詞網(wǎng)與負向情緒特征詞網(wǎng),更加清晰了解輿情的情感特征;根據(jù)輿情文本的特征詞網(wǎng)分析出事件產(chǎn)生正面情緒與負面情緒的主要原因,有助于相關(guān)部門通過相關(guān)的分析及時采取措施。本研究也存在不足之處,采集的數(shù)據(jù)集不大以至于未能挖掘更多的情感特征以供情感分析,在后續(xù)研究中將擴大數(shù)據(jù)范圍進行深入的研究,為輿情的分析與引導(dǎo)提供更好的建議。

    猜你喜歡
    特征詞維度分類
    分類算一算
    淺論詩中“史”識的四個維度
    中華詩詞(2019年7期)2019-11-25 01:43:00
    分類討論求坐標(biāo)
    基于改進TFIDF算法的郵件分類技術(shù)
    數(shù)據(jù)分析中的分類討論
    產(chǎn)品評論文本中特征詞提取及其關(guān)聯(lián)模型構(gòu)建與應(yīng)用
    教你一招:數(shù)的分類
    光的維度
    燈與照明(2016年4期)2016-06-05 09:01:45
    “五個維度”解有機化學(xué)推斷題
    面向文本分類的特征詞選取方法研究與改進
    欧美区成人在线视频| 欧美精品亚洲一区二区| 亚洲,一卡二卡三卡| 大码成人一级视频| av播播在线观看一区| 人体艺术视频欧美日本| 尾随美女入室| 欧美激情国产日韩精品一区| 五月开心婷婷网| 黑丝袜美女国产一区| 国产精品久久久久久久电影| 纵有疾风起免费观看全集完整版| av线在线观看网站| 亚洲成色77777| 又黄又爽又刺激的免费视频.| 久久久久国产精品人妻一区二区| 最近的中文字幕免费完整| 天堂俺去俺来也www色官网| 啦啦啦啦在线视频资源| 国产精品久久久久久久久免| 欧美成人午夜免费资源| 免费黄频网站在线观看国产| 青春草视频在线免费观看| 蜜桃在线观看..| 国产在线视频一区二区| 网址你懂的国产日韩在线| 国产精品一区二区在线观看99| 这个男人来自地球电影免费观看 | 老女人水多毛片| 成人高潮视频无遮挡免费网站| 久久久午夜欧美精品| 国产精品免费大片| 亚洲欧美日韩另类电影网站 | 精品一区二区免费观看| 高清毛片免费看| 免费看光身美女| 亚洲精品日韩在线中文字幕| 欧美国产精品一级二级三级 | 黑人高潮一二区| 免费不卡的大黄色大毛片视频在线观看| 色婷婷av一区二区三区视频| 国国产精品蜜臀av免费| 免费av中文字幕在线| 亚洲国产欧美在线一区| 大码成人一级视频| 少妇的逼好多水| 国产男女内射视频| 久久6这里有精品| 视频中文字幕在线观看| 国产成人aa在线观看| 国产久久久一区二区三区| 老女人水多毛片| av专区在线播放| 欧美+日韩+精品| 精品酒店卫生间| 欧美区成人在线视频| 日韩一本色道免费dvd| 一级片'在线观看视频| 欧美精品国产亚洲| 97在线视频观看| 久久人人爽人人爽人人片va| 91精品伊人久久大香线蕉| 性色avwww在线观看| 久久午夜福利片| 日韩成人av中文字幕在线观看| av又黄又爽大尺度在线免费看| 成人漫画全彩无遮挡| 在线观看美女被高潮喷水网站| 欧美日韩视频高清一区二区三区二| 亚洲精品国产成人久久av| 嫩草影院新地址| 久久人人爽av亚洲精品天堂 | 99久久精品一区二区三区| 国产色爽女视频免费观看| 亚洲人成网站高清观看| 日日摸夜夜添夜夜添av毛片| 亚洲国产高清在线一区二区三| 亚洲精品,欧美精品| av免费在线看不卡| 青春草亚洲视频在线观看| 国产av国产精品国产| 91在线精品国自产拍蜜月| 青春草亚洲视频在线观看| 亚洲欧美日韩卡通动漫| 精品一区二区三区视频在线| 亚洲成人一二三区av| 日韩成人av中文字幕在线观看| 国产精品爽爽va在线观看网站| 日本av手机在线免费观看| 18禁裸乳无遮挡免费网站照片| 亚洲高清免费不卡视频| 天美传媒精品一区二区| 精品少妇久久久久久888优播| 亚洲丝袜综合中文字幕| 男女无遮挡免费网站观看| 婷婷色av中文字幕| 国产精品国产三级国产av玫瑰| 欧美精品国产亚洲| 啦啦啦视频在线资源免费观看| 免费黄色在线免费观看| 免费少妇av软件| 欧美最新免费一区二区三区| 久久99精品国语久久久| 国产男人的电影天堂91| av卡一久久| 99热全是精品| 国产成人精品一,二区| 欧美老熟妇乱子伦牲交| 99精国产麻豆久久婷婷| 久久久亚洲精品成人影院| 亚洲欧洲国产日韩| 欧美国产精品一级二级三级 | 中国国产av一级| 成人无遮挡网站| 少妇人妻精品综合一区二区| 免费看日本二区| 国产成人a区在线观看| 蜜桃在线观看..| 国产av码专区亚洲av| 亚洲av中文av极速乱| 亚洲精品色激情综合| av国产久精品久网站免费入址| 三级国产精品片| 欧美一级a爱片免费观看看| 国产精品99久久久久久久久| 日日啪夜夜撸| 夫妻性生交免费视频一级片| 国内少妇人妻偷人精品xxx网站| 亚洲精品视频女| 亚洲成人中文字幕在线播放| 日本vs欧美在线观看视频 | 精品久久国产蜜桃| 女人十人毛片免费观看3o分钟| 激情 狠狠 欧美| 能在线免费看毛片的网站| 99热这里只有是精品50| 国内少妇人妻偷人精品xxx网站| 噜噜噜噜噜久久久久久91| 亚洲av综合色区一区| 国产成人精品福利久久| 日韩中文字幕视频在线看片 | 国产精品无大码| 久久6这里有精品| av在线app专区| av.在线天堂| 少妇的逼好多水| 麻豆乱淫一区二区| 久久久久久久久久人人人人人人| 国产亚洲午夜精品一区二区久久| 干丝袜人妻中文字幕| 久久久久国产网址| 有码 亚洲区| 啦啦啦啦在线视频资源| 亚洲成人av在线免费| 最近最新中文字幕免费大全7| 精品一区二区三区视频在线| 大香蕉久久网| 亚洲国产精品专区欧美| 韩国av在线不卡| 91狼人影院| 久久精品国产自在天天线| 亚洲高清免费不卡视频| 蜜桃在线观看..| 观看av在线不卡| 97热精品久久久久久| 国产免费又黄又爽又色| 亚洲天堂av无毛| 国模一区二区三区四区视频| 97超碰精品成人国产| 免费观看a级毛片全部| 成人无遮挡网站| 国产欧美日韩精品一区二区| 婷婷色综合大香蕉| 亚洲欧美中文字幕日韩二区| 色5月婷婷丁香| 日韩制服骚丝袜av| 国产 精品1| 国产成人一区二区在线| www.色视频.com| 亚洲国产精品成人久久小说| 国产成人精品福利久久| 男女国产视频网站| 极品少妇高潮喷水抽搐| 汤姆久久久久久久影院中文字幕| 一本久久精品| 国产伦在线观看视频一区| 国内揄拍国产精品人妻在线| 人妻少妇偷人精品九色| 夫妻性生交免费视频一级片| 成人18禁高潮啪啪吃奶动态图 | 91在线精品国自产拍蜜月| 中文字幕人妻熟人妻熟丝袜美| 成人毛片60女人毛片免费| 少妇裸体淫交视频免费看高清| 99热这里只有精品一区| 婷婷色麻豆天堂久久| 久久6这里有精品| 亚洲第一av免费看| 日本av免费视频播放| 亚洲欧美清纯卡通| 亚洲,欧美,日韩| 久久99热这里只有精品18| 日韩 亚洲 欧美在线| 国产精品99久久久久久久久| 有码 亚洲区| 欧美 日韩 精品 国产| 免费观看在线日韩| 久久6这里有精品| 亚洲国产毛片av蜜桃av| 亚洲成人中文字幕在线播放| 51国产日韩欧美| 色综合色国产| 国产精品爽爽va在线观看网站| 高清毛片免费看| 午夜福利高清视频| 国模一区二区三区四区视频| 久久精品国产亚洲av涩爱| 亚洲真实伦在线观看| 久久久精品94久久精品| 久久99热这里只频精品6学生| 欧美精品人与动牲交sv欧美| 美女主播在线视频| 深爱激情五月婷婷| 亚洲欧美日韩另类电影网站 | 99精国产麻豆久久婷婷| 少妇人妻久久综合中文| 天天躁日日操中文字幕| 中文字幕亚洲精品专区| 亚洲久久久国产精品| 只有这里有精品99| 日韩成人av中文字幕在线观看| 国产无遮挡羞羞视频在线观看| 久久精品国产亚洲av涩爱| 欧美bdsm另类| 毛片一级片免费看久久久久| 高清在线视频一区二区三区| 三级经典国产精品| 亚洲av电影在线观看一区二区三区| 亚洲不卡免费看| 午夜福利高清视频| 成人漫画全彩无遮挡| 热re99久久精品国产66热6| 欧美区成人在线视频| 欧美少妇被猛烈插入视频| 亚洲精品一区蜜桃| 制服丝袜香蕉在线| 欧美另类一区| 99热这里只有是精品50| 国产乱人视频| 欧美日韩视频高清一区二区三区二| tube8黄色片| 亚洲美女黄色视频免费看| 日本欧美国产在线视频| 色网站视频免费| 一级二级三级毛片免费看| 国产精品麻豆人妻色哟哟久久| 免费人妻精品一区二区三区视频| 99久国产av精品国产电影| 亚洲欧美日韩东京热| 国产亚洲91精品色在线| 亚洲av不卡在线观看| 永久免费av网站大全| 亚洲aⅴ乱码一区二区在线播放| 国产av一区二区精品久久 | 国产成人aa在线观看| 国产精品一区二区在线观看99| 久久久久人妻精品一区果冻| 在线观看免费视频网站a站| 一区二区av电影网| 极品教师在线视频| 亚洲精品乱码久久久久久按摩| 久久午夜福利片| 国产伦理片在线播放av一区| 精品久久国产蜜桃| 99热这里只有是精品在线观看| 久久久久久久国产电影| 午夜免费男女啪啪视频观看| 夜夜看夜夜爽夜夜摸| 欧美精品一区二区免费开放| 黑人高潮一二区| 日韩一区二区三区影片| 九九在线视频观看精品| 国国产精品蜜臀av免费| 建设人人有责人人尽责人人享有的 | 国产成人91sexporn| 亚洲精品国产色婷婷电影| 国产老妇伦熟女老妇高清| 美女高潮的动态| 国产又色又爽无遮挡免| 亚洲经典国产精华液单| 中文天堂在线官网| 又粗又硬又长又爽又黄的视频| 婷婷色综合www| 亚洲第一av免费看| 99视频精品全部免费 在线| 日韩中字成人| av卡一久久| 久久国产精品男人的天堂亚洲 | 草草在线视频免费看| 美女福利国产在线 | 亚洲国产日韩一区二区| 男女啪啪激烈高潮av片| 一级毛片电影观看| 91精品伊人久久大香线蕉| 91精品国产九色| 人妻制服诱惑在线中文字幕| 日韩一本色道免费dvd| 亚洲欧洲日产国产| 国模一区二区三区四区视频| 国产v大片淫在线免费观看| 亚洲丝袜综合中文字幕| 网址你懂的国产日韩在线| 欧美精品一区二区免费开放| 亚洲精品色激情综合| 国产精品嫩草影院av在线观看| 少妇人妻精品综合一区二区| 久久久久久久久久人人人人人人| 国产精品三级大全| 欧美成人精品欧美一级黄| 免费观看在线日韩| 国产精品一区二区在线不卡| 内地一区二区视频在线| 午夜福利网站1000一区二区三区| 天堂8中文在线网| 尤物成人国产欧美一区二区三区| 亚洲精品aⅴ在线观看| 国产综合精华液| videos熟女内射| 亚洲激情五月婷婷啪啪| 91精品国产国语对白视频| 精品亚洲乱码少妇综合久久| 午夜福利网站1000一区二区三区| 久久99热这里只频精品6学生| 免费黄频网站在线观看国产| 午夜日本视频在线| 国产av国产精品国产| 精品视频人人做人人爽| av播播在线观看一区| 午夜福利视频精品| 中文在线观看免费www的网站| 22中文网久久字幕| 精品久久久久久久末码| 国产精品一区二区在线观看99| 久久97久久精品| 中国美白少妇内射xxxbb| 国产亚洲午夜精品一区二区久久| 亚洲丝袜综合中文字幕| 夫妻午夜视频| 日韩欧美一区视频在线观看 | 美女cb高潮喷水在线观看| 人人妻人人澡人人爽人人夜夜| 亚洲,一卡二卡三卡| 久久久欧美国产精品| 国内揄拍国产精品人妻在线| 亚洲精品国产色婷婷电影| 在线观看av片永久免费下载| 精品久久国产蜜桃| 女的被弄到高潮叫床怎么办| 国产有黄有色有爽视频| a级毛片免费高清观看在线播放| 99热这里只有精品一区| 人妻夜夜爽99麻豆av| 伦理电影免费视频| 新久久久久国产一级毛片| 国产乱人视频| 免费观看无遮挡的男女| 精品亚洲乱码少妇综合久久| 老熟女久久久| 国产精品一区二区在线观看99| 爱豆传媒免费全集在线观看| 黄色视频在线播放观看不卡| a级一级毛片免费在线观看| 色婷婷av一区二区三区视频| 婷婷色综合www| av在线app专区| 99精国产麻豆久久婷婷| 又大又黄又爽视频免费| 午夜免费鲁丝| 小蜜桃在线观看免费完整版高清| 91午夜精品亚洲一区二区三区| 亚洲成人手机| 国产午夜精品一二区理论片| 我的老师免费观看完整版| 成人国产av品久久久| 久久久久精品久久久久真实原创| 国产老妇伦熟女老妇高清| 波野结衣二区三区在线| 激情五月婷婷亚洲| 成年av动漫网址| 成年美女黄网站色视频大全免费 | 99国产精品免费福利视频| 亚洲伊人久久精品综合| 亚洲精品第二区| 伦理电影大哥的女人| 国国产精品蜜臀av免费| 老熟女久久久| 午夜福利在线在线| 一本久久精品| 一个人看视频在线观看www免费| 中文精品一卡2卡3卡4更新| 蜜桃亚洲精品一区二区三区| 亚洲av日韩在线播放| 久久综合国产亚洲精品| 老女人水多毛片| 少妇高潮的动态图| 18禁在线无遮挡免费观看视频| 国产男女超爽视频在线观看| videossex国产| 在线天堂最新版资源| 大香蕉97超碰在线| 成人毛片60女人毛片免费| 夜夜骑夜夜射夜夜干| 国产有黄有色有爽视频| 久久久久精品性色| 日日啪夜夜撸| 蜜桃亚洲精品一区二区三区| 国产精品秋霞免费鲁丝片| 高清在线视频一区二区三区| 日日撸夜夜添| 男女无遮挡免费网站观看| 欧美少妇被猛烈插入视频| 97超碰精品成人国产| 超碰av人人做人人爽久久| 久久精品国产亚洲av涩爱| 国精品久久久久久国模美| 久久女婷五月综合色啪小说| 亚洲四区av| 欧美xxⅹ黑人| 亚洲精品第二区| av播播在线观看一区| 如何舔出高潮| 亚洲伊人久久精品综合| 成人综合一区亚洲| 国产精品爽爽va在线观看网站| 日日摸夜夜添夜夜添av毛片| 啦啦啦视频在线资源免费观看| 成人亚洲精品一区在线观看 | 欧美老熟妇乱子伦牲交| 久久精品久久精品一区二区三区| 亚洲成人av在线免费| 免费观看的影片在线观看| 91久久精品电影网| 天堂俺去俺来也www色官网| 精华霜和精华液先用哪个| 欧美日韩亚洲高清精品| 国产伦精品一区二区三区视频9| 国产乱人偷精品视频| 高清日韩中文字幕在线| 一级毛片aaaaaa免费看小| 久久久久人妻精品一区果冻| 久久久久国产网址| 一区二区三区乱码不卡18| 国产免费福利视频在线观看| 欧美xxxx性猛交bbbb| 只有这里有精品99| 欧美高清性xxxxhd video| 日韩大片免费观看网站| av视频免费观看在线观看| 国产精品女同一区二区软件| 人人妻人人澡人人爽人人夜夜| 亚洲欧美清纯卡通| 中文字幕av成人在线电影| 欧美丝袜亚洲另类| 成人国产麻豆网| 久久久久久久亚洲中文字幕| 精品久久久久久久久av| 日日摸夜夜添夜夜添av毛片| 视频中文字幕在线观看| 欧美日韩综合久久久久久| 我要看黄色一级片免费的| 日韩人妻高清精品专区| 青春草国产在线视频| 3wmmmm亚洲av在线观看| 久久久a久久爽久久v久久| 亚洲欧洲日产国产| 十八禁网站网址无遮挡 | 免费黄网站久久成人精品| 日韩大片免费观看网站| 成人午夜精彩视频在线观看| 免费大片18禁| 波野结衣二区三区在线| 亚洲国产色片| 日本色播在线视频| av在线老鸭窝| 一级毛片电影观看| 国产精品一区二区三区四区免费观看| 夜夜骑夜夜射夜夜干| 亚洲激情五月婷婷啪啪| 中文字幕制服av| 爱豆传媒免费全集在线观看| 免费看不卡的av| 啦啦啦视频在线资源免费观看| 高清午夜精品一区二区三区| 51国产日韩欧美| 精华霜和精华液先用哪个| 精品亚洲成国产av| 伦理电影免费视频| 成人免费观看视频高清| 成年人午夜在线观看视频| 街头女战士在线观看网站| 老熟女久久久| 国产亚洲午夜精品一区二区久久| 伊人久久精品亚洲午夜| 夜夜骑夜夜射夜夜干| 亚洲精品视频女| 久久久久久人妻| 五月玫瑰六月丁香| 欧美人与善性xxx| 能在线免费看毛片的网站| 国产乱人视频| 中文字幕免费在线视频6| 日韩三级伦理在线观看| 国产伦理片在线播放av一区| 成人无遮挡网站| 亚洲精品亚洲一区二区| 熟妇人妻不卡中文字幕| 一边亲一边摸免费视频| 不卡视频在线观看欧美| 免费大片18禁| 十八禁网站网址无遮挡 | 亚洲丝袜综合中文字幕| 国产精品秋霞免费鲁丝片| 妹子高潮喷水视频| 在线观看av片永久免费下载| 国产片特级美女逼逼视频| 99精国产麻豆久久婷婷| 97热精品久久久久久| av福利片在线观看| 精品久久久久久久末码| 欧美日韩综合久久久久久| 丰满少妇做爰视频| 欧美最新免费一区二区三区| 18禁在线无遮挡免费观看视频| 网址你懂的国产日韩在线| 男男h啪啪无遮挡| 免费av不卡在线播放| 久久午夜福利片| 大陆偷拍与自拍| 久久国内精品自在自线图片| 精品国产露脸久久av麻豆| 美女cb高潮喷水在线观看| 亚洲电影在线观看av| 性色avwww在线观看| 日本免费在线观看一区| 2021少妇久久久久久久久久久| 国产成人精品久久久久久| 成年免费大片在线观看| 丰满人妻一区二区三区视频av| 国产毛片在线视频| 夜夜骑夜夜射夜夜干| 中文欧美无线码| 一级爰片在线观看| 少妇裸体淫交视频免费看高清| 免费观看av网站的网址| 国产69精品久久久久777片| 97超视频在线观看视频| 欧美人与善性xxx| 热99国产精品久久久久久7| 亚洲精品日韩av片在线观看| 国产成人a区在线观看| 亚洲精品久久午夜乱码| 寂寞人妻少妇视频99o| 欧美 日韩 精品 国产| 一边亲一边摸免费视频| 亚洲中文av在线| 水蜜桃什么品种好| 99久久精品热视频| 久久毛片免费看一区二区三区| 18禁在线无遮挡免费观看视频| freevideosex欧美| videos熟女内射| 在线观看美女被高潮喷水网站| 日本-黄色视频高清免费观看| 香蕉精品网在线| 777米奇影视久久| 国产成人精品福利久久| 国产美女午夜福利| 日本vs欧美在线观看视频 | 久久久午夜欧美精品| 精品亚洲乱码少妇综合久久| 舔av片在线| 日本-黄色视频高清免费观看| 国产精品伦人一区二区| 亚洲av福利一区| 亚洲国产日韩一区二区| 国产美女午夜福利| 久久久成人免费电影| 91狼人影院| 色婷婷久久久亚洲欧美| 亚洲欧美成人综合另类久久久| 国产在线男女| 午夜福利影视在线免费观看| 深夜a级毛片| 男人添女人高潮全过程视频| 久久国产亚洲av麻豆专区| 午夜日本视频在线| 最近最新中文字幕大全电影3| 国产黄片视频在线免费观看| 欧美日韩综合久久久久久| 日韩亚洲欧美综合| 这个男人来自地球电影免费观看 | 久久久精品94久久精品| 欧美变态另类bdsm刘玥| 高清不卡的av网站| 高清av免费在线| 大又大粗又爽又黄少妇毛片口| 我要看日韩黄色一级片| 成人亚洲精品一区在线观看 | 国产伦理片在线播放av一区| 国产精品久久久久久av不卡| 国内少妇人妻偷人精品xxx网站| 国产精品久久久久久久久免| av又黄又爽大尺度在线免费看| 18+在线观看网站| 卡戴珊不雅视频在线播放|