基于統(tǒng)計特征的微博垃圾用戶檢測系統(tǒng)研究

范雨萌　易秀雙　倪石建　王興偉

摘? ?要：微博作為國內(nèi)用戶規(guī)模較大的在線社交網(wǎng)絡(luò)平臺之一，面臨著來自垃圾用戶的困擾。垃圾用戶通過微博平臺發(fā)起網(wǎng)絡(luò)攻擊，污染網(wǎng)絡(luò)環(huán)境、威脅用戶隱私安全，甚至造成了經(jīng)濟損失，因此如何有效地檢測垃圾用戶是一個亟待解決的問題。目前，基于機器學(xué)習(xí)的檢測方法并沒有考慮時間的變化性，隨著時間推移其檢測性能下降。文章采用機器學(xué)習(xí)分類方法挖掘用戶信息與微博信息的統(tǒng)計特征，基于Spark大數(shù)據(jù)平臺，設(shè)計并實現(xiàn)了一套微博垃圾用戶檢測系統(tǒng)。該系統(tǒng)結(jié)合傳統(tǒng)的離線檢測與在線檢測，通過在線檢測解決時間的變化性問題，優(yōu)化了傳統(tǒng)離線檢測的性能。文章的實驗結(jié)果表明該系統(tǒng)離線檢測部分的準(zhǔn)確率最高可達到93.4%，在線檢測部分的準(zhǔn)確率最高可達到94.8%，均高于微博反垃圾系統(tǒng)的67.4%。

關(guān)鍵詞：垃圾用戶檢測;離線檢測;在線檢測;半監(jiān)督學(xué)習(xí)檢測;主動學(xué)習(xí)檢測

中圖分類號：TP391? ? ? ? ? 文獻標(biāo)識碼：A

Abstract： As one of the large-scale online social networking platforms for domestic users， Weibo faces troubles from spammers. Spammers launch attacks through weibo platform， polluting the network environment，threatening users' security of privacy， and even causing economic losses. Therefore， how to effectively detect spammers is an urgent problem to be solved. Current detection methods based on machine learning do not take into account the variability of time， and their detection performance declines over time. In this paper， the machine learning classification method is used to mine the statistical characteristics of user information and microblog information，designed and implemented a set of Weibo spammer detection system based on Spark big data platform. The system combines traditional offline detection and online detection. Solving the problem of time variability through online detection， and optimizes the performance of traditional offline detection. The experimental results in this paper show that the accuracy of the off-line detection part of the system can reach 93.4%， and the accuracy of the online detection part can reach 94.8%， which is higher than 67.4% of Weibo anti-spam system.

Key words： spammer detection; offline detection; online detection; semi-supervised learning detection ; active learning detection

1 引言

隨著互聯(lián)網(wǎng)的飛速發(fā)展，人們越來越依靠網(wǎng)絡(luò)進行日常活動[1]，微博等在線社交網(wǎng)絡(luò)已成為人們交流互動的重要平臺，同時也為垃圾用戶提供了傳播惡意消息的機會。大量垃圾用戶的評論和轉(zhuǎn)發(fā)淹沒了正常用戶的消息，影響用戶上網(wǎng)體驗。有的垃圾用戶發(fā)布的消息含虛假信息，甚至還會鏈入含木馬的釣魚網(wǎng)站，威脅用戶的隱私和財產(chǎn)安全。因此，如何營造一個可靠安全的網(wǎng)絡(luò)環(huán)境，有效地在微博社交平臺進行垃圾用戶檢測成為一個關(guān)鍵的問題。

目前檢測垃圾用戶的方案主要有三類。第一類是基于社交網(wǎng)絡(luò)圖的相關(guān)算法。Yang[2]等人應(yīng)用隨機游走方法對社交網(wǎng)絡(luò)上的虛假垃圾賬戶進行了檢測識別。Gong[3]等人通過二進制隨機變量將每個用戶標(biāo)記為正常用戶或垃圾用戶，然后使用馬爾可夫隨機場計算用戶良性的概率。第二類是基于文本內(nèi)容的檢測方法。Hu[4]等人利用E-Mail、短信息、Web等其他媒體中惡意垃圾用戶的文檔，與Twitter 中的文檔共同組成跨媒體知識庫模型來識別垃圾用戶。第三類是基于機器學(xué)習(xí)算法的檢測方法。Cao[5]等人提出轉(zhuǎn)發(fā)消息樹定義并從中提取特征來訓(xùn)練分類器，以找到將某些可疑消息轉(zhuǎn)發(fā)到一起的隱藏可疑帳戶。Fu[6]等人提出從用戶的時間演化模式中提取特征，然后將無監(jiān)督聚類和監(jiān)督分類相結(jié)合，以檢測不斷變化的垃圾用戶。Cao[7]等人通過分析轉(zhuǎn)發(fā)行為與惡意URL傳播之間的聯(lián)系，提出了三種基于轉(zhuǎn)發(fā)的特性，將這些功能與其他社交功能相結(jié)合，以訓(xùn)練分類器識別惡意URL，從而識別垃圾用戶。機器學(xué)習(xí)檢測是大數(shù)據(jù)時代使用最為廣泛的解決方案，但是一些檢測算法未考慮時間的變化性。

本文通過對用戶信息和微博信息進行挖掘，確定了四大類統(tǒng)計型數(shù)值特征，采用單分類機器學(xué)習(xí)檢測模型與集成機器學(xué)習(xí)檢測模型進行離線垃圾用戶檢測。而針對離線檢測存在的問題，提出了對應(yīng)的解決方案，包括半監(jiān)督學(xué)習(xí)檢測方法、主動學(xué)習(xí)檢測方法、離線數(shù)據(jù)更新機制，對這三種方法進行融合得到微博垃圾用戶在線檢測方案。經(jīng)過實驗證明本文系統(tǒng)比微博反垃圾系統(tǒng)檢測效果要好，有效、可行，具有一定的實際應(yīng)用價值。

2 垃圾用戶檢測方法

2.1 離線檢測方法

（1）特征選擇

本文通過對微博用戶文本內(nèi)容、互動性信息、個人信息的特點進行分析，提取了用戶行為特征、微博整體特征、原創(chuàng)微博特征、轉(zhuǎn)發(fā)微博特征四大統(tǒng)計特征。

1）用戶行為特征包括用戶互動性特征、注冊時間特征、用戶信息相關(guān)特征三大類。用戶互動性特征包含關(guān)注數(shù)、粉絲數(shù)、微博數(shù)及相關(guān)組合特征微博數(shù)/粉絲數(shù)、關(guān)注數(shù)/粉絲數(shù)、用戶名譽度;注冊時間特征為微博注冊時間，垃圾用戶大多注冊時間很短;用戶信息相關(guān)特征包括0-1型特征，即是否含有生日信息、是否含有簡介信息、是否含有興趣標(biāo)簽、是否是認(rèn)證用戶、是否包含教育工作信息與會員等級。

2）微博整體性特征包括微博互動性特征 、微博發(fā)表平臺特征、微博時間特征、內(nèi)容符號信息特征四大類。微博互動性特征包括微博轉(zhuǎn)發(fā)平均數(shù)、微博評論平均數(shù)、微博點贊平均數(shù);微博平臺特征為使用互聯(lián)網(wǎng)平臺占比;內(nèi)容符號特征包括微博含有鏈接平均數(shù)，含有@平均數(shù)，含有熱門話題標(biāo)簽平均數(shù)。

3）原創(chuàng)微博特征包括原創(chuàng)微博地址特征、原創(chuàng)微博圖片視頻特征、原創(chuàng)微博文本特征三大類。原創(chuàng)微博地址特征為原創(chuàng)微博含有地址占比;原創(chuàng)微博圖片視頻特征包括原創(chuàng)微博配圖平均數(shù)、原創(chuàng)微博秒拍視頻平均數(shù);原創(chuàng)微博文本特征為原創(chuàng)微博字?jǐn)?shù)平均數(shù)。

4）轉(zhuǎn)發(fā)微博特征包括轉(zhuǎn)發(fā)理由特征、轉(zhuǎn)發(fā)原文特征、轉(zhuǎn)發(fā)時間特征三大類。轉(zhuǎn)發(fā)理由特征包括轉(zhuǎn)發(fā)理由平均字?jǐn)?shù)、轉(zhuǎn)發(fā)微博中無理由占比、轉(zhuǎn)發(fā)微博當(dāng)次轉(zhuǎn)發(fā)距原始微博轉(zhuǎn)發(fā)次數(shù)平均數(shù);轉(zhuǎn)發(fā)原文特征包括互動性特征：原文轉(zhuǎn)發(fā)平均數(shù)、原文評論平均數(shù)、原文點贊平均數(shù)、原文微博字?jǐn)?shù)平均數(shù);轉(zhuǎn)發(fā)時間特征為轉(zhuǎn)發(fā)微博與原文時間間隔平均數(shù)。

為了精簡特征，提高檢測分類器分類性能，對與類標(biāo)簽相關(guān)性不是很強的特征進行淘汰處理。方差選擇法作為預(yù)處理方法，Pearson相關(guān)系數(shù)、互信息選擇法、卡方檢驗法作為特征選擇方法，每種方法均會產(chǎn)生特征重要性權(quán)重排名，取三種方法權(quán)重平均數(shù)，進行綜合排名，最后選擇k個排名較高特征，其中k根據(jù)實驗結(jié)果選取為25。

（2）檢測模型

本文采用單分類檢測模型包括邏輯斯蒂回歸，支持向量機檢測分類模型，集成檢測模型包括隨機森林，梯度提升決策樹分類模型共四種分類器，對其相關(guān)參數(shù)進行調(diào)優(yōu)，使之更加高效適用于微博垃圾用戶離線檢測分類環(huán)境。最后，結(jié)合實驗結(jié)果與各自檢測分類器的特點，選擇檢測效果較好、模型訓(xùn)練復(fù)雜度適中、魯棒性較強的隨機森林檢測分類器作為最終的離線檢測分類器，同時也作為本文在線檢測訓(xùn)練的默認(rèn)檢測分類器。

2.2 在線檢測方法

（1）半監(jiān)督學(xué)習(xí)檢測

為了解決離線檢測類標(biāo)注效率低的問題，引入半監(jiān)督學(xué)習(xí)可以為初始數(shù)據(jù)集中大量的未標(biāo)注的微博用戶樣本進行類標(biāo)注[8]。本文的半監(jiān)督學(xué)習(xí)算法主要包含兩部分，基于圖的類標(biāo)簽傳播半監(jiān)督分類算法與離線檢測驗證機制。采用半監(jiān)督分類方法后，初始微博用戶數(shù)據(jù)集全部均獲得了類標(biāo)簽，為了提高類標(biāo)簽的置信度，本文采用離線檢測驗證機制。離線檢測分類器驗證機制是對全部未獲得類標(biāo)注的微博用戶樣本采用離線檢測分類器進行檢測，留下強類型的微博用戶樣本，與半監(jiān)督分類方法獲得的類標(biāo)簽相結(jié)合，如果同時滿足，則加入到半監(jiān)督學(xué)習(xí)訓(xùn)練集中。將半監(jiān)督學(xué)習(xí)訓(xùn)練集與初始有類標(biāo)注訓(xùn)練集合并，形成在線檢測的初始訓(xùn)練集。

（2）主動學(xué)習(xí)檢測

隨著時間的推移，由于后續(xù)沒有引入新的微博用戶數(shù)據(jù)，離線檢測分類器檢測性能會有一定的下降。通過主動學(xué)習(xí)可以實現(xiàn)引入少量價值度高的新的微博用戶樣本對分類器進行更新迭代。本文結(jié)合基于不確定性采樣和基于委員會采樣兩種主動學(xué)習(xí)采樣方法，采用基于最大不確定性的停止準(zhǔn)則，通過對微博用戶數(shù)據(jù)進行分析和相關(guān)實驗比較，停止準(zhǔn)則閾值選擇范圍為0.889～1.0。每種采樣方法得到對應(yīng)的用戶數(shù)據(jù)集，如果微博用戶樣本存在于兩種用戶數(shù)據(jù)集中，則將該用戶加入本次在線更新微博用戶數(shù)據(jù)集。最終將本次在線更新微博用戶數(shù)據(jù)集加入到上次檢測的微博用戶訓(xùn)練集中一起訓(xùn)練，從而得到本次的在線檢測分類器。

（3）離線數(shù)據(jù)在線更新機制

垃圾用戶特點會隨著時間發(fā)展發(fā)生變化，比如前幾年的惡意URL這種垃圾行為在當(dāng)今微博平臺中已經(jīng)很少見了。主動學(xué)習(xí)檢測方法雖然會引入新的微博用戶數(shù)據(jù)，但是老舊樣本仍占據(jù)著較大比例，嚴(yán)重影響分類模型的檢測效果，因此本文提出了離線數(shù)據(jù)在線更新機制。綜合考慮微博用戶發(fā)表微博頻率并結(jié)合數(shù)據(jù)獲取效率，選擇15天更新頻率進行更新微博用戶數(shù)據(jù)，包含兩個操作，更新操作與淘汰操作。

更新操作包括采集最新用戶相關(guān)信息，采集用戶發(fā)表最新的50條微博，保存到本地數(shù)據(jù)庫中。利用在線檢測分類器，計算出當(dāng)前用戶的檢測概率值。與上次檢測的概率值進行比較，對于那些檢測概率值有較大變化的微博用戶，需要提交人工校驗，重新進行類標(biāo)簽標(biāo)注。如果檢測概率值變化超過閾值時，同樣需要供人工校驗重新標(biāo)注。

淘汰操作是對于一些老舊的微博用戶樣本，如果出現(xiàn)長時間沒有更新、每次更新內(nèi)容較少者、當(dāng)前用戶被封禁這三種情況，那么就可以認(rèn)為這些用戶為不活躍用戶，對于這類的微博用戶樣本則需要進行淘汰。對于每一個樣本，如果當(dāng)前未被封禁但是未更新次數(shù)達到四次，當(dāng)前被封禁且未更新次達到兩次，如果當(dāng)前未封禁但是每次更新微博數(shù)低于兩條且累計次數(shù)達到六次，那么當(dāng)前微博用戶需要從當(dāng)次在線檢測訓(xùn)練集中淘汰掉，不再參與后續(xù)在線檢測訓(xùn)練。

3 實驗結(jié)果與分析

3.1 實驗環(huán)境

選擇五臺PC機作為集群節(jié)點，其中一臺作為Master節(jié)點，四臺作為Worker節(jié)點部署安裝Hadoop，之后在各自節(jié)點基礎(chǔ)上安裝Spark。HDFS集群在Master節(jié)點部署NameNode與ResourceManager，在Worker節(jié)點上部署DataNode與NodeManager。

3.2 實驗數(shù)據(jù)

（1）初始數(shù)據(jù)集

初始數(shù)據(jù)集為爬蟲獲取到的9萬條微博用戶共計約450萬條微博用戶數(shù)據(jù)，之后隨機選擇1萬名微博用戶進行類標(biāo)簽標(biāo)注，獲取到2168個垃圾用戶與7089個正常用戶，743個中間地帶用戶，而其余8萬條微博用戶數(shù)據(jù)沒有進行標(biāo)注。

（2）在線數(shù)據(jù)集

由于后續(xù)需要有離線數(shù)據(jù)更新操作，因此每月在線獲取2萬微博用戶數(shù)據(jù)作為在線數(shù)據(jù)集，采集4個月共計8萬微博用戶約400萬條微博數(shù)據(jù)。每個月隨機選擇部分微博用戶數(shù)據(jù)進行類標(biāo)注后，選出1400垃圾用戶與1400正常用戶作為相關(guān)檢測的驗證數(shù)據(jù)集。

（3）高級僵尸粉

其他渠道購買的高級粉絲數(shù)據(jù)共計5042名微博用戶約25萬條微博數(shù)據(jù)，這部分大多為高級僵尸粉，主要用于微博平臺檢測與本文提出微博垃圾用戶檢測系統(tǒng)之間比較。

3.3 離線檢測模型對比實驗

對離線檢測采用的兩種模型四種分類器的相關(guān)參數(shù)進行調(diào)整優(yōu)化，經(jīng)過相關(guān)特征處理后，進行訓(xùn)練得到離線檢測分類器。不同檢測分類器的檢測效果結(jié)果如圖1所示。

通過結(jié)果可以發(fā)現(xiàn)集成模型檢測效果較好。而集成模型中，隨機森林與梯度提升決策樹檢測效率相當(dāng)，但是隨機梯度提升決策樹模型訓(xùn)練較為復(fù)雜，模型訓(xùn)練收斂時間較長，與后續(xù)在線檢測所要求的高效準(zhǔn)確原則相沖突。且隨機森林具有隨機選取數(shù)據(jù)可避免過擬合、對數(shù)據(jù)不平衡不敏感、數(shù)據(jù)噪聲與缺失值較多情況下仍然表現(xiàn)較好等優(yōu)點，這樣隨機森林檢測分類器可以很好地克服在線檢測中一些新的微博用戶數(shù)據(jù)問題。本文后續(xù)在線檢測訓(xùn)練使用隨機森林作為默認(rèn)檢測分類器。

3.4 在線檢測實驗

（1）半監(jiān)督學(xué)習(xí)檢測與離線檢測對比試驗

實驗選擇全部初始數(shù)據(jù)集作為訓(xùn)練集，選擇8月度進行類標(biāo)記的微博數(shù)據(jù)作為測試集，采用離線檢測默認(rèn)的隨機森林檢測分類器與半監(jiān)督學(xué)習(xí)檢測分類器作比較，選擇F1值指標(biāo)作為展示結(jié)果如圖2所示?？梢园l(fā)現(xiàn)半監(jiān)督學(xué)習(xí)檢測的效果比離線檢測方法的檢測效果要好，這是因為半監(jiān)督學(xué)習(xí)檢測方法引入了大量的未標(biāo)注初始微博用戶數(shù)據(jù)集后為檢測分類器提供大量信息，使檢測分類器更趨于完善。

（2）離線數(shù)據(jù)更新機制實驗

本次實驗選擇四個月在線采集數(shù)據(jù)集中除去標(biāo)注用戶數(shù)據(jù)外全部微博用戶數(shù)據(jù)作為訓(xùn)練在線檢測訓(xùn)練數(shù)據(jù)集，而每個月單獨標(biāo)注的微博用戶數(shù)據(jù)作為測試數(shù)據(jù)集，采用離線檢測分類器、半監(jiān)督學(xué)習(xí)檢測得到的初始檢測分類器與在線檢測分類器進行三種方法進行對比實驗，選擇垃圾用戶與正常用戶的精準(zhǔn)率、召回率兩個指標(biāo)進行展示，實驗結(jié)果如圖3所示。

通過實驗結(jié)果可以發(fā)現(xiàn)在線檢測分類模型的檢測效果比離線檢測與半監(jiān)督學(xué)習(xí)檢測效果要好，而且隨著時間推移檢測分類性能基本維持在較高水平。反觀傳統(tǒng)檢測方法與半監(jiān)督檢測方法均會出現(xiàn)隨著時間推移檢測性能下降的問題。

（3）與微博反垃圾平臺對比實驗

選擇四個月在線采集數(shù)據(jù)集除去標(biāo)注用戶數(shù)據(jù)外全部微博用戶數(shù)據(jù)作為訓(xùn)練在線檢測訓(xùn)練數(shù)據(jù)集，選擇2018年5月購買的微博高級粉絲作為測試數(shù)據(jù)集a，2018年11月購買的微博高級粉絲作為測試數(shù)據(jù)集b，測試數(shù)據(jù)集a中的微博用戶經(jīng)過每月兩次更新且同步更新至11月，如果期間被封禁則保留上月度數(shù)據(jù)。采用微博反垃圾系統(tǒng)檢測、離線檢測分類器、半監(jiān)督檢測得到的初始檢測分類器、在線檢測分類器，對預(yù)測數(shù)據(jù)集a在7月、9月、11月三個月度的檢測情況與預(yù)測數(shù)據(jù)b在12月初檢測情況進行對比，結(jié)果如圖4所示。

可以發(fā)現(xiàn)，本文提出的微博垃圾用戶檢測系統(tǒng)有著較高的準(zhǔn)確率，可以很好地檢測微博垃圾用戶，且在線檢測分類器檢測效果十分顯著，隨著時間推移其檢測效果依然可以維持較高水平，可以很好的適應(yīng)數(shù)據(jù)的變化性。高級假粉絲這種垃圾用戶有著類似正常用戶轉(zhuǎn)發(fā)、發(fā)表微博、簽到等行為，因而微博反垃圾系統(tǒng)檢測效果不是很好，但是本文提出的微博垃圾用戶檢測系統(tǒng)可以很好地對之檢測。

4 結(jié)束語

本文針對微博用戶的特點，并對微博用戶數(shù)據(jù)做相關(guān)統(tǒng)計分析，建立了基于四大類統(tǒng)計型數(shù)值特征，然后采用機器學(xué)習(xí)分類方法訓(xùn)練得到離線檢測分類器。為了解決時間的變化性，在其基礎(chǔ)上采用半監(jiān)督學(xué)習(xí)檢測方法、主動學(xué)習(xí)檢測方法與離線數(shù)據(jù)更新機制三種方法構(gòu)成的在線檢測方案進行微博垃圾用戶檢測，并達到了很好的檢測效果。

本系統(tǒng)雖然采用全面謹(jǐn)慎原則的類標(biāo)簽判定方法，但是實際檢測中還是會出現(xiàn)將正常用戶判成垃圾用戶的情況，僅依靠機器學(xué)習(xí)檢測分類不能完全解決這個問題，因此可以再探索添加一個模型對垃圾用戶進一步處理，避免誤判。

基金項目：

1.國家重點研發(fā)計劃項目（項目編號：2017YFB0801701）;

2.國家自然科學(xué)基金資助項目（項目編號：61572123）;

3.遼寧省高校創(chuàng)新團隊支持計劃資助項目（項目編號：LT2016007）;

4.賽爾網(wǎng)絡(luò)創(chuàng)新項目（項目編號：NGII20160616）。

參考文獻

[1] Liu Yuchen， Wang Wei . Privacy mining and emotional intelligence portrait in social networks[J]. Cyberspace Security， 2019， 10（2）： 1-8.

[2] Yang Z， Xue J， Yang X， et al. VoteTrust： Leveraging Friend Invitation Graph to Defend against Social Network Sybils[J]. IEEE Transactions on Dependable & Secure Computing， 2016， 13（4）：488-501.

[3] Gong N Z ， Frank M ， Mittal P . SybilBelief： A Semi-Supervised Learning Approach for Structure-Based Sybil Detection[J]. IEEE Transactions on Information Forensics & Security， 2017， 9（6）：976-987.

[4] Hu X， Tang J， Liu H. Leveraging knowledge across media for spammer detection in microblogging[C]//Proceedings of the 37th international ACM SIGIR conference on Research & development in information retrieval. ACM， 2014： 547-556.

[5] Cao J ， Fu Q ， Li Q ， et al. Discovering hidden suspicious accounts in online social networks[J]. Information Sciences， 2017， 394-395（C）：123-140.

[6] Fu Q， Feng B， Guo D， et al. Combating the evolving spammers in online social networks[J]. Computers & Security， 2018， 72： 60-73.

[7] Cao J， Li Q， Ji Y， et al. Detection of Forwarding-Based Malicious URLs in Online Social Networks[J]. International Journal of Parallel Programming， 2016， 44（1）：163-180.

[8] 劉建偉，劉媛，羅雄麟.半監(jiān)督學(xué)習(xí)方法[J].計算機學(xué)報， 2015（8）：1592-1617.

作者簡介：

范雨萌（1997-），女，漢族，遼寧鞍山人，東北大學(xué)，碩士;主要研究方向和關(guān)注領(lǐng)域：大數(shù)據(jù)、分布式拒絕服務(wù)攻擊檢測。

易秀雙（1969-），男，漢族，內(nèi)蒙古赤峰人，博士，東北大學(xué)教授;主要研究方向和關(guān)注領(lǐng)域：下一代互聯(lián)網(wǎng)、網(wǎng)絡(luò)安全及大數(shù)據(jù)分析。

倪石建（1994-），男，漢族，安徽人，東北大學(xué)，碩士;主要研究方向和關(guān)注領(lǐng)域：網(wǎng)絡(luò)安全和虛擬現(xiàn)實技術(shù)。

王興偉（1968-），男，漢族，遼寧蓋州人，東北大學(xué)，博士，教授，博士生導(dǎo)師;主要研究方向和關(guān)注領(lǐng)域：未來互聯(lián)網(wǎng)、云計算、網(wǎng)絡(luò)安全和信息安全。