基于LDA模型的博客垃圾評(píng)論發(fā)現(xiàn)

刁宇峰，楊 亮，林鴻飛

(大連理工大學(xué) 信息檢索研究室，遼寧 大連 116024)

1 引言

Blog的全名是Weblog，意思是“網(wǎng)絡(luò)日志”，是繼E-mail、BBS、IM之后出現(xiàn)的第四種網(wǎng)絡(luò)交流方式，是網(wǎng)絡(luò)時(shí)代的個(gè)人讀者文摘，是一種表達(dá)個(gè)人思想、網(wǎng)絡(luò)鏈接、內(nèi)容的日志，按照時(shí)間順序排列，并且不斷更新的出版方式。簡(jiǎn)言之，Blog就是以網(wǎng)絡(luò)作為載體，簡(jiǎn)易、迅速、便捷地發(fā)布自己的心得，及時(shí)、有效、輕松地與他人進(jìn)行交流，再集豐富多彩的個(gè)性化展示于一體的綜合性平臺(tái)。因此，與傳統(tǒng)的論壇(BBS)相比，Blog更能展示個(gè)性，更有針對(duì)性；與普通網(wǎng)頁相比，Blog又擁有更強(qiáng)大的互動(dòng)功能。Blog信息的形式包括文本、圖片、音頻、視頻等多種媒體格式, Blog由博文和評(píng)論兩部分構(gòu)成。

隨著整個(gè)互聯(lián)網(wǎng)業(yè)的迅速發(fā)展，作為一種新興事物，Blog正處于高速的發(fā)展時(shí)期，互聯(lián)網(wǎng)上的Blog數(shù)量一直在急劇的增長(zhǎng)，Blog已經(jīng)成為互聯(lián)網(wǎng)上一種重要的信息源。Blog賦予了數(shù)以百萬計(jì)人自由地發(fā)表言論的權(quán)利，因此，Blog評(píng)論信息數(shù)量龐大，并且具有多樣性，同時(shí)也會(huì)含有大量的垃圾評(píng)論(Opinion spam)，會(huì)嚴(yán)重地干擾用戶的閱讀和使用。近年來，人們?cè)絹碓綗嶂杂诜治鲈诰€的評(píng)論信息及其極性，更希望在相關(guān)評(píng)論上搜集有用信息，因此，垃圾評(píng)論的發(fā)現(xiàn)也是愈加重要。

本文在這里主要討論在Blog領(lǐng)域中垃圾評(píng)論的信息。在現(xiàn)今，垃圾信息的研究已經(jīng)成為一個(gè)重要的研究領(lǐng)域，比如說研究熱點(diǎn)垃圾網(wǎng)頁(Web spam)。在當(dāng)今Blog大量信息下,由于經(jīng)濟(jì)或宣傳等效應(yīng)，Web spam是普遍存在的。Web spam[1]的目標(biāo)是為了吸引人們?yōu)g覽這些頁面，而采取若干手段使該網(wǎng)頁在搜索引擎中享有較高的排名。Web spam有諸多相關(guān)的因素，主要的有： 垃圾內(nèi)容(Content spam)和垃圾鏈接(Link spam)[2]。Link spam是指在鏈接上存在垃圾信息，此鏈接并沒有指向真正的評(píng)論信息。Content spam試圖在目標(biāo)網(wǎng)頁中添加與內(nèi)容無關(guān)的詞，用以欺騙搜索引擎排名。而Opinion spam同Content spam類似，均是在內(nèi)容上對(duì)信息進(jìn)行分析處理，但是在Blog領(lǐng)域內(nèi)，在評(píng)論中除了相關(guān)評(píng)論，還會(huì)存在與博文的主題毫不相關(guān)的其他評(píng)論信息，即為本文研究的Opinion spam。

Opinion spam的初步處理同垃圾郵件(E-mail spam)類似，對(duì)大多數(shù)用戶，Email spam大部分都是沒有主動(dòng)訂閱的廣告、電子期刊等宣傳品，其基本特征是“不請(qǐng)自來”、帶有商業(yè)目的或者政治目的，實(shí)際上，垃圾郵件的大部分都是采用基于規(guī)則的方式進(jìn)行處理[3]。在初步處理中，Opinion spam也可以采用該方法，但是對(duì)于剩余Opinion spam，需要尋找更有效的方法進(jìn)行檢測(cè)發(fā)現(xiàn)。

在國(guó)內(nèi)外，無論是工業(yè)界還是學(xué)術(shù)界，越來越多的研究者關(guān)注產(chǎn)品中的評(píng)論信息[4-5]。Liu等人首次調(diào)研產(chǎn)品評(píng)論中的垃圾信息，并提出行之有效的解決方法[6-7]，要將Opinion spam分為三類： (1)非可信評(píng)論，(2)品牌效應(yīng)評(píng)論，(3)無內(nèi)容評(píng)論。對(duì)于第二、三類，主要是看作二值分類問題進(jìn)行處理。他們通過研究Opinion spam信息固有的特點(diǎn)，發(fā)現(xiàn)充分能夠代表Opinion spam的特征，并用這些特征建立分類模型，識(shí)別垃圾評(píng)論。在這里，本文主要處理的是Blog領(lǐng)域的Opinion spam問題，與上述方法不同的是會(huì)考慮到Blog的博文信息。

本文對(duì)Blog中評(píng)論信息進(jìn)行分析，發(fā)現(xiàn)主要有兩類Opinion spam： 顯式垃圾評(píng)論和隱式垃圾評(píng)論。針對(duì)上述兩種類型，本文分析Opinion spam的特點(diǎn)，在新浪博客語料集上，對(duì)于顯式垃圾評(píng)論，采取類似于處理垃圾郵件(Email spam)的處理方式[3]，使用基于規(guī)則的方法進(jìn)行識(shí)別。在此基礎(chǔ)上，對(duì)于隱式垃圾評(píng)論，本文采用LDA這種主題模型來發(fā)現(xiàn)主題信息，通過基于主題的特征選取和基于主題的檢索模型兩種方法，進(jìn)而發(fā)現(xiàn)隱式垃圾評(píng)論，最終過濾Opinion spam，這樣能夠幫助人們將大量的Blog評(píng)論信息按話題相關(guān)程度進(jìn)行組織，并將過濾后的評(píng)論呈現(xiàn)給用戶。

本文主要解決垃圾評(píng)論問題，具體方法在下面詳細(xì)介紹： 第2節(jié)主要介紹一些相關(guān)工作；第3節(jié)主要介紹本文的核心算法—基于LDA的垃圾評(píng)論發(fā)現(xiàn)，主要有基于主題的特征選取和基于主題的檢索模型兩種方法；第4節(jié)是實(shí)驗(yàn)流程以及結(jié)果分析；最后，在第5節(jié)中總結(jié)工作并計(jì)劃下一步工作。

2 相關(guān)工作

2.1 情感詞匯本體

本文使用的外部資源是大連理工大學(xué)信息檢索實(shí)驗(yàn)室的情感詞匯本體[8](以下簡(jiǎn)稱情感本體)，該情感本體將情感分為7大類20小類。情感詞匯本體通過一個(gè)三元組來描述：

Lexicon=(B,R,E)

其中B:表示詞匯的基本信息，主要包括編號(hào)、詞條，對(duì)應(yīng)英文、詞性、錄入者和版本信息。R代表詞匯之間的同義關(guān)系，即表示該詞匯與哪些詞匯有同義的關(guān)系。E代表詞匯的情感信息，包括情感類別、情感強(qiáng)度、情感極性，是情感詞匯描述框架中比較重要的一部分。

情感本體的基本知識(shí)主要來源于現(xiàn)有的一些詞典和語義網(wǎng)絡(luò)。其中詞典包括《現(xiàn)代漢語分類詞典》、《漢語褒貶義詞語用法詞典》、《漢語形容詞用法詞典》、《中華成語大詞典》、《漢語熟語詞典》、《新世紀(jì)漢語新詞詞典》。語義知識(shí)網(wǎng)絡(luò)有《知網(wǎng)》和WordNet。另外還加入了《漢語情感系統(tǒng)中情感劃分的研究》中的部分詞匯。因此覆蓋面是比較全面的。

目前，該情感詞匯本體收錄情感詞匯共17 156個(gè)，為句子級(jí)、段落級(jí)和篇章級(jí)的情感計(jì)算提供了詞匯基礎(chǔ)和分析依據(jù)。

2.2 LDA模型基本思想

Latent Dirichlet Allocation(LDA)模型是Blei等在2003年提出的[9]，屬于主題模型(Topic Models，是當(dāng)前文本表示研究的主要范式)的一種。作為一種產(chǎn)生式模型，LDA模型已經(jīng)成功的應(yīng)用到文本分類，信息檢索等諸多文本相關(guān)的領(lǐng)域[1，3，9-13]。

圖1 LDA的圖模型表示形式

LDA是一個(gè)多層的產(chǎn)生式全概率生成模型，是典型的有向概率圖模型，是一種對(duì)文本數(shù)據(jù)的主題信息進(jìn)行建模的方法[15]，如圖1所示，包含詞、主題和文檔三層結(jié)構(gòu)。給定一個(gè)文檔集合，LDA 將每個(gè)文檔表示為一個(gè)主題集合，每個(gè)主題是一個(gè)多項(xiàng)式分布，用來捕獲詞之間的相關(guān)信息。在LDA中，這些主題被所有文檔所共享；每個(gè)文檔有一個(gè)特定的主題比例。LDA由文檔層的參數(shù)(α,β)確定，α反映了文檔集中隱含主題間的相對(duì)強(qiáng)弱，β代表了所有隱含主題自身的概率分布。θ代表文檔中各隱含主題的比重，z表示文檔分配在每個(gè)詞上的隱含主題比重，w是文檔的詞向量表式。N為文檔集中文檔個(gè)數(shù)，Nd表示該文檔的詞總數(shù)。

LDA模型較之LSI/PLSI等模型有著突出的優(yōu)點(diǎn)[14]： 首先LDA模型是全概率生成模型，因此具有清晰的內(nèi)在結(jié)構(gòu)，并且可以利用高效的概率推理算法進(jìn)行計(jì)算；再者，LDA模型是通過無監(jiān)督方法進(jìn)行訓(xùn)練的，與訓(xùn)練樣本數(shù)量無關(guān)，因此更適合處理大規(guī)模文本語料。近幾年，LDA模型、LDA的擴(kuò)展模型以及它們?cè)谧匀徽Z言和智能信息處理中的應(yīng)用得到充分的重視和深入的研究[9-13]，但還沒有人基于LDA發(fā)現(xiàn)垃圾評(píng)論，由于LDA可以挖掘隱含主題這種特性，本文將LDA模型應(yīng)用到垃圾評(píng)論發(fā)現(xiàn)領(lǐng)域上，用來發(fā)現(xiàn)Blog中博文的主題信息，進(jìn)而發(fā)現(xiàn)Blog中的垃圾評(píng)論。

3 垃圾評(píng)論的識(shí)別

本文在Blog領(lǐng)域內(nèi)進(jìn)行研究，主要考慮的是評(píng)論的文本信息，不涉及圖像的識(shí)別。針對(duì)Blog的評(píng)論和博文進(jìn)行分析，并結(jié)合Blog固有的特點(diǎn)，本文將垃圾評(píng)論的類型總結(jié)為兩類。

第一類： 顯式垃圾評(píng)論。經(jīng)分析，主要有三種類型，(1)廣告及鏈接等，(2)與評(píng)論無關(guān)的信息如大量隨機(jī)字符等，(3)重復(fù)評(píng)論。這類垃圾評(píng)論的分析與處理垃圾郵件類似，主要通過基于規(guī)則的方式進(jìn)行發(fā)現(xiàn)。

第二類： 隱式垃圾評(píng)論，主要是與Blog中博文內(nèi)容不相關(guān)的評(píng)論。這類垃圾評(píng)論不能依靠基于規(guī)則的方法發(fā)現(xiàn)，需要引入LDA模型，結(jié)合挖掘出的隱含主題信息進(jìn)行隱式的分析，主要是通過基于主題的特征選取和基于主題的檢索模型兩種方法來發(fā)現(xiàn)。具體流程如下：

(1) 對(duì)所有評(píng)論，通過基于規(guī)則的方法，初步過濾顯式垃圾評(píng)論。

(2) 對(duì)剩余評(píng)論，需要發(fā)現(xiàn)隱式垃圾評(píng)論。這里主要采用基于主題的方法，引入LDA模型，對(duì)Blog的博文信息進(jìn)行隱式分析，進(jìn)而挖掘隱式主題信息，最后通過基于主題的特征選取和基于主題的檢索模型兩種方法發(fā)現(xiàn)隱式垃圾評(píng)論。

3.1 基于規(guī)則的垃圾評(píng)論識(shí)別

設(shè)置一些規(guī)則，只要符合這些規(guī)則的一條或幾條，則認(rèn)為是顯式垃圾評(píng)論。這些規(guī)則通常有：

(1) 垃圾關(guān)鍵詞精確匹配：

在本文，通過分析語料，定義一些反映垃圾評(píng)論特征的關(guān)鍵詞或關(guān)鍵短語，如： “歡迎到我的博客來”、 “保證有你想要的”、“交流群”、“百度貼吧歡迎你”、“聯(lián)系電話”、 “歡迎咨詢”、“訂購熱線”、“24小時(shí)人工服務(wù)”、 “歡迎到我的博客一游”等明顯的垃圾詞語，當(dāng)在評(píng)論中發(fā)現(xiàn)若干條關(guān)鍵詞或短語，則判斷為顯式垃圾評(píng)論。

(2) 重復(fù)評(píng)論發(fā)現(xiàn)：

本文發(fā)現(xiàn)，在同一博文或者不同博文之間，均會(huì)含有大量的同一評(píng)論者或者不同評(píng)論者發(fā)表的相似或者完全相同的評(píng)論，稱之為重復(fù)評(píng)論，也屬于顯式垃圾評(píng)論。對(duì)于重復(fù)評(píng)論的判斷，在這里，本文采用Jaccard Distance[16]的方法檢測(cè)重復(fù)評(píng)論。首先，對(duì)所有評(píng)論建立 2-gram語言模型，然后對(duì)兩個(gè)評(píng)論A，B，計(jì)算相似值J(A，B)，具體公式如下：

(1)

此相似值越大，證明兩評(píng)論為重復(fù)評(píng)論的可能性越大。經(jīng)過分析和計(jì)算，本文發(fā)現(xiàn)重復(fù)評(píng)論主要有四種類型，(1)不同的評(píng)論者對(duì)同一博文發(fā)表相同的評(píng)論，(2)不同評(píng)論者對(duì)不同博文的相同評(píng)論，(3)同一評(píng)論者對(duì)不同博文的相同評(píng)論以及(4)同一評(píng)論者對(duì)同一博文的相同評(píng)論。對(duì)上述四類相同評(píng)論，本文分析得到： 第一、四類評(píng)論是重復(fù)評(píng)論需要過濾掉，第二類是相關(guān)評(píng)論，而第三類評(píng)論可能是隱式垃圾評(píng)論，因此在下一步要著重檢測(cè)。

(3) 其他垃圾特征發(fā)現(xiàn)：

例如，評(píng)論中的文字較少，但卻含有大量的超級(jí)鏈接；評(píng)論中包含大量的隨機(jī)字符或者特殊字符等；非垃圾評(píng)論的字?jǐn)?shù)量雖多但字體很小，而垃圾字體設(shè)置為正常字體等，這樣不但可以保證垃圾評(píng)論的視覺效果，又因?yàn)楹写罅康南嚓P(guān)評(píng)論，欺騙搜索引擎的搜索，并造成用戶的諸多不便，這些均判斷為顯式垃圾評(píng)論。

3.2 基于主題的垃圾評(píng)論識(shí)別

傳統(tǒng)的垃圾評(píng)論發(fā)現(xiàn)只是在基于規(guī)則的基礎(chǔ)上發(fā)現(xiàn)顯式垃圾評(píng)論，對(duì)于剩余評(píng)論，再進(jìn)行簡(jiǎn)單的特征選擇最后進(jìn)行分類，從而發(fā)現(xiàn)隱式垃圾評(píng)論，是一個(gè)簡(jiǎn)單的二值分類問題。與此不同，本文充分考慮到Blog博文的主題信息，提出基于主題的特征選擇和基于主題的檢索模型兩種方法。該算法基于以下的基本假設(shè)： (1)每類博文討論若干個(gè)主題，類間主題的相關(guān)程度低于類內(nèi)主題；(2)一個(gè)具體博文討論的主題是該博文所屬的主題集合的子集。

3.2.1 基于主題的特征選擇方法

對(duì)于該方法的與評(píng)論相關(guān)的特征集合的構(gòu)造，這里主要有四類信息： (1)評(píng)論的內(nèi)容，(2)評(píng)論者，(3)博文作者以及(4)博文的內(nèi)容。因此，特征集合主要由以上4類信息組成，具體如表1所示。

表1 特征集合

對(duì)于評(píng)論本身的內(nèi)容，我們主要考慮評(píng)論中包含情感傾向的詞和評(píng)論的長(zhǎng)短。本文從情感本體中提取表達(dá)較強(qiáng)的情感強(qiáng)度的情感詞，如“支持”、“同意”、“贊同”等，并從語料中提取Blog特有的表達(dá)情感的詞和短語，如“路過”、“留名”、“杯具”、“稀飯”、“板凳”、“頂一下”、“sofa”、“馬扎”等詞，共同建成本文所需的情感詞典。同時(shí)，評(píng)論的長(zhǎng)度、時(shí)間都會(huì)對(duì)識(shí)別垃圾評(píng)論造成一定的影響，長(zhǎng)評(píng)論的關(guān)注度相對(duì)較高，而早期發(fā)表的評(píng)論的關(guān)注相對(duì)也會(huì)較多，這些都是識(shí)別垃圾評(píng)論的標(biāo)注。

對(duì)于評(píng)論者，在這里，主要考慮評(píng)論者本身的等級(jí)和評(píng)論者的訪問量，用以參考評(píng)論者的信譽(yù)度。

分析Blog的評(píng)論，本文發(fā)現(xiàn)評(píng)論中很多是對(duì)博文作者的評(píng)價(jià)，因此，博文作者以及和作者緊密相關(guān)的信息均作為特征。

Blog中的評(píng)論不僅可以針對(duì)博文作者，也可以是針對(duì)博文的內(nèi)容。但是，由于博文的內(nèi)容過于龐大而且繁雜，不能全部作為特征。在本文，對(duì)Blog的博文集合，使用LDA模型建模，抽取隱含的主題集合，將這個(gè)主題集合作為特征使用。

本文采用SVM方法進(jìn)行分類[17]。

3.2.2 基于主題的檢索模型方法

由于采用基于主題的特征選取方法來發(fā)現(xiàn)垃圾評(píng)論需要標(biāo)注和訓(xùn)練，為了節(jié)省這種大規(guī)模訓(xùn)練，本文受到文獻(xiàn)[15]中的方法啟發(fā)，采用概率檢索模型來發(fā)現(xiàn)垃圾評(píng)論，這種基于統(tǒng)計(jì)的無監(jiān)督方法，無需訓(xùn)練集，不用著重篩選特征集合。在這里，將評(píng)論和博文的問題看作是檢索問題。評(píng)論C假設(shè)為查詢串，博文B當(dāng)作文檔，博文集合是文檔集合，在未引入主題信息前，計(jì)算博文產(chǎn)生該評(píng)論的概率，建立簡(jiǎn)單的概率檢索模型[15]。公式如下：

(2)

其中，B為博文，C為B的評(píng)論集合中的一條，w是C中的一個(gè)詞，假定B中詞與詞之間相互獨(dú)立，P(C|B)為B產(chǎn)生C的概率，P(w|B)為w在B中出現(xiàn)的概率。

在該模型中，由于未考慮到博文的稀疏性以及詞之間隱含的主題信息，也沒有對(duì)P(w|B)這項(xiàng)進(jìn)行平滑，該公式還有待改進(jìn)，需要在該概率檢索模型中加入隱含的主題信息[15]。本文在上述概率檢索模型的基礎(chǔ)上，加入引入LDA模型后發(fā)現(xiàn)的隱含主題集合，用于進(jìn)行平滑P(w|B)，即主題檢索模型。與其他平滑模型不同，LDA模型建立一種全新的博文模型。與其他聚類模型不同，LDA模型將博文看作是包含多個(gè)主題的集合，而不只是單一主題集合?？醋鲉我恢黝}集合這種假設(shè)對(duì)于大規(guī)模博文語料來講過于局限，相反，LDA模型將博文看作多個(gè)主題集合并以不同比例進(jìn)行區(qū)分，增強(qiáng)了靈活性。本文結(jié)合隱含的主題信息，共同建立主題檢索模型。具體公式如下：

其中，tB為博文B的主題集合，t為tB中的一個(gè)主題，λ為參數(shù)，p(w|t)為詞w在主題t中出現(xiàn)的概率，p(t|B)為主題t在博文B中出現(xiàn)的概率。

對(duì)Blog博文中的所有評(píng)論，均要計(jì)算P(C|B)建立主題檢索模型，然后若此概率值小于某一閾值，則判定為隱式垃圾評(píng)論，反之，為相關(guān)評(píng)論。

4 實(shí)驗(yàn)流程及結(jié)果分析

4.1 語料來源及實(shí)驗(yàn)流程

實(shí)驗(yàn)的語料來自新浪博客下載的博文以及評(píng)論，作者為博客總?cè)藲馀判邪袂?0名，選取其中這些作者的部分博文共100篇博文(每人10篇)，并從中選取評(píng)論共有5 980條，經(jīng)標(biāo)注，共發(fā)現(xiàn)垃圾評(píng)論1 282條。本文使用中科院的分詞工具ICTCLAS[18]。具體相關(guān)數(shù)據(jù)見表2。

表2 博客統(tǒng)計(jì)表

通過觀察語料，本文發(fā)現(xiàn)在新浪博客人氣排行榜上，對(duì)每個(gè)博文作者，都有數(shù)量不少的垃圾評(píng)論的存在。在人氣排名靠前的作者博文中，評(píng)論者和垃圾評(píng)論者均對(duì)其作者博文的關(guān)注度相對(duì)較高，反之，在人氣排名靠后的作者博文中，評(píng)論者和垃圾評(píng)論者均對(duì)其作者博文的關(guān)注度相對(duì)較低。經(jīng)分析，本文得出以下Blog領(lǐng)域垃圾評(píng)論的分布規(guī)律： 在高點(diǎn)擊率的作者博文中，評(píng)論垃圾比例相對(duì)也較高；在低點(diǎn)擊率的作者博文中，評(píng)論垃圾比例相對(duì)較低。本文可以在該數(shù)據(jù)集上進(jìn)行合理的驗(yàn)證上述尋找垃圾評(píng)論的方法。

對(duì)于顯式垃圾評(píng)論，本文主要采用基于規(guī)則的方法進(jìn)行判斷。在此基礎(chǔ)上，對(duì)于隱式垃圾評(píng)論，本文采取基于主題的特征選取和基于主題的檢索模型兩種方法進(jìn)行實(shí)驗(yàn)。

在基于主題的特征選取的方法中，本文主要是針對(duì)Blog博文和評(píng)論二者進(jìn)行分析，篩選特征集合。具體的特征集合見表1。本文選取其中4 000條評(píng)論為訓(xùn)練集，1 980條評(píng)論作為測(cè)試集。實(shí)驗(yàn)具體流程如下：

(1) 從網(wǎng)上下載Blog語料，并人工鑒定每條評(píng)論是垃圾評(píng)論還是相關(guān)評(píng)論。

(2) 對(duì)所有的評(píng)論進(jìn)行基于規(guī)則的初步過濾，判斷評(píng)論是顯式垃圾評(píng)論還是相關(guān)評(píng)論，并記錄可以得到結(jié)果的評(píng)論。

(3) 將搜集到的Blog特定用語導(dǎo)入分詞的擴(kuò)展詞典，利用中國(guó)科學(xué)院的分詞完成博文和剩余的評(píng)論切分等預(yù)處理工作。

(4) 對(duì)于評(píng)論長(zhǎng)度少于5個(gè)字符的評(píng)論，若包含本文建立的情感詞典中的詞或短語，認(rèn)為是相關(guān)評(píng)論，否則，為隱式垃圾評(píng)論。

(5) 構(gòu)建簡(jiǎn)單特征集合和主題特征集合，進(jìn)行對(duì)比實(shí)驗(yàn)。

(6) 對(duì)于剩余評(píng)論，利用SVM在分類特征集上進(jìn)行隱式垃圾、非垃圾分類。

(7) 評(píng)估結(jié)果的正確率和召回率。

在基于主題的檢索模型的方法中，要對(duì)于每條評(píng)論的詞或短語，需要統(tǒng)計(jì)該詞在博文中出現(xiàn)的概率，該詞在主題中出現(xiàn)的概率以及主題在博文中出現(xiàn)的概率，然后建立主題檢索模型。再通過公式(3)，判斷評(píng)論是隱式垃圾評(píng)論還是相關(guān)評(píng)論。

建立LDA模型時(shí)，經(jīng)分析，發(fā)現(xiàn)抽取的主題數(shù)量對(duì)結(jié)果的影響很大，而LDA模型使用交叉熵作為評(píng)價(jià)概率模型的性能指標(biāo)之一，當(dāng)此熵值越小時(shí)，LDA模型的性能越佳。如圖2所示，可以得到，當(dāng)主題數(shù)目T等于110的時(shí)候，此時(shí)交叉熵最小，建立的LDA模型性能最佳。在LDA模型中，需要給出Dirichlet先驗(yàn)(α,β)，在本文，令α=50/T，β=0.01，T為主題數(shù)目(此為經(jīng)驗(yàn)值，多次實(shí)驗(yàn)表明，這種取值在本實(shí)驗(yàn)的語料集上有較好表現(xiàn))。

圖2 LDA模型主題數(shù)目

4.2 實(shí)驗(yàn)結(jié)果與分析

在單獨(dú)使用基于規(guī)則的方法時(shí)，共發(fā)現(xiàn)顯式垃圾評(píng)論872條，充分說明Blog評(píng)論中含有大量的廣告鏈接、重復(fù)評(píng)論等垃圾信息。

在此基礎(chǔ)上，對(duì)于隱式垃圾評(píng)論，本文使用基于主題的特征選取方法(特征集分別為簡(jiǎn)單特征集和主題特征集兩種)和基于主題的檢索模型方法(主題檢索模型)進(jìn)行實(shí)驗(yàn)。在基于主題的特征選取方法中，本文與Liu等人在處理產(chǎn)品評(píng)論[6]中采用的處理垃圾評(píng)論的方法進(jìn)行對(duì)比， Liu等將垃圾評(píng)論發(fā)現(xiàn)看作一個(gè)分類問題，特征集合主要由表1提到的情感詞典、評(píng)論長(zhǎng)度以及評(píng)論者等級(jí)等組成，即為簡(jiǎn)單特征集。而本文在此基礎(chǔ)上，引入了使用LDA模型后對(duì)博文進(jìn)行抽取出的主題信息，即為主題特征集，具體見表1。在基于主題的檢索模型方法，本文主要按3.2.2介紹的主題檢索模型進(jìn)行建模并判斷。

本文使用SVM-light分類器，3倍交叉驗(yàn)證，結(jié)果具體見圖3。

圖3 垃圾評(píng)論的實(shí)驗(yàn)結(jié)果

基于主題特征集的方法與基于簡(jiǎn)單特征集方法對(duì)比，由圖3可以知道，各項(xiàng)指標(biāo)都有所提升。這是因?yàn)橹黝}特征集中加入了與博文相關(guān)的主題信息。例如： 該博文的作者是徐靜蕾，博文主要講述頭暈健康問題，有一條評(píng)論為“注意身體，千萬別暈”，使用LDA模型后，可以發(fā)現(xiàn)該評(píng)論是相關(guān)評(píng)論，而有一條評(píng)論為“我喜歡看《杜拉拉》”，此評(píng)論的主題為電影問題，與博文的主題頭暈健康問題無關(guān)，則本文判斷為垃圾評(píng)論，而用基于簡(jiǎn)單特征集方法則不能判斷。

使用主題檢索模型方法的各項(xiàng)指標(biāo)均高于基于簡(jiǎn)單特征集的方法，主要原因在于判斷該評(píng)論的詞語在博文、主題，以及該主題出現(xiàn)的概率，而去掉重復(fù)評(píng)論之后，垃圾評(píng)論的詞語相對(duì)為低頻詞，使得垃圾評(píng)論的概率相對(duì)低于相關(guān)評(píng)論。例如： 該博文的作者是洪晃在Ilook，該博文主要介紹新西蘭之行，有一條評(píng)論為“新西蘭的云層也很厚哇，人類活動(dòng)劇烈，天空污染越來越大”，經(jīng)本文的主題檢索模型方法判斷，確實(shí)和博文同屬一個(gè)主題，判斷為相關(guān)評(píng)論，而又有一條評(píng)論為“人生可以沒有輝煌、沒有精彩，但不能沒有感恩的心！…”，此評(píng)論的主題是感恩，與博文主題不符，用該主題檢索模型方法判斷為垃圾評(píng)論。而簡(jiǎn)單特征集中沒有這些主題信息，故不能正確判斷該評(píng)論。

基于主題的特征選取方法的各項(xiàng)指標(biāo)均高于主題檢索模型方法，主要原因在于前者是有監(jiān)督方法，有了人工標(biāo)注的訓(xùn)練集，相對(duì)準(zhǔn)確，后者是無監(jiān)督方法，是基于概率統(tǒng)計(jì)的方法，準(zhǔn)確率等指標(biāo)不如前者。由圖3可知，在沒有標(biāo)注語料的前提下，本文使用基于主題檢索模型的方法也達(dá)到了較好的效果。

在隱式垃圾評(píng)論發(fā)現(xiàn)中，尚存在著一些暫時(shí)無法解決的難度較大的隱式情感評(píng)論問題無法識(shí)別。如“眾里尋他千百度,驀然回首,那人卻在燈火闌珊處”、“衣帶漸寬終不悔，為伊消得人憔悴”、“有一種花開叫綻放，有一種鼓勵(lì)叫贊揚(yáng)，有一種激情叫釋放，有一種美麗叫善良”等諸如此句，使用本文的方法均不能判斷評(píng)論，需要加入更深層次的語法分析、語義消歧等方法進(jìn)行情感分析，從而判斷評(píng)論是垃圾評(píng)論還是相關(guān)評(píng)論。

5 結(jié)束語與下一步工作

本文通過分析Blog垃圾評(píng)論的特點(diǎn)，主要將垃圾評(píng)論分為兩大類。對(duì)于第一類顯式垃圾評(píng)論，主要是用基于規(guī)則的方法進(jìn)行識(shí)別。而對(duì)于第二類隱式垃圾評(píng)論，本文采用LDA模型來對(duì)博文抽取隱含主題信息，然后通過這些主題信息，使用基于主題的特征選取和基于主題的檢索模型兩種方法，進(jìn)而發(fā)現(xiàn)垃圾評(píng)論，經(jīng)實(shí)驗(yàn)驗(yàn)證，該方法是行之有效的。

在Blog這個(gè)開放性平臺(tái)，評(píng)論者可以自由地發(fā)表言論，很多評(píng)論都是由詩歌、散文等隱式表達(dá)情感構(gòu)成的，需要通過更深層次的方法來挖掘其隱式含義，進(jìn)而判斷與博文是否相關(guān)，最終判斷該評(píng)論是垃圾評(píng)論還是相關(guān)評(píng)論。這也是本文下一步需要解決的工作。目前，博客中的博文和評(píng)論在研究方面的語料還不夠豐富，因此，本文的語料是作者手工收集和整理，語料的豐富和校驗(yàn)工作還需進(jìn)一步進(jìn)行，同時(shí)情感詞典也需要進(jìn)一步完善，并且未進(jìn)行情感詞強(qiáng)度的考慮。以上情況都有待作進(jìn)一步細(xì)致的研究。

[1] C. Castillo, D. Donato, L. Becchetti, P. Boldi, S. Leonardi, M. Santini, S. Vigna. A Reference Collection for Web Spam[C]//ACM SIGIR Forum,2006,40(2):11-24.

[2] Dennis Fetterly, Mark Manasse,Marc Najork, Spam,Damn Spam, and Statistics Using Statistical Analysis to Locate Spam Web Pages[C]//Proceedings of the 7th International Workshop on the Web and Databases: colocated with ACM SIGMOD/PODS 2004,Paris, France,1-6.

[3] 潘文鋒.基于內(nèi)容的垃圾郵件過濾研究[D].北京:中科院計(jì)算技術(shù)研究所，2004.

[4] M. Hu and B. Liu. Mining and Summarizing Customer Reviews[C]//Proceedings of the tenth International Conference on Knowledge Discovery and Data Mining(KDD2004), Seattle,WA,USA,2004：167-177.

[5] N. Jindal and B. Liu. Product Review Analysis [M]. Technical Report, The University of Illinois at Chicago, 2007.

[6] Nitin Jindal and Bing Liu,Opinion Spam and Analysis[C]//Proceedings of the International Conference on Web Search and Data Mining(WSDM2009), Palo Alto, California, USA,2009: 219-230.

[7] N. Jindal and B. Liu. Analyzing and Detecting Review Spam[C]//Proceedings of the 7th IEEE International Conference on Data Mining (ICDM 2007), Omaha, Nebraska, USA, 2007: 547-552.

[8] 徐琳宏, 林鴻飛, 潘宇，等. 情感詞匯本體的構(gòu)造[J]. 情報(bào)學(xué)報(bào), 2008, 27(2): 180-185.

[9] D. Blei, A. Ng, and M. Jordan. Latent Dirichlet Allocation [J]. Journal of Machine Learning Research, 2003, 3:993-1022.

[10] 李文波,孫樂, 黃瑞紅,馮遠(yuǎn)勇,張大鯤.基于Label-based LDA模型的文本分類新算法[C]//第三屆全國(guó)信息檢索與內(nèi)容安全學(xué)術(shù)會(huì)議,蘇州,2007.

[11] D. Blei and J. Lafferty, Correlated topic models[C]//Advances in Neural Information Processing Systems 18, MIT Press, Cambridge, MA. 2006.

[12] Qiaozhu Mei, Xu Ling,Matthew Wondra, Hang Su, ChengXiang Zhai, Topic Sentiment Mixture: Modeling Facets and Opinions in Web logs [C]//Proceedings of the 16th international conference on World Wide Web(WWW 2007), Banff, Alberta, Canada: 171-180.

[13] Yue Lu, Chengxiang Zhai. Opinion Integration Through Semi-supervised Topic Modeling[C]//Proceedings of the 17th International Conference on World Wide Web (WWW 2008),Beijing, China: 121-130.

[14] 曹娟,張勇東,李錦濤,唐勝.一種基于密度的自適應(yīng)最優(yōu)LDA模型選擇方法[J]. 計(jì)算機(jī)學(xué)報(bào), 2008, 31(10):1780-1787.

[15] Xing Wei, W. B. Croft, LDA-based Document Models for Ad-hoc Retrieval[C]//Proceedings of the 29thSIGIR Conference, Seattle, Washington, USA,2006: 178-185.

[16] B. Liu. Web Data Mining: Exploring Hyperlinks, Contents and Usage Data [M]. Springer, 2007.

[17] Vapnik V., The Nature of Statistical Learning Theory [M]. New York; Springer,1995.

[18] 中科院分詞系統(tǒng)： http://ictclas.org[DB/OL].