• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生活消費(fèi)平臺(tái)虛假評(píng)論識(shí)別模型的研究

    2017-01-10 07:06:20吳國(guó)仕齊佳音孫鵬飛
    電子學(xué)報(bào) 2016年12期
    關(guān)鍵詞:商家特征差異

    李 晶,吳國(guó)仕,謝 菲,姚 旭,齊佳音,孫鵬飛

    (1.北京郵電大學(xué)軟件學(xué)院,北京 100876; 2.新華社通信技術(shù)局,北京 100803;3.北京郵電大學(xué)經(jīng)濟(jì)管理學(xué)院,北京 100876)

    生活消費(fèi)平臺(tái)虛假評(píng)論識(shí)別模型的研究

    李 晶1,吳國(guó)仕1,謝 菲2,姚 旭1,齊佳音3,孫鵬飛1

    (1.北京郵電大學(xué)軟件學(xué)院,北京 100876; 2.新華社通信技術(shù)局,北京 100803;3.北京郵電大學(xué)經(jīng)濟(jì)管理學(xué)院,北京 100876)

    生活消費(fèi)平臺(tái)已成為人們獲取商家信息、反饋服務(wù)或產(chǎn)品質(zhì)量的重要平臺(tái).虛假評(píng)論作為一種夸大或誹謗目標(biāo)商家口碑的商業(yè)行為在生活消費(fèi)平臺(tái)很普遍,具有很強(qiáng)的危害性.本文對(duì)某網(wǎng)站的真實(shí)評(píng)論展開虛假評(píng)論研究,深入分析研究虛假評(píng)論的特征,從“可信度”的角度出發(fā),提出用戶及商家可信度模型.利用評(píng)論人的行為特征、商家的特征和評(píng)論文本的特征構(gòu)建了虛假評(píng)論識(shí)別模型,經(jīng)測(cè)試該模型達(dá)到了一個(gè)良好的識(shí)別效果.

    機(jī)器學(xué)習(xí);虛假評(píng)論識(shí)別;可信度模型

    1 引言

    生活消費(fèi)平臺(tái)作為一種新興的互聯(lián)網(wǎng)服務(wù)在近幾年取得了巨大的發(fā)展.某些組織或個(gè)人在利益的驅(qū)動(dòng)下,利用網(wǎng)絡(luò)信息監(jiān)管的缺失,弄虛作假,制造虛假評(píng)論誤導(dǎo)用戶.因此,對(duì)生活消費(fèi)平臺(tái)虛假評(píng)論進(jìn)行研究并加以識(shí)別成為人們關(guān)注的技術(shù)熱點(diǎn).

    評(píng)論可信度是評(píng)論人提供的信息被認(rèn)可的程度.國(guó)內(nèi)關(guān)于商品評(píng)論的最新研究提出了基于文本內(nèi)容的商品評(píng)論可信度測(cè)評(píng)模型[1].國(guó)外的研究發(fā)現(xiàn)匿名評(píng)論的情感傾向會(huì)對(duì)可信度產(chǎn)生較大影響[2];體驗(yàn)型產(chǎn)品中情感傾向?qū)尚哦葞缀鯚o(wú)影響[3];評(píng)論與評(píng)分及評(píng)論間的一致性越高,評(píng)論可信度越高[4~7]等.可見,評(píng)論可信度受多種因素影響.研究對(duì)象及特征組合的不同會(huì)影響結(jié)論的一致性.

    虛假評(píng)論的特征主要從評(píng)論內(nèi)容和評(píng)論人兩個(gè)角度來(lái)考慮.從評(píng)論內(nèi)容的角度來(lái)分析,許多研究采用了詞性和n元文法.Ott M[8]等利用一元、二元文法結(jié)合心理學(xué)構(gòu)建的80個(gè)情感特征關(guān)鍵詞獲得了90%的查準(zhǔn)率.但Li F T[9]等的研究結(jié)論顯示,利用情感來(lái)分辨欺騙型評(píng)論的效果并不顯著,因?yàn)樵诳桃馓摌?gòu)的評(píng)論中,這樣的情感特征并不明顯.研究表明,單純從評(píng)論的文本內(nèi)容特征展開識(shí)別,對(duì)欺騙型評(píng)論的識(shí)別效果并不理想.評(píng)論人的特征反應(yīng)了評(píng)論撰寫者的個(gè)人信用和行為特征,通過(guò)識(shí)別評(píng)論人的特征來(lái)識(shí)別其發(fā)表言論的特征具有一定的研究意義.Mukherjee A[10]等針對(duì)Yelp的真實(shí)數(shù)據(jù),比較了基于評(píng)論特征和基于評(píng)論人特征的虛假評(píng)論識(shí)別效果,發(fā)現(xiàn)后者的識(shí)別效果更好.Li F T[9]也指出評(píng)論人的行為特征是評(píng)論內(nèi)容特征的重要補(bǔ)充.評(píng)論和評(píng)論人特征的抽取又和特定的領(lǐng)域有一定的相關(guān)性.目前,國(guó)外對(duì)虛假評(píng)論的研究涉及到了旅館、圖書、音樂(lè)、餐館等領(lǐng)域.國(guó)內(nèi)的研究數(shù)據(jù)對(duì)象主要集中在圖書和數(shù)碼產(chǎn)品領(lǐng)域,對(duì)服務(wù)行業(yè)還未涉及.

    2 數(shù)據(jù)描述

    本文數(shù)據(jù)取自某網(wǎng)站2012年11月到2013年10月的已標(biāo)注數(shù)據(jù)子集,經(jīng)清洗后共包含331,415條評(píng)論,238,186評(píng)論者與109,376商家.

    商家的評(píng)論數(shù)據(jù)包含7個(gè)基礎(chǔ)部分:〈評(píng)論類型〉〈評(píng)論ID〉〈商家ID〉〈評(píng)論者ID〉〈提交日期〉〈星級(jí)〉〈評(píng)論文本〈還有三項(xiàng)專項(xiàng)評(píng)分:〈口味評(píng)分〉〈環(huán)境評(píng)分〉〈服務(wù)評(píng)分〉

    經(jīng)測(cè)試,評(píng)論的數(shù)量與評(píng)論人的數(shù)量之間遵循冪律分布,即大量的用戶只寫了少數(shù)評(píng)論,少數(shù)用戶卻寫了大量評(píng)論.評(píng)論的數(shù)量與商家的數(shù)量之間同樣遵循冪律分布,即大量的產(chǎn)品只獲得很少評(píng)論,少數(shù)產(chǎn)品獲得了大量的評(píng)論.

    3 虛假評(píng)論識(shí)別模型研究

    3.1 建模準(zhǔn)則

    依據(jù)前文論述評(píng)論與商家、用戶呈現(xiàn)一對(duì)多的關(guān)系,對(duì)于許多商家或評(píng)論人甚至僅僅對(duì)應(yīng)一條評(píng)論.因此,商家、用戶對(duì)于判斷虛假評(píng)論具有重要的作用.然而,用戶與商家對(duì)于評(píng)論可信度的影響程度不同.如果用戶為虛假用戶,則其所有評(píng)論都極有可能成為垃圾評(píng)論;而商家可能會(huì)偶爾出現(xiàn)為提高知名度雇傭水軍刷評(píng)論的欺騙行為,但不一定所有的評(píng)論都是垃圾評(píng)論.用戶相比于商家與評(píng)論可信度具有較強(qiáng)的關(guān)系.經(jīng)計(jì)算,用戶可信度與評(píng)論真實(shí)性的協(xié)方差為0.58,而商家可信度與評(píng)論真實(shí)性的協(xié)方差為0.47,因此用戶可信度相比于商家可信度與評(píng)論可信度更相關(guān),與常識(shí)相符.

    在識(shí)別虛假評(píng)論時(shí),采用分層的探測(cè)機(jī)制,首先識(shí)別虛假評(píng)論中呈現(xiàn)出群體特征的水軍用戶;之后分別構(gòu)建用戶、商家可信度模型;最后利用評(píng)論對(duì)應(yīng)的商家可信度、用戶可信度與其他特征建模識(shí)別虛假評(píng)論,模型結(jié)構(gòu)如圖1所示.

    3.2 水軍探測(cè)

    虛假評(píng)論人常常出現(xiàn)群體性活動(dòng)的特征,將這種具有群體性特征的評(píng)論人稱為水軍.頻繁項(xiàng)集挖掘的eclat算法[11]是探測(cè)水軍的理想算法.經(jīng)測(cè)試,被探測(cè)出的包含在頻繁項(xiàng)集內(nèi)的18個(gè)用戶中,有15個(gè)為虛假評(píng)論人,虛假率為83.3%,因此對(duì)本數(shù)據(jù)集可直接將挖掘出的頻繁項(xiàng)集作為垃圾評(píng)論人.

    3.3 評(píng)論人與商家可信度模型

    3.3.1 評(píng)論人可信度模型

    為將評(píng)論人及商家可信度量化,本文采用邏輯回歸模型[12].

    評(píng)論人可信度模型的可表示為:

    (1)

    (2)

    其中,xka與θka分別為評(píng)論人a的第k個(gè)特征與第k個(gè)特征的權(quán)重.下面對(duì)評(píng)論人的不同特征做詳細(xì)說(shuō)明.

    (1)評(píng)論評(píng)分與商家整體評(píng)論評(píng)分間差異

    每個(gè)商家具有一個(gè)根據(jù)對(duì)其所有的評(píng)論評(píng)分計(jì)算出的整體評(píng)分.從概率上講,一個(gè)真實(shí)、理性的評(píng)論人打出的分?jǐn)?shù)應(yīng)該和該整體評(píng)分差異不大;而虛假評(píng)論人,往往傾向給出與整體評(píng)分差異較大(即較高或較低)的評(píng)分.通過(guò)計(jì)算用戶的所有評(píng)論評(píng)分和相關(guān)商家的整體評(píng)分之間的差異性大小,可以將該特征進(jìn)行量化.

    以RDa表示該特征為:

    (3)

    (2)對(duì)同一商家評(píng)論評(píng)分相似性

    大多數(shù)正常情況下,評(píng)論人僅對(duì)某個(gè)商家發(fā)表至多一次評(píng)論.少數(shù)正常情況下,評(píng)論人會(huì)發(fā)表一次以上的評(píng)論.再次發(fā)表評(píng)論的評(píng)分應(yīng)當(dāng)與第一次評(píng)論的評(píng)分有一定的差異性.然而,一些虛假評(píng)論人會(huì)多次評(píng)論同一商家,并且評(píng)分會(huì)比較接近,或完全相同.通過(guò)量化該特征可以將其集成入用戶可信度模型中,該特征包括兩個(gè)考慮因素,一是用戶對(duì)同一商家發(fā)表過(guò)多少次評(píng)論,二是不同評(píng)論間差異的大小.以Ca來(lái)表示該特征為:

    (4)

    其中,nap為評(píng)論人a對(duì)商家p∈Pa所有評(píng)論的數(shù)目,CVap是a對(duì)商家p∈Pa所有評(píng)論評(píng)分的差異系數(shù)(Coefficient of Variation),其計(jì)算方法為所有評(píng)論評(píng)分的標(biāo)準(zhǔn)差比平均值,即:

    (5)

    (3)是否為單例評(píng)論人

    單例評(píng)論指的是評(píng)論人僅對(duì)某個(gè)商家發(fā)表評(píng)論的行為.正常情況下,用戶會(huì)對(duì)不同商家發(fā)表評(píng)論.而虛假評(píng)論人賬號(hào)經(jīng)常出現(xiàn)單例評(píng)論的情形.該特征記為SRa:當(dāng)用戶為單例評(píng)論人時(shí)計(jì)1,否則計(jì)0.

    (4)早期評(píng)論傾向

    在商家注冊(cè)的初期,迫切需要增加評(píng)論以吸引客戶,主觀上有收買水軍進(jìn)行評(píng)論的動(dòng)機(jī).另一方面,初期由于評(píng)論數(shù)目較少,每條評(píng)論的評(píng)分對(duì)于商戶整體評(píng)分的影響比較大.從客觀上看,在此時(shí)進(jìn)行虛假評(píng)論的效率較高.因此采用早期評(píng)論人作為模型的一個(gè)特征,用ETFa表示如下:

    (6)

    其中ETFap指評(píng)論人a對(duì)于商家p的ETF值:

    (7)

    其中,Lap表示評(píng)論人a對(duì)商家p發(fā)表的最后一條評(píng)論的時(shí)間戳,Ap指該商家第一條評(píng)論被發(fā)表,或者該商家注冊(cè)的時(shí)間戳.該函數(shù)為分段函數(shù),其中β作為閾值,本文設(shè)定為六個(gè)月.當(dāng)評(píng)論人a對(duì)商家p發(fā)表的最后一條評(píng)論的時(shí)間與商家商家注冊(cè)的時(shí)間差距超過(guò)β,則認(rèn)為該用戶非早期評(píng)論人,該特征計(jì)為0;如果該差距在β以內(nèi),則不直接標(biāo)記為1,而是對(duì)其進(jìn)行量化并歸一化.

    (5)評(píng)論人邏輯回歸類標(biāo)簽

    為構(gòu)建邏輯回歸模型,需要對(duì)訓(xùn)練集數(shù)據(jù)進(jìn)行類標(biāo)記.本文對(duì)于評(píng)論人可信的訓(xùn)練集數(shù)據(jù)標(biāo)記ya做如下定義:如果用戶曾經(jīng)發(fā)表過(guò)被標(biāo)記為虛假評(píng)論的評(píng)論,則認(rèn)為其類標(biāo)簽為0,否則為1.需要注意的是這并不意味著該用戶(評(píng)論人)發(fā)表的所有評(píng)論都是虛假評(píng)論,對(duì)其進(jìn)行此種標(biāo)記的目的是為了構(gòu)建邏輯回歸模型,并使對(duì)用戶計(jì)算可信度成為可能.

    3.3.2 商家可信度模型

    商家可信度模型同樣選用的邏輯回歸算法,商家的特征有如下考慮:

    (1)單例評(píng)論比例

    單例評(píng)論同樣在評(píng)價(jià)商家可信度中進(jìn)行使用,該特征記作SRrp,即p商家所有評(píng)論中由單例評(píng)論人發(fā)表的評(píng)論數(shù)目,與所有評(píng)論數(shù)目的比例.

    (2)爆發(fā)評(píng)論比例

    商家評(píng)論的發(fā)表頻率有時(shí)不是平滑而均勻的.在正常情況下,特殊時(shí)間點(diǎn)上,商家的評(píng)論數(shù)目會(huì)比平時(shí)多,比如節(jié)假日、促銷或者團(tuán)購(gòu)活動(dòng)發(fā)生時(shí),這時(shí)會(huì)形成評(píng)論數(shù)量高峰.這一高峰同樣會(huì)出現(xiàn)在商家雇傭虛假評(píng)論人提高自己商譽(yù)或者貶低對(duì)手商譽(yù)時(shí).因此,對(duì)商家評(píng)論數(shù)目隨著時(shí)間的起伏進(jìn)行觀察并記錄對(duì)構(gòu)建商家可信度模型具有一定幫助.本文將該指標(biāo)記作BSTrp,即p商家所有評(píng)論中,在高峰期發(fā)表的評(píng)論數(shù)目與所有評(píng)論數(shù)目的比例.

    為了探測(cè)并識(shí)別發(fā)表評(píng)論的高峰,本文采用核密度估計(jì)(kernel density estimation)[13,14]方法進(jìn)行檢測(cè).令(x1,x2,…,xn)為一連串符合密度函數(shù)f的獨(dú)立同分布的變量值,則f表示為:

    (8)

    通過(guò)核密度估計(jì),得到商家p評(píng)論發(fā)表時(shí)間的一條密度函數(shù)曲線,本文采用Kleinberg高峰檢測(cè)模型[15],在估計(jì)核密度的基礎(chǔ)上還得到了密度高峰的層級(jí)值,本文采用第二層級(jí)內(nèi)時(shí)間發(fā)表的評(píng)論作為密度高峰評(píng)論,將其標(biāo)記為Burst Reviews.

    (3)密度差異系數(shù)

    商家p發(fā)表評(píng)論的密度曲線中,除了高峰處之外,曲線本身起伏的程度也將繼承到商家可信度模型當(dāng)中.本小節(jié)中,以DCVp記改商家密度曲線的差異系數(shù):

    (9)

    (4)評(píng)分差異系數(shù)

    一個(gè)理性的消費(fèi)者可以判斷商品或服務(wù)的質(zhì)量,并給出相應(yīng)的合理評(píng)分,因此一個(gè)正常商家的不同評(píng)論評(píng)分之間的差異度應(yīng)當(dāng)不會(huì)非常大.而虛假評(píng)論人出于特殊目的其發(fā)表的評(píng)論與其他評(píng)論的差異會(huì)比較大,基于此,以RCVp記商家p所有評(píng)論評(píng)分的差異系數(shù):

    (10)

    (5)平均評(píng)分與平均專項(xiàng)評(píng)分

    平均評(píng)分avgstar即該商家p的所有評(píng)論的平均評(píng)分.平均專項(xiàng)評(píng)分avgscore1,avgscore2,avgscroe3是餐飲業(yè)商家特有的專項(xiàng)評(píng)分,即口味、環(huán)境、服務(wù)的平均分?jǐn)?shù).

    (6)商家邏輯回歸類標(biāo)簽

    為了構(gòu)建邏輯回歸模型,需要對(duì)訓(xùn)練集數(shù)據(jù)進(jìn)行類標(biāo)記.本文對(duì)于商家可信的訓(xùn)練集數(shù)據(jù)標(biāo)記yp做如下定義:如果對(duì)該商家曾經(jīng)發(fā)表過(guò)被標(biāo)記為虛假評(píng)論的評(píng)論,則認(rèn)為其類標(biāo)簽為0,否則為1.同樣,這并不意味著對(duì)該商家發(fā)表的所有評(píng)論都是虛假評(píng)論.

    3.4 虛假評(píng)論識(shí)別模型

    除了與一條評(píng)論相關(guān)的評(píng)論人可信度Pa與商家可信度Pp外,評(píng)論還具有一些其他特征:

    (1)評(píng)論長(zhǎng)度與詞性分布:文本預(yù)處理階段,計(jì)算了各種詞性與標(biāo)點(diǎn)符號(hào)在評(píng)論中所占的比例.經(jīng)實(shí)驗(yàn)對(duì)比,對(duì)判斷評(píng)論可信度有效的詞性比例特征是動(dòng)詞與標(biāo)點(diǎn)符號(hào)所占的比例;

    (2)評(píng)論評(píng)分與整體評(píng)分差異:將評(píng)論r的評(píng)分與商戶整體評(píng)分之間的差異,記作stard:

    (11)

    (3)評(píng)論專項(xiàng)評(píng)分之間的差異:對(duì)于商家的評(píng)論r,本文計(jì)算其口味、服務(wù)、環(huán)境三個(gè)專項(xiàng)評(píng)分的標(biāo)準(zhǔn)差,記作scored,作為特征.本文認(rèn)為一個(gè)理性的消費(fèi)者應(yīng)當(dāng)會(huì)對(duì)餐飲業(yè)商家的不同方面做出理性判斷,從而不傾向于給出三項(xiàng)專項(xiàng)評(píng)分一致的判斷.

    scoredr=σ(score1,score2,score3)

    (12)

    使用上述全部特征構(gòu)建邏輯回歸模型,計(jì)算p-value可知,重要的特征有相關(guān)用戶可信度Pa、商家可信度Pp、文本長(zhǎng)度lenr、評(píng)論評(píng)分與整體評(píng)分差異stardr,評(píng)論專項(xiàng)評(píng)分之間的差異scoredr以及標(biāo)點(diǎn)sw、動(dòng)詞sv占所有詞的比例,以這些詞語(yǔ)重新構(gòu)建模型并測(cè)試.該模型可表示為:

    (13)

    (14)

    4 虛假評(píng)論識(shí)別模型的測(cè)試

    4.1 測(cè)試指標(biāo)

    二元分類問(wèn)題,常常使用混淆矩陣來(lái)表示分類結(jié)果,矩陣的每一列代表一個(gè)類的實(shí)例預(yù)測(cè),而每一行表示一個(gè)實(shí)際的類的實(shí)例.一個(gè)典型的混淆矩陣如表1.

    表1 混淆矩陣

    其中,把偽陽(yáng)性(FP)作為第1型錯(cuò)誤(Type I Error),將偽陰性(FN)作為第2型錯(cuò)誤(Type II Error).使用準(zhǔn)確度(Accuracy)作為評(píng)價(jià)指標(biāo):

    (15)

    但僅用Accuracy在類別分布不平衡時(shí)難以真實(shí)評(píng)價(jià)模型的好壞,無(wú)法區(qū)分出第1型錯(cuò)誤與第2型錯(cuò)誤.因此考慮使用敏感性(Sensitivity)和特異性(Specificity):

    (16)

    敏感性即真陽(yáng)性率TPR(True Positive Rate),該值越高,第2型錯(cuò)誤越少,即被誤分入虛假點(diǎn)評(píng)的真實(shí)點(diǎn)評(píng)比例越低.

    (17)

    特異性即1-假陽(yáng)性率FPR(False Positive Rate),該值越高,第1型錯(cuò)誤越少,即被錯(cuò)誤分入正常點(diǎn)評(píng)的虛假點(diǎn)評(píng)比例越低.由此,采用敏感性與特異性作為驗(yàn)證模型要求的評(píng)測(cè)指標(biāo).然而由于對(duì)分類器取不同閾值時(shí),可以得到不同的分類結(jié)果及分類器評(píng)價(jià)指標(biāo),采用ROC(Receiver operating characteristic)曲線[16]與AUC(Area Under the Curve)[16]值評(píng)價(jià)模型.ROC曲線描述的是分類混淆矩陣中FPR-TPR兩個(gè)量之間的相對(duì)變化情況.如二元分類器輸出的是對(duì)正樣本的一個(gè)分類概率值,當(dāng)取不同閾值時(shí)會(huì)得到不同的混淆矩陣,對(duì)應(yīng)于ROC曲線上的一個(gè)點(diǎn).ROC曲線反映了FPR與TPR之間權(quán)衡的情況,TPR增長(zhǎng)得越快,曲線越往上屈,AUC就越大,模型的分類性能就越好.AUC值指的是ROC曲線下部的面積的和,如圖2所示,在模型達(dá)到最佳分類情形是,ROC曲線緊貼模型的左側(cè)和上側(cè),AUC值達(dá)到最大為1;當(dāng)AUC在0.5~1之間時(shí),模型優(yōu)于隨機(jī)預(yù)測(cè);當(dāng)AUC為0.5時(shí),模型為隨機(jī)預(yù)測(cè),沒(méi)有價(jià)值;當(dāng)AUC小于0.5時(shí),模型預(yù)測(cè)結(jié)果劣于隨機(jī)值.

    綜上,本文將主要使用AUC值作為評(píng)價(jià)指標(biāo),AUC值越大,則模型表現(xiàn)越好.

    4.2 點(diǎn)評(píng)人、商家可信度模型測(cè)試

    為分別驗(yàn)證點(diǎn)評(píng)人、商家的可信度模型,將計(jì)算特征后得到的238186個(gè)點(diǎn)評(píng)人記錄、109376條商家記錄分別按7∶3分為訓(xùn)練集和測(cè)試集,構(gòu)建模型后進(jìn)行測(cè)試,并計(jì)算結(jié)果的ROC曲線與AUC值.

    對(duì)于點(diǎn)評(píng)人可信度模型的訓(xùn)練、測(cè)試數(shù)據(jù)格式如下:

    〈點(diǎn)評(píng)評(píng)分與商家整體點(diǎn)評(píng)評(píng)分間差異〉〈對(duì)同一商家點(diǎn)評(píng)評(píng)分相似性〉〈是否為單例點(diǎn)評(píng)人〉〈早期點(diǎn)評(píng)人指標(biāo)〉〈點(diǎn)評(píng)人是否發(fā)表過(guò)虛假點(diǎn)評(píng)〉

    即:

    xa=(RDa,Ca,SRa,ETFa)hθ(xa)=ya

    對(duì)于商家可信度模型的訓(xùn)練、測(cè)試數(shù)據(jù)格式如下:

    〈單例點(diǎn)評(píng)比例〉〈爆發(fā)點(diǎn)評(píng)比例〉〈密度差異系數(shù)〉〈評(píng)分差異系數(shù)〉〈平均評(píng)分與平均專項(xiàng)評(píng)分〉〈商家名下是否有虛假點(diǎn)評(píng)〉

    即:xa= (SRrp,BSTrp,DCVp,RCVp,avgscore1,

    avgscore2,avgscore3)

    hθ(xp)=yp

    點(diǎn)評(píng)人、商家可信度模型的ROC曲線如圖3、4所示.

    用戶可信度模型AUC值為0.858922,而商家可信度模型的AUC值為0.8792504.可見,當(dāng)把用戶及商家模型看做一個(gè)分類問(wèn)題時(shí),具有較好的分類結(jié)果與精度,因此用戶可信度模型與商家可信度模型均表現(xiàn)優(yōu)良.

    4.3 虛假點(diǎn)評(píng)識(shí)別模型測(cè)試

    將331,415條數(shù)據(jù)按7∶3的數(shù)目比例分為訓(xùn)練集與測(cè)試集.對(duì)于虛假點(diǎn)評(píng)識(shí)別模型的訓(xùn)練、測(cè)試數(shù)據(jù)格式如下:

    〈點(diǎn)評(píng)人可信度〉〈商家可信度〉〈點(diǎn)評(píng)長(zhǎng)度〉〈點(diǎn)評(píng)評(píng)分與整體評(píng)分差異〉〈點(diǎn)評(píng)專項(xiàng)評(píng)分之間的差異〉〈詞性分布〉〈點(diǎn)評(píng)是否虛假〉

    即:xr=(pa,pp,lenr,stardr,scoredr,sw,sv)hθ(xr)=yr

    對(duì)虛假評(píng)論識(shí)別模型進(jìn)行測(cè)試,該模型的ROC曲線如圖5所示.

    計(jì)算得到AUC值為0.8930167.可見,考慮了用戶可信度,商家可信度及評(píng)論文本特征的虛假評(píng)論識(shí)別模型具有較好的分類結(jié)果與精度,因此該模型表現(xiàn)優(yōu)良.

    5 總結(jié)

    本文基于某網(wǎng)站上的評(píng)論進(jìn)行研究,分析并總結(jié)虛假評(píng)論的特征,結(jié)合特征提出用戶、商家可信度模型,利用評(píng)論人的行為特征、商家的特征和評(píng)論文本的特征構(gòu)建了虛假評(píng)論識(shí)別模型.使用AUC值作為主要評(píng)測(cè)指標(biāo),經(jīng)測(cè)試模型達(dá)到了良好的區(qū)分效果.

    [1]劉逶迤,逯萬(wàn)輝,丁晟春.商品評(píng)論信息可信度研究[J].情報(bào)科學(xué),2012,30(10):1556-1565. Liu Weiyi,Lu Wanhui,Ding Shengchun.Research on the credibility of commodity reviews information[J].Information Science,2012,30(10):1556-1565.(in Chinese)

    [2]Kusumasondjaja S,Shanka T,Marchegiani C.Credibility of online reviews and initial trust:the roles of reviewer’s identity and review valence[J].Journal of Vacation Marketing,2012,18(3):185-195.

    [3]Pan L Y,Chiou J S.How much can you trust online information? cues for perceived trustworthiness of consumer-generated online information[J].Journal of Interactive Marketing,2011,25(2):67-74.

    [4]Qiu L Y,Pang J,Lim K H.Effects of conflicting aggregated rating on ewom review credibility and diagnosticity:the moderating role of review valence[J].Decision Support Systems,2012,54(1):631-643.

    [5]Cheung M Y,Luo C,Sia C L,et al.How do people evaluate electronic word-of-mouth? informational and normative based determinants of perceived credibility of online consumer recommendations in china[A].11th Pacific Asia Conference on Information Systems[C].Auckland:Bepress,2007.69-73.

    [6]Cheung M Y.Do People Believe Electronic Word-of-Mouth?:A Study on Factors Affecting Readers’ Perceived Credibility of Online Consumer Reviews[D].Hongkong: City University of Hong Kong,2006.

    [7]Cheung M Y,Cindy M Y,Sia C L,et al.Is this review believable? a study of factors affecting the credibility of online consumer reviews from an elm perspective[J].Journal of the Association for Information Systems,2012,13(8):618-635.

    [8]Ott M,Choi Y J,Cardie C,et al.Finding deceptive opinion spam by any stretch of the imagination[A].49th Annual Meeting of the Association for Computational Linguistics:Human Language Technologies[C].Stroudsburg,PA,USA:Association for Computational Linguistics,2011.309-319.

    [9]Li F T,Huang M,Yang Y,et al.Learning to identify review spam [A].22nd International Joint Conference on Artificial Intelligence[C].Barcelona:AAAI Press,2011.2488-2493.

    [10]Mukherjee A,Venkataraman V.What yelp fake review filter might be doing?[A].Proceedings of the 7th International Conference on Weblogs and Social Media[C].Palo Alto:AAAI Press,2013.409-418.

    [11]Zaki M J.Scalable algorithms for association mining[J].IEEE Transactions on Knowledgeand DataEngineering.2000,12(3):372-390.

    [12]Hosmer D W,Lemeshow S.Applied Logistic Regression[M].New York:John Wiley & Sons,2004.

    [13]Rosenblatt M.Remarks on some nonparametric estimates of a density function[A].Selected Works in Probability and Statistics[C].New York:Springer New York,2011.95-100.

    [14]Parzen E.On estimation of a probability density function and mode[J].Annals of Mathematical Statistics,1962,33(3):1065-1076.

    [15]J Kleinberg.Bursty and hierarchical structure in streams[A].8th ACM SIGKDD Intl Conf on Knowledge Discovery and Data Mining,2002[C].Edmonton,Alberta,Canada: ACM Press,2002.91-101.

    [16]Swets J A.Signal Detection Theory and ROC Analysis in Psychology and Diagnostics:Collected Papers[M].New Jersey:Lawrence Erlbaum Associates,Inc,1996.

    李 晶 女,1981年生于山東威海.北京郵電大學(xué)軟件學(xué)院講師.研究方向?yàn)橹悄苄畔⑻幚?、?shù)據(jù)挖掘.

    E-mail:lijingjing@bupt.edu.cn

    Research of Fraud Review Detection Model on O2O Platform

    LI Jing1,WU Guo-shi1,XIE Fei2,YAO Xu1,QI Jia-yin3,SUN Peng-fei1

    (1.SchoolofSoftwareEngineering,BeijingUniversityofPostsandTelecommunications,Beijing100876,China; 2.CommunicationandTechnicalBureau,XinhuaNewsAgency,Beijing100803,China; 3.SchoolofEconomicsandManagement,BeijingUniversityofPostsandTelecommunications,Beijing100876,China)

    Living-consumption platform has become a very important platform for customers to extract information of businesses,and view or submit comments on the quality of services or products.It is common that fake reviews,as a commercial activity,are used to exaggerate or damage the reputation of a target business,which is extremely harmful.This paper chose an O2O (Online To Offline) platform,from which reviews are derived,to study fake reviews.With an in-depth study on features of fake reviews,it raised the user-credibility and shop-credibility evaluation model respectively from the credibility perspective.Based on features of reviewers,businesses,and review texts,it established a fake review identification model,and through testing this model showed excellent performance in identification.

    machine learning;fraud review detection;credibility model

    2015-01-31;

    2015-05-20;責(zé)任編輯:梅志強(qiáng)

    國(guó)家973重點(diǎn)基礎(chǔ)研究發(fā)展計(jì)劃(No.2013CB329604);國(guó)家自然科學(xué)基金(No.71231002);北京市自然科學(xué)基金(No.9122018);教育部博士點(diǎn)基金(No.20120005110015);新華社713實(shí)驗(yàn)室技術(shù)研究項(xiàng)目——大數(shù)據(jù)與智能信息處理課題

    TP181

    A

    0372-2112 (2016)12-2855-06

    ??學(xué)報(bào)URL:http://www.ejournal.org.cn

    10.3969/j.issn.0372-2112.2016.12.07

    猜你喜歡
    商家特征差異
    The Thin Line
    相似與差異
    商家出售假冒商品,消費(fèi)者獲十倍賠償
    公民與法治(2020年9期)2020-05-30 12:45:12
    如何表達(dá)“特征”
    找句子差異
    不忠誠(chéng)的四個(gè)特征
    生物為什么會(huì)有差異?
    抓住特征巧觀察
    春節(jié)黃金周陜西省商家攬金二百一十億元
    M1型、M2型巨噬細(xì)胞及腫瘤相關(guān)巨噬細(xì)胞中miR-146a表達(dá)的差異
    2022亚洲国产成人精品| 亚洲一级一片aⅴ在线观看| 国产精品一区二区三区四区久久| 一区二区三区四区激情视频| 能在线免费观看的黄片| 午夜视频国产福利| 久久精品人妻少妇| 久久人人爽人人爽人人片va| 亚洲av免费高清在线观看| 尤物成人国产欧美一区二区三区| 亚洲色图av天堂| 国产精品无大码| 亚洲最大成人av| 亚洲va在线va天堂va国产| 成人二区视频| 十八禁网站网址无遮挡 | 激情五月婷婷亚洲| 一级黄片播放器| 男女那种视频在线观看| 久久久久久久久久久免费av| 男人舔女人下体高潮全视频| 成人午夜高清在线视频| 熟妇人妻不卡中文字幕| 白带黄色成豆腐渣| 亚洲国产精品专区欧美| 男插女下体视频免费在线播放| 久久精品国产鲁丝片午夜精品| 97超碰精品成人国产| 欧美最新免费一区二区三区| 观看免费一级毛片| 丰满少妇做爰视频| 亚洲av免费在线观看| 国产色婷婷99| 欧美日韩亚洲高清精品| 亚洲精品456在线播放app| 99热全是精品| 久热久热在线精品观看| 午夜久久久久精精品| 国产精品一区二区三区四区免费观看| 最新中文字幕久久久久| 欧美成人一区二区免费高清观看| 如何舔出高潮| 在线a可以看的网站| 亚洲欧洲国产日韩| 丰满少妇做爰视频| 日本一本二区三区精品| 成人毛片60女人毛片免费| xxx大片免费视频| 好男人视频免费观看在线| 高清毛片免费看| 成人高潮视频无遮挡免费网站| 日韩av不卡免费在线播放| 五月玫瑰六月丁香| 国产成人aa在线观看| 日韩一区二区视频免费看| 91久久精品电影网| 嫩草影院精品99| 久久久久性生活片| 亚洲精华国产精华液的使用体验| 免费高清在线观看视频在线观看| 99九九线精品视频在线观看视频| 亚洲精品中文字幕在线视频 | 91av网一区二区| 舔av片在线| a级毛色黄片| 中国美白少妇内射xxxbb| 2021天堂中文幕一二区在线观| 精品一区在线观看国产| 国产精品久久久久久久久免| 看十八女毛片水多多多| 亚洲精品色激情综合| 老司机影院成人| 亚洲av成人精品一区久久| 一级毛片黄色毛片免费观看视频| 国产精品国产三级国产av玫瑰| 一区二区三区免费毛片| 日本一本二区三区精品| 日本-黄色视频高清免费观看| 日韩制服骚丝袜av| 日韩亚洲欧美综合| 免费看不卡的av| 人人妻人人澡欧美一区二区| 深爱激情五月婷婷| 春色校园在线视频观看| 免费在线观看成人毛片| 99久久人妻综合| www.av在线官网国产| 精品久久久久久久久亚洲| 日本av手机在线免费观看| 国产v大片淫在线免费观看| 99re6热这里在线精品视频| 日韩中字成人| 日日干狠狠操夜夜爽| 免费看日本二区| 欧美激情久久久久久爽电影| 国产精品久久久久久久电影| 国产精品国产三级国产av玫瑰| 国内精品宾馆在线| 亚洲精品一二三| 国产黄频视频在线观看| 毛片一级片免费看久久久久| 国产综合懂色| 边亲边吃奶的免费视频| or卡值多少钱| 九九爱精品视频在线观看| 亚洲成人av在线免费| 丰满人妻一区二区三区视频av| 亚洲最大成人手机在线| 久久精品熟女亚洲av麻豆精品 | 最后的刺客免费高清国语| 国产 一区 欧美 日韩| 国产午夜福利久久久久久| 一级片'在线观看视频| 最近2019中文字幕mv第一页| 久久久久久久久久成人| 色吧在线观看| 久久人人爽人人片av| 欧美激情国产日韩精品一区| 日韩不卡一区二区三区视频在线| 国产亚洲精品久久久com| 国产欧美日韩精品一区二区| 国产精品无大码| 午夜福利视频精品| 久久精品熟女亚洲av麻豆精品 | 国产淫片久久久久久久久| 亚洲人成网站在线观看播放| 日韩欧美精品v在线| 校园人妻丝袜中文字幕| 成人美女网站在线观看视频| freevideosex欧美| 六月丁香七月| 国产在线男女| 精品久久久久久电影网| 亚洲精品成人av观看孕妇| 亚洲在久久综合| 国内揄拍国产精品人妻在线| 亚洲av免费高清在线观看| 午夜免费男女啪啪视频观看| av国产免费在线观看| 一区二区三区免费毛片| 欧美高清成人免费视频www| 精品人妻视频免费看| 男女视频在线观看网站免费| 免费少妇av软件| 亚洲精品乱码久久久久久按摩| 视频中文字幕在线观看| 欧美97在线视频| 2022亚洲国产成人精品| 春色校园在线视频观看| 特级一级黄色大片| 美女黄网站色视频| 免费看av在线观看网站| 午夜福利网站1000一区二区三区| 免费看美女性在线毛片视频| 国产乱人偷精品视频| 欧美精品一区二区大全| 成人午夜高清在线视频| 国产在线男女| 七月丁香在线播放| 97精品久久久久久久久久精品| 亚洲精品一二三| 纵有疾风起免费观看全集完整版 | 精华霜和精华液先用哪个| 免费无遮挡裸体视频| 插逼视频在线观看| 日韩欧美精品v在线| 国产精品三级大全| 国模一区二区三区四区视频| 日韩一区二区三区影片| 中文字幕久久专区| h日本视频在线播放| 日韩av在线免费看完整版不卡| 成人国产麻豆网| 嫩草影院新地址| 久久人人爽人人片av| 日韩一区二区视频免费看| 人妻夜夜爽99麻豆av| or卡值多少钱| 免费少妇av软件| 中文欧美无线码| videossex国产| 99久久精品一区二区三区| 精华霜和精华液先用哪个| 久久国内精品自在自线图片| 日韩成人伦理影院| 久久人人爽人人爽人人片va| 成人亚洲精品av一区二区| 麻豆久久精品国产亚洲av| 视频中文字幕在线观看| 日韩一区二区视频免费看| 3wmmmm亚洲av在线观看| 51国产日韩欧美| 99久久九九国产精品国产免费| 国产一区亚洲一区在线观看| 国产单亲对白刺激| 日韩一本色道免费dvd| 丝袜美腿在线中文| 亚洲精品一二三| 亚洲伊人久久精品综合| 国产一级毛片在线| 久久精品人妻少妇| 日本一二三区视频观看| 九草在线视频观看| 综合色av麻豆| 99久久人妻综合| 亚洲精品视频女| 国产精品久久久久久av不卡| 亚洲欧美成人精品一区二区| 菩萨蛮人人尽说江南好唐韦庄| 国产精品美女特级片免费视频播放器| 亚洲经典国产精华液单| 亚洲av一区综合| 在线观看人妻少妇| 精品久久久久久久久亚洲| av国产久精品久网站免费入址| 国产精品蜜桃在线观看| 一个人看的www免费观看视频| 婷婷色综合大香蕉| 美女xxoo啪啪120秒动态图| 国产黄色视频一区二区在线观看| 天堂av国产一区二区熟女人妻| 亚洲欧美一区二区三区黑人 | 国产永久视频网站| 欧美性猛交╳xxx乱大交人| 国产黄色视频一区二区在线观看| 久久这里有精品视频免费| 成年女人看的毛片在线观看| 丰满人妻一区二区三区视频av| 91在线精品国自产拍蜜月| 一本久久精品| 校园人妻丝袜中文字幕| 久久久久免费精品人妻一区二区| 在现免费观看毛片| 国产精品嫩草影院av在线观看| av一本久久久久| 午夜激情欧美在线| 亚洲精华国产精华液的使用体验| 亚洲乱码一区二区免费版| 天美传媒精品一区二区| 如何舔出高潮| .国产精品久久| 日韩三级伦理在线观看| 亚洲欧美清纯卡通| 久久久久久久国产电影| 亚洲欧美成人精品一区二区| 日韩精品青青久久久久久| 日韩欧美精品v在线| 九九久久精品国产亚洲av麻豆| 97热精品久久久久久| 一级爰片在线观看| 亚洲av日韩在线播放| av一本久久久久| 欧美 日韩 精品 国产| 久久鲁丝午夜福利片| 久久久久精品久久久久真实原创| 日本av手机在线免费观看| 美女高潮的动态| 亚洲性久久影院| 精品人妻视频免费看| av在线播放精品| 久久草成人影院| 欧美人与善性xxx| av免费观看日本| 中文乱码字字幕精品一区二区三区 | 久久人人爽人人片av| 成年免费大片在线观看| 白带黄色成豆腐渣| 婷婷色综合大香蕉| 国精品久久久久久国模美| 国产精品久久久久久久久免| 小蜜桃在线观看免费完整版高清| 大话2 男鬼变身卡| 日本wwww免费看| 男女视频在线观看网站免费| videos熟女内射| 亚洲成色77777| 亚洲一级一片aⅴ在线观看| 国产老妇伦熟女老妇高清| 国产淫语在线视频| 亚洲电影在线观看av| 国产高清国产精品国产三级 | 亚洲精品,欧美精品| 日韩伦理黄色片| 嫩草影院精品99| 国产精品久久久久久av不卡| 午夜福利在线观看吧| 亚洲欧美清纯卡通| 极品教师在线视频| 久热久热在线精品观看| 联通29元200g的流量卡| 高清视频免费观看一区二区 | 99热网站在线观看| 国产精品人妻久久久影院| 青青草视频在线视频观看| 男插女下体视频免费在线播放| 成人鲁丝片一二三区免费| 蜜桃久久精品国产亚洲av| av在线老鸭窝| 国产激情偷乱视频一区二区| 精品不卡国产一区二区三区| 午夜日本视频在线| 99久久中文字幕三级久久日本| 七月丁香在线播放| 一个人观看的视频www高清免费观看| 亚洲精品乱码久久久v下载方式| 成人毛片a级毛片在线播放| 97在线视频观看| 建设人人有责人人尽责人人享有的 | 国产精品一区二区在线观看99 | 91在线精品国自产拍蜜月| 免费少妇av软件| 国产精品一区二区性色av| 欧美一区二区亚洲| 成人鲁丝片一二三区免费| 亚洲精品aⅴ在线观看| 国产男人的电影天堂91| 99久国产av精品国产电影| 久久这里有精品视频免费| 精华霜和精华液先用哪个| 久久6这里有精品| 中文字幕亚洲精品专区| 熟妇人妻久久中文字幕3abv| 少妇被粗大猛烈的视频| 日日干狠狠操夜夜爽| 国产精品久久久久久久久免| 亚洲欧美日韩东京热| 两个人的视频大全免费| 久久久精品94久久精品| 国产精品一区www在线观看| 黄色欧美视频在线观看| 国产爱豆传媒在线观看| 男女边吃奶边做爰视频| 99热全是精品| 女人久久www免费人成看片| 国产伦精品一区二区三区视频9| 婷婷色综合www| 波多野结衣巨乳人妻| 26uuu在线亚洲综合色| 久久久久精品性色| 欧美日本视频| 日本与韩国留学比较| 欧美性感艳星| 国产精品国产三级国产专区5o| 久久久久久久久久成人| 日韩精品青青久久久久久| 一个人免费在线观看电影| 熟女人妻精品中文字幕| 亚洲精品一二三| 中文字幕av成人在线电影| 精品久久久久久久久av| 天堂俺去俺来也www色官网 | 国产老妇女一区| 久久久久久久久久久丰满| 国产成人freesex在线| 99热网站在线观看| 简卡轻食公司| 十八禁网站网址无遮挡 | 午夜激情久久久久久久| 欧美xxxx性猛交bbbb| 精品少妇黑人巨大在线播放| 菩萨蛮人人尽说江南好唐韦庄| 久99久视频精品免费| 亚洲最大成人中文| 国产精品人妻久久久影院| 极品教师在线视频| 成人亚洲精品一区在线观看 | 亚洲最大成人手机在线| 免费人成在线观看视频色| 哪个播放器可以免费观看大片| 午夜福利视频精品| 成人综合一区亚洲| 亚洲精品,欧美精品| 一个人观看的视频www高清免费观看| 中文字幕制服av| 日韩av不卡免费在线播放| 男女视频在线观看网站免费| 午夜免费观看性视频| 亚洲熟女精品中文字幕| 亚洲国产最新在线播放| 免费av观看视频| 国产成人免费观看mmmm| 午夜亚洲福利在线播放| 22中文网久久字幕| 日本av手机在线免费观看| 国产精品麻豆人妻色哟哟久久 | 一夜夜www| 日韩视频在线欧美| 97人妻精品一区二区三区麻豆| 亚洲精品国产av成人精品| 国产在视频线在精品| 我的老师免费观看完整版| 国产高清国产精品国产三级 | 国产男人的电影天堂91| 少妇熟女欧美另类| 黄色日韩在线| 欧美性猛交╳xxx乱大交人| 久久久久久久亚洲中文字幕| 国产午夜精品久久久久久一区二区三区| 国内精品宾馆在线| 色综合色国产| 偷拍熟女少妇极品色| 国产探花在线观看一区二区| 少妇被粗大猛烈的视频| 青春草国产在线视频| 中文字幕av成人在线电影| 欧美成人一区二区免费高清观看| 国产一区二区三区综合在线观看 | 天堂俺去俺来也www色官网 | 国产视频首页在线观看| 九九爱精品视频在线观看| 91午夜精品亚洲一区二区三区| 精品久久久久久久末码| 精品久久久久久久人妻蜜臀av| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产高清国产精品国产三级 | 在线观看美女被高潮喷水网站| 欧美97在线视频| 国产不卡一卡二| 国产精品伦人一区二区| 91午夜精品亚洲一区二区三区| 精品久久久精品久久久| 不卡视频在线观看欧美| xxx大片免费视频| 久久久久久久国产电影| 精品一区二区三区人妻视频| 69av精品久久久久久| 91精品一卡2卡3卡4卡| 亚洲av成人av| 蜜桃久久精品国产亚洲av| 亚洲乱码一区二区免费版| 在线免费十八禁| 国产精品综合久久久久久久免费| 青春草国产在线视频| 五月伊人婷婷丁香| 高清在线视频一区二区三区| 高清av免费在线| 国产成人午夜福利电影在线观看| 啦啦啦中文免费视频观看日本| 波野结衣二区三区在线| 国产淫片久久久久久久久| 亚洲激情五月婷婷啪啪| 晚上一个人看的免费电影| 久久99热这里只有精品18| 国产成人精品一,二区| 久久精品综合一区二区三区| 欧美人与善性xxx| 久久韩国三级中文字幕| 国内精品美女久久久久久| 久久99热这里只有精品18| 麻豆精品久久久久久蜜桃| 国产爱豆传媒在线观看| 亚洲国产精品成人久久小说| 精品一区二区三区人妻视频| 一本久久精品| 美女脱内裤让男人舔精品视频| 能在线免费看毛片的网站| 国产黄片美女视频| 91精品伊人久久大香线蕉| 久久精品国产亚洲av涩爱| 欧美性感艳星| 久久亚洲国产成人精品v| 床上黄色一级片| 夜夜爽夜夜爽视频| 我的女老师完整版在线观看| 久久精品国产鲁丝片午夜精品| 少妇丰满av| 女的被弄到高潮叫床怎么办| 亚洲成人中文字幕在线播放| 国产v大片淫在线免费观看| 国产精品无大码| 成人二区视频| 欧美日韩在线观看h| 久久99热6这里只有精品| 永久免费av网站大全| 午夜免费激情av| 国产成人精品福利久久| 搡老妇女老女人老熟妇| 亚洲欧美成人精品一区二区| 久久久久久国产a免费观看| 国产一区有黄有色的免费视频 | 欧美高清性xxxxhd video| 蜜臀久久99精品久久宅男| 51国产日韩欧美| 国产爱豆传媒在线观看| 午夜福利视频精品| 91久久精品国产一区二区成人| 国产探花极品一区二区| 精品一区在线观看国产| 日韩一区二区视频免费看| 日本猛色少妇xxxxx猛交久久| 日韩电影二区| www.色视频.com| 精品亚洲乱码少妇综合久久| 国产极品天堂在线| 亚洲精品日本国产第一区| 在线天堂最新版资源| 丰满少妇做爰视频| 国产高清不卡午夜福利| 亚洲高清免费不卡视频| 人人妻人人澡人人爽人人夜夜 | 日本欧美国产在线视频| 永久网站在线| 亚洲四区av| 午夜福利在线观看免费完整高清在| 18禁裸乳无遮挡免费网站照片| 在线天堂最新版资源| 一夜夜www| 国内精品一区二区在线观看| 99九九线精品视频在线观看视频| 久久久久久久久中文| 舔av片在线| 久久亚洲国产成人精品v| 听说在线观看完整版免费高清| 97超碰精品成人国产| 淫秽高清视频在线观看| 国产在线男女| 听说在线观看完整版免费高清| 久久久久久久久久成人| 最近中文字幕高清免费大全6| 亚洲最大成人中文| 久久韩国三级中文字幕| 久久久欧美国产精品| 精品一区二区三区人妻视频| 国产片特级美女逼逼视频| 久久久久久久大尺度免费视频| 国产精品无大码| 亚洲aⅴ乱码一区二区在线播放| 看免费成人av毛片| 嫩草影院入口| 国内精品一区二区在线观看| av卡一久久| 精品熟女少妇av免费看| 人妻少妇偷人精品九色| av在线观看视频网站免费| 麻豆av噜噜一区二区三区| 亚洲欧美日韩无卡精品| 国产成人aa在线观看| 亚洲激情五月婷婷啪啪| 三级国产精品片| 久久99蜜桃精品久久| 欧美3d第一页| 婷婷色综合大香蕉| 日本三级黄在线观看| 久久久久久久久大av| 老女人水多毛片| 18禁在线播放成人免费| 午夜福利在线观看免费完整高清在| 美女高潮的动态| 国产精品人妻久久久影院| 免费看光身美女| 亚洲国产精品成人久久小说| 免费播放大片免费观看视频在线观看| 亚洲av中文字字幕乱码综合| 好男人视频免费观看在线| 2022亚洲国产成人精品| 老女人水多毛片| 亚洲av电影在线观看一区二区三区 | 91精品一卡2卡3卡4卡| 亚洲va在线va天堂va国产| 久久99蜜桃精品久久| 国产精品麻豆人妻色哟哟久久 | 欧美日韩一区二区视频在线观看视频在线 | 亚洲精品国产成人久久av| 人妻一区二区av| 男女边摸边吃奶| 欧美成人一区二区免费高清观看| 久久久久久久久久成人| 亚洲精品国产成人久久av| 麻豆成人av视频| av在线播放精品| 国产高清不卡午夜福利| 亚洲四区av| 男女边摸边吃奶| 一级av片app| 精品久久久久久电影网| 十八禁国产超污无遮挡网站| 日本猛色少妇xxxxx猛交久久| 在线播放无遮挡| 欧美zozozo另类| 色网站视频免费| 能在线免费观看的黄片| 亚洲伊人久久精品综合| 亚洲,欧美,日韩| 麻豆成人午夜福利视频| 草草在线视频免费看| 尾随美女入室| 国产片特级美女逼逼视频| 婷婷六月久久综合丁香| 国产午夜精品论理片| 男人和女人高潮做爰伦理| 黄片wwwwww| 精品久久久久久久人妻蜜臀av| 插阴视频在线观看视频| 亚洲欧美日韩无卡精品| 秋霞伦理黄片| 18禁裸乳无遮挡免费网站照片| 哪个播放器可以免费观看大片| 国产激情偷乱视频一区二区| 一本久久精品| 少妇被粗大猛烈的视频| 日韩在线高清观看一区二区三区| 午夜精品在线福利| 亚洲美女视频黄频| 国产精品99久久久久久久久| 精品人妻熟女av久视频| 亚洲伊人久久精品综合| 国产探花极品一区二区| 51国产日韩欧美| 亚洲av免费在线观看| 99久久九九国产精品国产免费| 三级国产精品片| 国产精品人妻久久久影院| 国产黄片美女视频| 日本黄色片子视频| 天堂√8在线中文|