• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    體現(xiàn)使用反饋的APP軟件用戶評論挖掘*

    2019-10-24 02:09:48胡甜媛
    軟件學(xué)報 2019年10期
    關(guān)鍵詞:觀點對象種子

    胡甜媛,姜 瑛

    1(云南省計算機技術(shù)應(yīng)用重點實驗室,云南 昆明 650500)

    2(昆明理工大學(xué) 信息工程與自動化學(xué)院,云南 昆明 650500)

    隨著智能終端的廣泛應(yīng)用,APP 軟件發(fā)展迅速.APP 軟件的特點是開發(fā)周期短,更新速度快,同類型產(chǎn)品競爭激烈.在日益激烈的市場競爭中,用戶驅(qū)動的軟件演化更具有實際意義.Panago 等人[1]指出,由于軟件開發(fā)者和用戶互不認識,用戶使用反饋,如建議意見和系統(tǒng)異常等對開發(fā)者更加重要.因此,獲取有價值的軟件使用反饋可以讓用戶參與到軟件的設(shè)計和維護中,是軟件開發(fā)商在競爭激烈的軟件市場取得更好收益的重要保證.Jiang 等人[2]認為,APP 軟件的在線用戶評論憑借覆蓋用戶廣泛、內(nèi)容豐富、時效性強等優(yōu)勢,成為軟件使用反饋獲取的重要資源.Lu 等人[3]認為,針對產(chǎn)品的在線用戶評論可以及時地體現(xiàn)用戶關(guān)注的產(chǎn)品屬性、同類型其他產(chǎn)品的優(yōu)勢與自身產(chǎn)品的劣勢以及下一版本需要改進的地方.因此,基于APP 軟件的用戶評論挖掘可以幫助獲取有價值的軟件使用反饋,分析用戶在使用軟件過程中的使用感受及用戶所關(guān)注的軟件特征,幫助軟件開發(fā)者站在用戶的視角有針對性地維護和改進軟件,最終輔助軟件開發(fā)者提高軟件產(chǎn)品的競爭力.此外,挖掘體現(xiàn)使用反饋的用戶評論有助于軟件應(yīng)用市場綜合分析軟件的實際使用情況,從而給潛在用戶提供有效的參考.

    然而,APP 軟件用戶群體廣泛,用戶評論內(nèi)容多樣.海量的用戶評論中包含大量與APP 軟件使用反饋不相關(guān)的用戶評論信息,例如,與所評價的APP 軟件無關(guān)的用戶評論、未體現(xiàn)APP 軟件實際使用情況或用戶使用觀點的用戶評論等.針對用戶評論數(shù)據(jù)規(guī)模大、更新快等特點,如何過濾大規(guī)模用戶評論數(shù)據(jù)中未體現(xiàn)使用反饋的用戶評論,準(zhǔn)確、高效地獲取有建設(shè)性的APP 軟件用戶的使用反饋是當(dāng)前亟需解決的問題.

    1 相關(guān)工作

    針對挖掘用戶評論中有價值的使用反饋,國內(nèi)外學(xué)者開展了相關(guān)研究.Cui 等人[4]提出基于評論挖掘的需求獲取方法RERM(software requirement elicitation method on review mining),通過采用本體和條件隨機場模型融合的特征提取方法,結(jié)合情感分析技術(shù),對軟件存在的相關(guān)問題分類匯總,如改進特征、建議意見和缺陷修改等.為了挖掘用戶評論中體現(xiàn)軟件存在的問題的使用反饋,Panichella 等人[5]應(yīng)用一種自然語言解析器(stanford typed dependencies parser)進行特征抽取,通過對依賴關(guān)系的分析,檢測評論文本結(jié)構(gòu),分析特定的關(guān)鍵字所對應(yīng)的精確語法角色和特定語法結(jié)構(gòu),從而判斷用戶評論是否與軟件缺陷或用戶功能請求等方面的使用反饋相關(guān).Grano 等人[6]提供了APP 軟件的用戶反饋類型的概述,并記錄了相關(guān)代碼度量標(biāo)準(zhǔn)的演變.

    部分研究通過分類、聚類來挖掘用戶評論.Guzman 等人[7]為了識別用戶評論中體現(xiàn)使用反饋的細粒度的功能特征,利用主題建模技術(shù)對細粒度功能進行分組,將其轉(zhuǎn)化為更有意義的高級特征.Keertipati 等人[8]為了挖掘用戶評論中體現(xiàn)的軟件需要改進的特征,應(yīng)用文獻[7]中主題模型的方法抽取用戶評論中的相關(guān)特征,站在APP 軟件開發(fā)者的角度,對挖掘出的軟件使用過程中存在的問題或用戶期望進行優(yōu)先級排序.Gao 等人[9]提出的主題排序和評論排序計劃可以對用戶評論進行優(yōu)先級排序,從而幫助開發(fā)者應(yīng)用最合適的主題模型發(fā)現(xiàn)軟件使用過程中存在的最新問題.Palomba 等人[10]圍繞相似的體現(xiàn)軟件未達到期望的用戶評論,通過主題模型LDA(latent Dirichlet allocation)等3 種聚類技術(shù)對評論中的用戶請求進行分組.Guzman 等人[11]應(yīng)用多個分類器對用戶評論進行更詳細的種類劃分,將APP 軟件用戶評論劃分為7 個類別:缺陷報告、功能優(yōu)點、功能缺點、用戶請求、表揚、抱怨和使用場景,不同類型的用戶評論可以反饋出用戶對軟件的滿意程度或軟件存在的問題等.Maalej 等人[12]采用文本分類、自然語言處理、多種情感分析等技術(shù)將用戶評論分為問題報告、功能請求、用戶體驗和評分4 種類型.Villarroel 等人[13]設(shè)計了一種分類、聚類的方法——CLAP(crowd listener for release planning),對體現(xiàn)軟件缺陷、特征請求等用戶評論進行分類,同時針對體現(xiàn)相似軟件缺陷的用戶評論進行聚類.Gu 等人[14]根據(jù)預(yù)定義的句式結(jié)構(gòu)直接抽取用戶評論句子中的對象-觀點對,通過對象-觀點進行相同方面的聚類來總結(jié)用戶評論中體現(xiàn)的使用反饋.

    通過分析現(xiàn)有研究我們發(fā)現(xiàn):(1)在經(jīng)過預(yù)處理后的用戶評論數(shù)據(jù)中,仍然包含大量無用數(shù)據(jù),應(yīng)用分類技術(shù)挖掘用戶評論,大量無關(guān)的用戶評論數(shù)據(jù)會影響有價值的使用反饋數(shù)據(jù)的挖掘;(2)基于已有的知識庫的方式只能匹配知識庫中已有的內(nèi)容,無法識別知識庫外有價值的信息;(3)應(yīng)用有限的軟件特征詞挖掘體現(xiàn)使用反饋的用戶評論,忽略了句式結(jié)構(gòu)的重要性;已有針對用戶評論進行使用反饋挖掘的研究對象大部分為用戶評論內(nèi)容,而忽略了用戶評論的句式結(jié)構(gòu)在用戶表達使用反饋時的規(guī)律.此外,由于在線網(wǎng)絡(luò)環(huán)境下,用戶評論數(shù)量大、更新快且類型豐富,部分研究采用有監(jiān)督的學(xué)習(xí)方式,需要建立完備的數(shù)據(jù)資源,且隨著時間的推移,人工標(biāo)注的數(shù)據(jù)資源需要不斷補充甚至重新構(gòu)建,難以滿足挖掘需求.如何綜合分析APP 軟件用戶評論的評論內(nèi)容和評論句式結(jié)構(gòu)的特點,通過半監(jiān)督自學(xué)習(xí)的方式,自動挖掘出體現(xiàn)不同類型的使用反饋的APP 軟件用戶評論是本文的研究重點.

    2 APP 軟件使用反饋的類型

    由于軟件的維護和演化應(yīng)該嚴格地由用戶評論中包含的用戶請求來引導(dǎo),所以軟件用戶的使用反饋分析尤其重要[15].通過分析用戶針對APP 軟件發(fā)表的不同類型的使用反饋,可以幫助軟件開發(fā)者獲得有價值的軟件信息,發(fā)現(xiàn)用戶主要關(guān)注的軟件特征和常見的軟件存在的問題.文獻[16]認為,從用戶的使用反饋中獲取用戶需求的主要任務(wù)是從海量、非結(jié)構(gòu)化、有噪聲、不確定的評論中抽取用戶共同關(guān)注的軟件特征及其群體觀點.在挖掘體現(xiàn)使用反饋的用戶評論過程中,本文認為,用戶所關(guān)注的軟件特征即評價對象,用戶所表達的觀點即評價觀點.評價對象就是觀點持有者表達情感的目標(biāo)實體,通常由一個或多個單詞組成[17].評價觀點指的是能夠表達用戶自身觀點的帶有情感傾向的詞語,是判斷用戶對評價對象情感的根本依據(jù)[18].因此,用戶針對不同的評價對象發(fā)表不同的觀點,對評價觀點進行歸類可以挖掘出不同類型的用戶使用反饋.通過分析大量體現(xiàn)使用反饋的APP 軟件用戶評論后發(fā)現(xiàn),有價值的APP 軟件使用反饋往往針對該APP 軟件的實際使用情況發(fā)表滿意或者不滿意的觀點,不滿意的用戶評論觀點一般體現(xiàn)出軟件在實際使用過程中存在的問題.此外,用戶評論體現(xiàn)的建議或意見對于APP 軟件的維護和改進也具有較大的參考價值.因此,本文將用戶評論體現(xiàn)的APP 軟件使用反饋總結(jié)為以下3 種類型.

    (1)軟件滿足的需求:描述了用戶在實際使用軟件的過程中,軟件的某些特征或軟件整體使用戶具有較好的使用體驗.

    (2)軟件存在的問題:描述了用戶在實際使用軟件的過程中,軟件存在的問題,例如崩潰、錯誤或性能問題.

    (3)軟件未達到的期望:表達了用戶希望達到的功能(例如其他同類型軟件提供的功能),分享如何通過添加或更改特性來改進未來版本軟件的想法.

    針對上述3 種不同類型的APP 軟件使用反饋,本文進行用戶評論的挖掘,主要針對一條用戶評論中的評價對象和評價觀點進行分析,排除用戶評論中大量無關(guān)信息的干擾,旨在以評價對象和評價觀點作為一條用戶評論的核心內(nèi)容,從海量用戶評論中挖掘出體現(xiàn)不同使用反饋類型的用戶評論.

    3 評論種子及抽取規(guī)則

    針對APP 軟件的使用反饋進行用戶評論挖掘,可以通過分析評價對象和評價觀點判斷用戶評論是否體現(xiàn)了某種類型的使用反饋.此外,通過分析大量用戶評論,本文發(fā)現(xiàn),針對體現(xiàn)不同類型的使用反饋,特定的句式結(jié)構(gòu)可以輔助挖掘體現(xiàn)不同使用反饋類型的用戶評論.例如:“安裝/v 不/d 了/y”和“登/v 不/d 上/vf”(其中,v 表示動詞、d 表示副詞、y 表示語氣詞、vf 表示趨向動詞),其評價對象不同,分別為“安裝/v”和“登/v”,但兩者句式結(jié)構(gòu)相似,均為“v+d(否定副詞)”,該句式結(jié)構(gòu)特點為:動詞v 表示評價對象,否定副詞d 表示評價觀點,且該句式結(jié)構(gòu)均體現(xiàn)“軟件存在的問題”這一使用反饋類型.由此可以看出,評價對象、評價觀點、句式結(jié)構(gòu)這3 個方面在挖掘用戶評論時都至關(guān)重要.由于詞體現(xiàn)評價內(nèi)容,詞性體現(xiàn)句式結(jié)構(gòu),所以綜合分析詞和詞性是挖掘體現(xiàn)使用反饋的用戶評論的重要手段.

    本節(jié)定義評價對象和評價觀點的抽取規(guī)則,通過該抽取規(guī)則分析一條用戶評論的核心內(nèi)容;結(jié)合APP 軟件使用反饋類型定義了評論種子,通過定義評論種子,綜合應(yīng)用一條用戶評論的詞和詞性可以挖掘與之相同或相似的體現(xiàn)相同使用反饋類型的用戶評論;利用評價對象和評價觀點的抽取規(guī)則輔助分析評論種子的評價對象和評價觀點,抽取新的評論種子,從而獲得評論種子的核心表達內(nèi)容、排除無關(guān)內(nèi)容的干擾.

    3.1 評價對象和評價觀點的抽取規(guī)則

    為了判斷用戶評論中的核心內(nèi)容是否體現(xiàn)使用反饋,需抽取用戶評論中的評價對象和評價觀點.

    評價對象多為名詞或者名詞短語[19].此外,由于本文針對體現(xiàn)使用反饋的用戶評論進行挖掘,通過人工分析大量體現(xiàn)使用反饋的用戶評論的評價對象發(fā)現(xiàn),存在用戶針對軟件功能性的行為動作進行評價的情況,如評價對象為“下載/v”和“退出/v 播放/v”等.因此,本文主要針對名詞、動詞及其組合形式建立評價對象詞性組合規(guī)則以抽取評價對象,抽取規(guī)則見表1.

    Table 1 Extracting rules of evaluation object表1 評價對象抽取規(guī)則

    其中,v 表示動詞、vi 表示不及物動詞、vn 表示動名詞、a 表示形容詞、n 表示名詞.

    文獻[20]指出,形容詞或動詞可以作為判別句子中情感傾向的依據(jù),副詞作為形容詞以及動詞的修飾詞,起到了增強情感強度的作用,而形容詞、動詞能夠更好地指示其情感傾向.但是,通過人工分析大量體現(xiàn)使用反饋的用戶評論的評價對象后發(fā)現(xiàn),否定副詞在修飾形容詞或動詞表示評價觀點時起到否定修飾的作用而不是增強情感,如“不/d 喜歡/v”.因此,本文主要針對形容詞、動詞、否定副詞及其組合形式建立評價觀點詞性規(guī)則以抽取評價觀點,抽取規(guī)則見表2.

    Table 2 Extracting rules of evaluation opinion表2 評價觀點抽取規(guī)則

    其中,an 表示名形詞,al 表示形容詞性慣用語,vg 表示動詞性語素,ag 表示形容詞性語素,ng 表示名詞性語素,y 表示語氣詞.

    表2 中“否定修飾觀點”涉及否定副詞的概念,本文參考文獻[21],抽取了如下否定副詞:“沒有、不、非、匪、弗、否、靡、蔑、莫、末、蒯、微、未、無、毋、勿、別、沒、休、白、空、徒、枉”.如表2 中的用戶評論示例“廣告/n 太/d 長/a”,該評論包含詞性組合“d+a”,其中的d 為“太”,由于“太”不是否定副詞,所以該用戶評論的評價觀點為“長”.

    如果一條用戶評論滿足多條評價對象(評價觀點)抽取規(guī)則,就會引發(fā)沖突,此時需要為抽取規(guī)則定義相應(yīng)的優(yōu)先級.主要存在以下兩種情況.

    (1)用戶評論同時滿足多條評價對象(評價觀點)抽取規(guī)則,且每條規(guī)則不相關(guān).例如:“棒/ng,/wd 不過/c 皮膚/n 不/d 夠/v”,該用戶評論通過“名詞獨立對象”規(guī)則抽取的評價對象為“皮膚”.然而,在抽取評價觀點的過程中,該用戶評論同時滿足“否定修飾行為觀點”規(guī)則和“語素獨立觀點”規(guī)則.通過“否定修飾行為觀點”規(guī)則抽取出的評價觀點為“不夠”,通過“語素獨立觀點”規(guī)則抽取出的評價觀點為“棒”.評價觀點“不夠”修飾評價對象“皮膚”,且該評價觀點對分析用戶使用反饋更有建設(shè)性,因此,“否定修飾行為觀點”規(guī)則的優(yōu)先級高于“語素獨立觀點”規(guī)則.

    (2)用戶評論同時滿足多條評價對象(評價觀點)抽取規(guī)則,且其中一條規(guī)則的詞性組合包含另一條規(guī)則的詞性組合.例如,評論“不/d 好/a”在抽取評價觀點的過程中,可能同時滿足表2 中“否定修飾觀點”和“形容詞獨立觀點”規(guī)則,且“否定修飾觀點”規(guī)則的詞性組合“d+a”包含“形容詞獨立觀點”規(guī)則的詞性組合“a”,但通過“否定修飾觀點”規(guī)則抽取出的評價觀點才是表達正確的評價觀點,因此,“否定修飾觀點”規(guī)則的優(yōu)先級高于“形容詞獨立觀點”規(guī)則.

    針對上述兩種評價對象(評價觀點)抽取規(guī)則的沖突情況,我們通過分析大量體現(xiàn)使用反饋的用戶評論數(shù)據(jù),總結(jié)了不同抽取規(guī)則在分析用戶評論的評價對象和評價觀點時的有效性,對每個抽取規(guī)則定義了不同的優(yōu)先級.優(yōu)先級體現(xiàn)了抽取規(guī)則的優(yōu)先程度,優(yōu)先級越高,抽取規(guī)則的優(yōu)先程度越高.

    按照表1 和表2 中抽取規(guī)則中的優(yōu)先級分別抽取評價對象和評價觀點,主要遵循以下原則.

    (1)在抽取評價對象(評價觀點)時,若用戶評論同時包含多種優(yōu)先級的評價對象(評價觀點)類型,則按優(yōu)先級最高的評價對象(評價觀點)類型的規(guī)則進行抽取,不考慮其他規(guī)則.

    (2)在抽取評價對象的過程中,若用戶評論中同時包含同一優(yōu)先級的評價對象類型,則根據(jù)該評價對象類型的詞性組合出現(xiàn)的先后順序,抽取位置較前的詞性組合所對應(yīng)的評價對象.

    (3)在完成評價對象抽取之后進行評價觀點抽取時,若用戶評論中同時包含同一優(yōu)先級的評價觀點類型,則根據(jù)該評價觀點類型的詞性組合與已抽取的評價對象的距離,抽取與評價對象距離較近的詞性組合所對應(yīng)的評價觀點.

    應(yīng)用本節(jié)構(gòu)建的評價對象和評價觀點的抽取規(guī)則可以自動抽取一條用戶評論中的評價對象和評價觀點,通過該方式可挖掘一條用戶評論中的核心內(nèi)容,并通過核心內(nèi)容分析用戶評論是否體現(xiàn)使用反饋及其使用反饋類型.

    3.2 評論模式和評論種子的定義

    為了更準(zhǔn)確地挖掘出體現(xiàn)使用反饋的APP 軟件用戶評論,針對不同使用反饋類型,本文從綜合考慮詞和詞性的角度出發(fā),結(jié)合評價對象和評價觀點的抽取規(guī)則提出了評論模式和評論種子的概念.首先,為了便于挖掘用戶評論,本文將用戶評論的內(nèi)容定義為評論模式.

    定義1.評論模式(mode):用戶評論的有代表性的表達方式,包含詞、詞性、權(quán)重和使用反饋類型4 個屬性.評論庫中共有r條用戶評論,對應(yīng)r個評論模式:mode={mode1,…,modem,…,moder}(1≤m≤r),modem=〈wordm1+…+wordmn+…+wordmq,speechm1+…+speechmn+…+speechmq,weightm1+…+weightmn+…+weightmq,feedback_typem〉(1≤n≤q).

    其中,word代表詞;speech代表詞性;weight代表詞及其詞性對應(yīng)的權(quán)重;+代表詞/詞性/權(quán)重的連接;q代表評論模式中詞(詞性)的數(shù)量;feedback_typem代表用戶評論commentm體現(xiàn)的使用反饋類型,未對評論commentm進行使用反饋類型判斷時,其值為unknown.

    針對用戶評論表達不規(guī)則、數(shù)量大、更新快的特點,本文借鑒了種子的相關(guān)思想.種子的概念被廣泛應(yīng)用于知識獲取的半監(jiān)督機器學(xué)習(xí)[22]中,將人工標(biāo)注的少量語料作為評論種子,并通過半監(jiān)督自學(xué)習(xí)的方式從大量未標(biāo)注的語料中自動迭代擴大評論種子集.由于評價對象、評價觀點、句式結(jié)構(gòu)這3 個方面在挖掘用戶評論時都至關(guān)重要,本文通過詞性的方式體現(xiàn)句式結(jié)構(gòu),通過詞和權(quán)重的方式體現(xiàn)評價對象和評價觀點這兩個核心評價內(nèi)容,并設(shè)置使用反饋類型標(biāo)識評論種子體現(xiàn)的使用反饋類型,具體的評論種子定義如下.

    定義2.評論種子(seed):體現(xiàn)使用反饋的具有代表性的評論表達方式,包含詞、詞性、權(quán)重、距離和使用反饋類型5 個屬性.評論種子庫中共有s個評論種子.

    其中,word代表詞;speech代表詞性;p代表評論種子中詞(詞性)的數(shù)量;weight代表詞及其詞性對應(yīng)的權(quán)重,可體現(xiàn)評價對象和評價觀點;+代表詞/詞性/權(quán)重的連接;disi為該評論種子的距離,其值為評價對象和評價觀點之間可擴展的最大距離以及評論種子中評價對象和評價觀點的詞(詞性)的數(shù)量之和,評價對象和評價觀點之間可擴展的最大距離表示評價對象和評價觀點之間可能出現(xiàn)不影響評論表達含義的其他詞的最大數(shù)量;feedback_typei表示該評論種子體現(xiàn)的使用反饋類型.應(yīng)用第3.1 節(jié)中的評價對象和評價觀點抽取規(guī)則,抽取評論種子中的評價對象和評價觀點,評論種子的詞及其詞性對應(yīng)的權(quán)重weight的計算如公式(1)所示:

    其中,numObjectOpinion代表該評論種子的評價對象和評價觀點的總個數(shù).例如,評論種子“〈內(nèi)存+太+大,n+d+a,0.5+0+0.5,6,軟件存在的問題〉”,應(yīng)用“獨立名詞對象”的詞性組合規(guī)則抽取出該評論種子的評價對象為“內(nèi)存”,應(yīng)用“否定修飾觀點”的詞性組合規(guī)則抽取出該評論種子的評價觀點為“大”.該評論種子的評價對象和評價觀點的詞(詞性)的數(shù)量為2,針對該評論種子的表達方式,評價對象和評價觀點之間一般由副詞修飾評價觀點,且副詞數(shù)量最大為4[23],因此,該評論種子的距離為評價對象和評價觀點之間可擴展的最大距離與評論種子中評價對象和評價觀點的詞(詞性)的數(shù)量之和,即4+2=6.

    基于評論模式和評論種子的定義,可以結(jié)合評價對象和評價觀點的抽取規(guī)則設(shè)置評論種子的詞及其詞性的權(quán)重,通過權(quán)重的方式反映出該評論種子中體現(xiàn)使用反饋的核心評論內(nèi)容.針對評論模式和評論種子中的詞和詞性,從評論內(nèi)容和句式結(jié)構(gòu)兩方面挖掘用戶評論,挖掘出與評論種子相同或相似的用戶評論與評論種子體現(xiàn)相同的使用反饋類型.

    4 挖掘體現(xiàn)使用反饋的用戶評論

    由于體現(xiàn)APP 軟件使用反饋類型的用戶評論變化多樣,人工標(biāo)注的數(shù)據(jù)資源無法滿足挖掘體現(xiàn)使用反饋的用戶評論的要求.因此,本文采用半監(jiān)督學(xué)習(xí)的方式,主要通過循環(huán)挖掘過程中動態(tài)擴充評論種子庫,擴大挖掘體現(xiàn)使用反饋的用戶評論的范圍,在人工標(biāo)注數(shù)據(jù)有限的情況下提高挖掘體現(xiàn)使用反饋的用戶評論的能力.循環(huán)挖掘過程包括以下4 個步驟.

    (1)通過評論種子挖掘與評論種子相同或相似的體現(xiàn)使用反饋的用戶評論:不局限于特定的評價對象、評價觀點或固定的評論句式結(jié)構(gòu),應(yīng)用評論種子定義的詞、詞性、權(quán)重及距離這4 個屬性共同挖掘與評論種子相同或相似的用戶評論.

    (2)通過能愿動詞挖掘體現(xiàn)“軟件未達到的期望”的用戶評論:評論種子的數(shù)量限定了能被挖掘出的體現(xiàn)使用反饋的用戶評論是有限的,但與評論種子匹配失敗的用戶評論中仍然可能包含體現(xiàn)使用反饋的用戶評論,通過明確體現(xiàn)“用戶期望”的能愿動詞挖掘用戶評論,此類用戶評論可以體現(xiàn)“軟件未達到的期望”這一使用反饋類型,抽取其評論模式進入候選評論模式庫.

    (3)通過軟件簡介和情感分析挖掘體現(xiàn)“軟件存在的問題”和“軟件滿足的需求”的用戶評論:由于能愿動詞有較強的針對性,用戶評論數(shù)目相對較少,剩余的用戶評論中仍然可能包含體現(xiàn)使用反饋的用戶評論,因此通過軟件簡介判斷該用戶評論是否與評價軟件相關(guān),針對與評價軟件相關(guān)的用戶評論通過情感分析的方式判斷該用戶表達出的情感觀點正負,確定該用戶評論體現(xiàn)的使用反饋類型——“軟件存在的問題”或“軟件滿足的需求”,抽取其評論模式進入候選評論模式庫.

    (4)通過候選評論模式抽取新評論種子:通過評論種子可以挖掘與之相同或相似的、體現(xiàn)使用反饋的用戶評論,動態(tài)擴充評論種子可以適應(yīng)評論數(shù)據(jù)量大、更新快的特點,實現(xiàn)體現(xiàn)使用反饋的用戶評論的動態(tài)挖掘.本文針對每次循環(huán)挖掘,建立不同的候選評論模式庫,該候選評論模式庫中包含未挖掘出的、體現(xiàn)使用反饋的用戶評論,基于候選評論模式庫抽取新的具有代表性的評論種子,進入下一次的循環(huán),挖掘剩余評論數(shù)據(jù)中體現(xiàn)使用反饋的用戶評論.

    挖掘體現(xiàn)使用反饋的用戶評論的流程圖如圖1 所示.

    Fig.1 The flow diagram of mining user’s comments reflecting usage feedback圖1 挖掘體現(xiàn)使用反饋的用戶評論流程圖

    本文針對循環(huán)挖掘體現(xiàn)使用反饋的用戶評論定義挖掘收斂條件,針對第time次循環(huán),應(yīng)用Levenshtein相似度計算方法[24]計算新評論種子的評價對象和評價觀點與已有評論種子的評價對象和評價觀點之間的文本相似度.為了確定文本相似度的閾值,本文隨機選取了一批體現(xiàn)APP 軟件使用反饋的評論種子,多次計算任意兩個評論種子對應(yīng)的評價對象和評價觀點之間的文本相似度.我們發(fā)現(xiàn),當(dāng)詞性組合完全相同且詞完全不同時,文本相似度為0.4.如果兩個評論種子的評價對象和評價觀點的詞性組合完全相同且存在相同詞,文本相似度會大于0.4,此時,兩個評論種子體現(xiàn)的使用反饋相似,例如評論種子“〈軟件+功能+好,n+n+a,0.33+0.33+0.33,7,軟件滿足的需求〉”和“〈視頻+界面+好,n+n+a,0.33+0.33+0.33,7,軟件滿足的需求〉”對應(yīng)的評價對象和評價觀點之間的文本相似度為0.5,且這兩者均體現(xiàn)“軟件滿足的需求”這一使用反饋類型.根據(jù)上述原因,我們計算與已有評論種子的文本相似度的最大值大于0.4 的新評論種子數(shù)numNewSeed′time,當(dāng)numNewSeed′time與該次循環(huán)產(chǎn)生新評論種子總數(shù)numNewSeedtime相同時,體現(xiàn)使用反饋的新評論種子與已有評論種子完全相似,應(yīng)用新評論種子挖掘相似的用戶評論的數(shù)量顯著降低,停止擴充評論種子庫,挖掘過程結(jié)束.體現(xiàn)使用反饋的用戶評論的挖掘效果收斂判斷依據(jù)見公式(2):

    4.1 應(yīng)用評論種子挖掘用戶評論

    在圖1 中,首先需要將一條用戶評論的評論模式與某個評論種子匹配,判斷該用戶評論是否與某個體現(xiàn)使用反饋的評論種子相似,與評論種子相似的用戶評論與評論種子體現(xiàn)相同的使用反饋類型.評論種子中包含5個屬性:詞、詞性、權(quán)重、距離和使用反饋類型,其中,詞、詞性、權(quán)重是判斷一條用戶評論是否與評論種子的詞(詞性)匹配的關(guān)鍵,距離是綜合判斷一條用戶評論與評論種子是否匹配的關(guān)鍵.因此,假設(shè)某條用戶評論commentm的評論模式為modem,某評論種子為seedi,判斷commentm與seedi是否匹配的過程主要包括兩個部分:計算詞(詞性)匹配值和計算綜合匹配值.

    4.1.1 計算詞(詞性)匹配值

    首先,針對每條用戶評論commentm與評論種子seedi的初始化詞(詞性)匹配值word_matchmi(speech_matchmi)為0.進行詞匹配時,將評論種子seedi的詞wordij和commentm的詞依次進行匹配,每一次詞匹配開始的位置都是commentm中上一次匹配成功的詞的位置,若wordmn匹配wordij成功,則記錄評論中詞的位置n到詞匹配成功位置集合pos_word中,且詞匹配標(biāo)記word_flagij為1,否則為0,所有詞匹配完成后,word_matchmi的計算如公式(3)所示:

    計算詞匹配值的具體流程如圖2 所示.

    Fig.2 The flow diagram of calculating word-matching value圖2 詞匹配值計算流程

    詞性匹配值計算流程與詞匹配值計算流程相似,不同之處在于:進行第1 次詞性匹配時,從commentm匹配成功的第1 個詞的位置開始,將評論種子seedi的詞性speechij和用戶評論commentm的詞性依次進行匹配,第1 次詞性匹配之后,每一次詞性匹配開始的位置都是commentm中上一次匹配成功的詞性的位置.若speechmn匹配speechij成功,則記錄用戶評論中詞性的位置n到詞性匹配成功位置集合pos_speech中,且詞性匹配標(biāo)記speech_flagij為1,否則,speech_flagij為0,所有詞性匹配完成后,speech_matchmi的計算如公式(4)所示:

    4.1.2 計算綜合匹配值

    完成詞(詞性)匹配值計算后需要進行綜合判斷,由于詞和詞性對于判斷用戶評論是否與評論種子匹配都至關(guān)重要,所以通過計算commentm與seedi的綜合匹配值both_matchmi來判斷用戶評論與評論種子是否匹配.由于用戶評論與評論種子匹配成功的詞(詞性)的最大距離反映了該用戶評論是否滿足評論種子的語法表達規(guī)則,若匹配成功的詞(詞性)的最大距離大于或等于評論種子的距離,則表明用戶評論與評論種子匹配成功的詞(詞性)不在評價對象和評價觀點之間可擴展的最大距離定義的位置范圍內(nèi),不符合評論種子所定義的語法表達規(guī)則,反之,則滿足.因此,為判斷用戶評論與評論種子匹配成功的詞(詞性)是否符合評論種子定義的語法距離限定,需要計算commentm和seedi匹配成功的詞(詞性)之間的最大距離dis_wordmi(dis_speechmi)是否小于評論種子的距離disi.由于詞(詞性)匹配都是從上一次詞(詞性)匹配成功的位置開始的,因此集合pos_word(pos_speech)是遞增序列,故用公式(5)和公式(6)計算dis_wordmi和dis_speechmi:

    在用戶評論的詞或詞性不滿足評論種子所定義的語法表達規(guī)則時,不論用戶評論與評論種子的詞(詞性)匹配值為多少,綜合匹配值都應(yīng)該為0;否則,根據(jù)詞匹配值和詞性匹配值共同計算綜合匹配值both_matchmi,計算如公式(7)所示:

    用戶評論commentm需要與所有評論種子依次進行匹配,最后抽取其與第g個評論種子的最大綜合匹配值both_matchmg,判斷是否匹配成功,抽取最大綜合匹配值如公式(8)所示:

    commentm和seedg的綜合匹配值越高,該用戶評論與該評論種子匹配成功的可能性越大,且使用評論種子挖掘出的正確的用戶評論條數(shù)越多.這里需要設(shè)定一個閾值,只有當(dāng)綜合匹配值大于該閾值時,該用戶評論與評論種子seedg才能匹配成功.在用戶評論與評論種子匹配的過程中,詞匹配成功可以保證其對應(yīng)詞性匹配成功,而詞性匹配成功不能保證詞匹配成功.因此,即使在詞性完全匹配的情況下(其詞性匹配值為1),仍無法保證該用戶評論中存在與評論種子匹配成功的詞,即無法保證該用戶評論與評論種子的評價對象或評價觀點相關(guān).為了保證與評論種子匹配成功的用戶評論中包含體現(xiàn)該評論種子使用反饋類型的評價對象或評價觀點,本文將閾值設(shè)置為0.5.

    當(dāng)最大的綜合匹配值both_matchmg>0.5 時,commentm與seedg的評論內(nèi)容和句式結(jié)構(gòu)比較相似,commentm與seedg匹配成功,commentm與seedg體現(xiàn)相同的使用反饋類型;否則,commentm與評論種子庫中所有評論種子匹配失敗.其中,若最大的綜合匹配值both_matchmg=1,commentm與seedg的評論內(nèi)容和句式結(jié)構(gòu)完全相同.

    例如,用戶評論“播放/v 界面/n 真的/d 非常/d 丑/a”與評論種子“〈界面+很+丑,n+d+a,0.5+0+0.5,6,軟件存在的問題〉”進行詞匹配,匹配成功的詞為“界面”和“丑”,word_matchmi為1;進行詞性匹配,匹配成功的詞性為“n”和“a”,speech_matchmi為1.在以上用戶評論中,匹配成功的詞“界面”和“丑”的位置分別為2 和5,匹配成功的詞性之間的最大距離為3;匹配成功的詞性為“n”和“a”的位置分別為2 和5,匹配成功的詞之間的最大距離為3.由于詞(詞性)匹配值均小于6,所以,both_matchmi為1,評論文本與評論種子匹配成功,評論文本與評論種子體現(xiàn)相同的使用反饋——“軟件存在的問題”.

    在用戶評論與評論種子匹配的過程中,由于評論種子庫中的評論種子并不能代表所有評論,部分體現(xiàn)APP軟件使用反饋的用戶評論與評論種子匹配失敗,這些用戶評論包含與已有評論種子差異較大的、體現(xiàn)使用反饋的評論內(nèi)容,應(yīng)該從中抽取出新的具有代表性的評論種子,以便于后續(xù)挖掘出更多與新評論種子相似的、體現(xiàn)使用反饋的用戶評論.為了保證新抽取的評論種子能夠體現(xiàn)使用反饋,需要挖掘出與評論種子匹配失敗的用戶評論中可以體現(xiàn)“軟件滿足的需求”“軟件存在的問題”或“軟件未達到的期望”這3 個不同使用反饋類型的用戶評論.本文主要應(yīng)用能愿動詞挖掘體現(xiàn)“軟件未達到的期望”的用戶評論,應(yīng)用軟件簡介及情感分析挖掘體現(xiàn)“軟件滿足的需求”和“軟件存在的問題”的用戶評論,通過上述兩種方式挖掘出的體現(xiàn)使用反饋的用戶評論建立候選評論模式庫,在候選評論模式庫的基礎(chǔ)上抽取新評論種子.由于針對不同使用反饋類型,代表性和抽象性高的評論種子的挖掘效果更好,因此,針對體現(xiàn)相同使用反饋的評論模式進行文本相似度計算,以此抽取體現(xiàn)不同使用反饋類型的具有代表性的新評論種子.

    4.2 應(yīng)用能愿動詞挖掘用戶評論并抽取評論模式

    通過分析大量用戶評論后發(fā)現(xiàn),體現(xiàn)APP 軟件未達到的期望的用戶評論數(shù)量較少,且該類型用戶評論可能包含其他針對軟件總體或部分已有功能等方面的評價.為了挖掘出該類用戶評論,針對評論種子匹配失敗的用戶評論,本文首先應(yīng)用能愿動詞挖掘出體現(xiàn)“軟件未達到的期望”的用戶評論,根據(jù)文獻[25],抽取出如下針對體現(xiàn)使用反饋的能愿動詞:“應(yīng)該、應(yīng)當(dāng)、須得、必得、樂意、愿、愿意、情愿、想、想要、要、要想、希望、企圖、好意思、樂得、高興、樂于、敢于、勇于、甘于、苦于、懶得、便于、有助于、難于、易于、善于、適于、宜于”.通過上述能愿動詞抽取體現(xiàn)“軟件未達到的期望”的用戶評論的評論模式進入候選評論模式庫.

    4.3 應(yīng)用軟件簡介及情感分析挖掘用戶評論并抽取評論模式

    在挖掘體現(xiàn)“軟件未達到的期望”的用戶評論之后,剩余的用戶評論中包含針對該軟件特征進行評論的信息,本文通過應(yīng)用軟件簡介的方式判斷用戶評論是否針對該軟件進行評價,并通過情感值計算的方式判斷用戶評論針對該軟件表達的情感正負,其中,情感表達為正的用戶評論體現(xiàn)“軟件滿足的需求”,情感表達為負的評論體現(xiàn)“軟件存在的問題”.

    APP 軟件簡介由開發(fā)者官方發(fā)布并具有權(quán)威性,這些信息描述了該APP 軟件的大部分特征,可以作為判斷用戶評論是否針對該軟件進行評價的依據(jù),因此,本文提取APP 軟件簡介中的名詞和動詞系列的相關(guān)詞作為軟件特征詞,通過判斷用戶評論中是否包含這些特征詞分析用戶評論是否體現(xiàn)該軟件的用戶反饋.在挖掘出的針對該軟件的用戶評論的基礎(chǔ)上,應(yīng)用評價對象和評價觀點抽取規(guī)則,抽取該用戶評論的評價觀點,針對評價觀點通過構(gòu)建的情感極值表計算該用戶評論的情感值,挖掘體現(xiàn)使用反饋的用戶評論進入候選評論模式庫.

    體現(xiàn)使用反饋的用戶評論類型包括以下兩種.

    (1)若該情感值為正,則表明該用戶評論針對軟件表達正面情感,用戶實際使用該軟件過程中該軟件滿足某個功能特征或軟件的整體使用感受較好,即體現(xiàn)“軟件滿足的需求”;

    (2)若該情感值為負,則表明該用戶評論針對軟件表達負面情感,用戶實際使用該軟件過程中該軟件未滿足某功能特征或軟件的整體使用感受較差,即該用戶評論體現(xiàn)“軟件存在的問題”.

    通過應(yīng)用軟件簡介及情感分析挖掘出體現(xiàn)“軟件滿足的需求”或“軟件存在的問題”的用戶評論,并抽取其評論模式構(gòu)建候選評論模式庫,保證候選評論模式庫中在評論數(shù)據(jù)較為充足的情況下有體現(xiàn)多個使用反饋類型的評論模式,以便抽取出代表不同使用反饋類型的新評論種子.

    4.4 應(yīng)用候選評論模式抽取新評論種子

    在用戶評論與評論種子匹配的過程中,由于評論種子庫中的評論種子數(shù)是有限的,部分用戶評論會出現(xiàn)與評論種子匹配失敗的情況.這些用戶評論可能體現(xiàn)了APP 軟件使用反饋,此外,這些評論實際上蘊藏著評論種子庫中不存在的內(nèi)容,應(yīng)該從與已有評論種子匹配失敗的用戶評論中抽取出新的評論種子,以便于后續(xù)挖掘出更多與之相似的體現(xiàn)使用反饋的用戶評論.通過第4.2 節(jié)和第4.3 節(jié)中的方法,挖掘出與評論種子匹配失敗的用戶評論中體現(xiàn)“軟件滿足的需求”“軟件存在的問題”和“軟件未達到的期望”這3 種不同使用反饋類型的用戶評論,并建立相應(yīng)的候選評論模式庫.進入候選評論模式庫的評論模式各自體現(xiàn)了不同的使用反饋類型,且體現(xiàn)相同使用反饋類型的評論模式在表達內(nèi)容和句式結(jié)構(gòu)上更具有相似性,所以,針對體現(xiàn)相同使用反饋的評論模式進行文本相似度計算,以抽取體現(xiàn)不同使用反饋類型的具有代表性的新評論種子.

    由于候選評論模式庫中包含體現(xiàn)3 種不同使用反饋類型的候選評論模式,所以本文參考文獻[26]這一專利——基于候選評論模式庫抽取反映不同軟件使用質(zhì)量屬性的新評論種子的方法,主要針對體現(xiàn)相同使用反饋類型的評論模式進行文本相似度計算從而抽取出新的、體現(xiàn)不同使用反饋類型、具有代表性的新評論種子.應(yīng)用評論模式庫抽取新評論種子主要通過以下3 個步驟來實現(xiàn).

    (1)抽取體現(xiàn)不同使用反饋類型具有代表性的評論模式

    參考文獻[26]這一專利應(yīng)用Levenshtein 相似度[24]的計算方法,本文在不同的使用反饋類型下,計算評論模式與其他評論模式的詞文本相似度和詞性文本相似度,針對3 種不同使用反饋類型,每次循環(huán)過程中計算出至多3 個綜合文本相似度最大的、具有代表性的評論模式.

    (2)抽取評論模式對應(yīng)的評論種子

    基于至多3 個代表不同使用反饋類型的文本相似度最大的評論模式,結(jié)合本文第3.1 節(jié)中的評價對象和評價觀點抽取規(guī)則,確定評論模式的評價對象和評價觀點,根據(jù)評價對象和評價觀點確定該評論模式中的詞及其詞性所對應(yīng)的權(quán)重,即該評論模式對應(yīng)的評論種子的權(quán)重,最終抽取出這3 個評論模式的評論種子.

    (3)更新新評論種子的距離

    根據(jù)評論種子距離的定義,為了保證即將進入評論種子庫中的評論種子的距離可以代表評價對象和評價觀點之間可擴展的最大距離,本文應(yīng)用文獻[26]這一專利中更新評論種子的距離的方法,抽取其中的最大值作為該評論種子的距離.

    通過上述方法,在人工標(biāo)注的初始評論種子有限的情況下,首先應(yīng)用評論模式和評論種子,綜合評論種子的多個屬性,將用戶評論與評論種子進行匹配,匹配成功的用戶評論可以體現(xiàn)與評論種子相同的使用反饋;其次,通過能愿動詞、軟件簡介和情感分析挖掘出與評論種子匹配失敗的用戶評論中的體現(xiàn)使用反饋的用戶評論,并構(gòu)建候選評論模式庫;最后,針對每次循環(huán)挖掘過程中構(gòu)建的候選評論模式庫抽取具有代表性的新評論種子,用于下一次的循環(huán)挖掘,實現(xiàn)體現(xiàn)使用反饋的用戶評論的循環(huán)挖掘.

    5 實驗結(jié)果及分析

    5.1 實驗數(shù)據(jù)及來源

    為了驗證本文方法的有效性,我們使用Java 語言開發(fā)了一個體現(xiàn)使用反饋的APP 軟件用戶評論挖掘原型工具(mining user’s comment based on seed,簡稱MUCBS)進行實驗.我們從安卓電子市場(http://apk.hiapk.com/apps)隨機爬取了多款A(yù)PP 軟件的用戶評論,并據(jù)此建立了APP 軟件用戶評論庫.本文從APP 軟件用戶評論庫中隨機選取娛樂類、視頻類、購物類、社交類和工具類的92 811 條用戶評論,使用ICTCLAS 2018 作為數(shù)據(jù)預(yù)處理的工具,完成了用戶評論分詞及詞性標(biāo)注.由于網(wǎng)絡(luò)用戶評論往往存在大量的網(wǎng)絡(luò)詞匯和拼寫錯誤,可能導(dǎo)致分詞結(jié)果存在誤差,目前,本文對此沒有進行處理.在完成分詞的用戶評論數(shù)據(jù)的基礎(chǔ)上,過濾其中不包含評價對象(即詞性中不包含n 或v)的用戶評論,最終針對50 072 條用戶評論數(shù)據(jù)進行挖掘(經(jīng)人工標(biāo)記,其中有38 789 條體現(xiàn)使用反饋的用戶評論).

    5.2 體現(xiàn)使用反饋的用戶評論挖掘

    在本實驗中,通過分析常見的體現(xiàn)使用反饋的用戶評論,我們隨機設(shè)置了11 條比較具有代表性的初始評論種子.每次循環(huán)挖掘過程中,當(dāng)次循環(huán)過程中與評論種子匹配成功的評論不再進入下一次循環(huán)挖掘,應(yīng)用當(dāng)次循環(huán)新抽取的評論種子進行下一次循環(huán)挖掘.

    5.2.1 候選評論模式庫的建立

    首先,建立體現(xiàn)使用反饋的候選評論模式庫以便抽取可以合理體現(xiàn)使用反饋的新評論種子.由于與評論種子匹配成功的評論不再進入下一次循環(huán)挖掘,所以第1 次循環(huán)挖掘結(jié)束時抽取的候選評論模式數(shù)量多、覆蓋廣,本文針對50 072 條用戶評論進行第1 次循環(huán)挖掘后建立的候選評論模式庫進行了分析,分析結(jié)果見表3.

    表3 中,通過應(yīng)用能愿動詞挖掘體現(xiàn)“軟件未達到的期望”的用戶評論、應(yīng)用軟件簡介及情感分析挖掘體現(xiàn)“軟件存在的問題”及“軟件滿足的需求”的用戶評論建立候選評論模式庫.例如,表3 中候選評論模式“〈非常+棒+平臺,d+a+n,0.0+0.5+0.5,軟件滿足的需求〉”,依據(jù)第2 節(jié)中APP 軟件使用反饋的定義,用戶評論“非常棒平臺”體現(xiàn)出軟件整體給用戶較好的使用體驗,因此,該候選評論模式體現(xiàn)了“軟件滿足的需求”這一使用反饋類型.通過綜合分析,抽取的候選評論模式的平均準(zhǔn)確率為88.71%,表明本文抽取的候選評論模式庫是有效的.但是,根據(jù)抽取的部分用戶評論的候選評論模式可以看出,在挖掘體現(xiàn)使用反饋的用戶評論過程中仍存在一些錯誤.

    (1)應(yīng)用能愿動詞挖掘出的用戶評論的評論模式為“〈建議+大家+下載,n+rr+v,0.5+0.0+0.5,軟件未達到的期望〉”,該用戶評論中能愿動詞“建議”表示該評論用戶給其他軟件用戶的建議,無法體現(xiàn)“軟件未達到的期望”.

    (2)通過情感分析挖掘出的負面評論模式“〈好+到+不+行,a+v+d+vi,0.0+0.0+0.5+0.5,軟件存在的問題〉”,針對“不/d 行/vi”進行情感分析后結(jié)果為負面,而該用戶是通過夸張手法表達的是正面情感,本文方法在進行情感分析的過程中針對“夸張”“諷刺”等表達方式挖掘效果較差.

    建立體現(xiàn)使用反饋的候選評論模式庫后,可以基于候選評論模式庫進一步擴充評論種子庫,從而實現(xiàn)體現(xiàn)使用反饋的用戶評論的循環(huán)挖掘.

    Table 3 The example of the candidate comment mode library表3 候選評論模式庫示例

    5.2.2 應(yīng)用評論種子挖掘用戶評論的效果

    為了驗證本文提出的循環(huán)挖掘的有效性,在建立體現(xiàn)使用反饋的候選評論模式庫的基礎(chǔ)上,應(yīng)當(dāng)抽取出能夠合理體現(xiàn)使用反饋的新評論種子,并且應(yīng)用該評論種子可以挖掘體現(xiàn)使用反饋的用戶評論.針對第5.2.1 節(jié)的50 072 條用戶評論進行多次循環(huán)挖掘,直到針對體現(xiàn)使用反饋的用戶評論挖掘收斂,參與循環(huán)挖掘的評論種子情況見表4.

    Table 4 Comment seeds in interative mining process表4 循環(huán)挖掘過程中的評論種子

    在表4 中,由于第5 次循環(huán)抽取的新評論種子中,與已有評論種子的文本相似度大于0.4 的新評論種子數(shù)為3,與該次循環(huán)產(chǎn)生新評論種子的總數(shù)相同.因此,第5 次循環(huán)挖掘后,抽取的新評論種子與已有評論種子相似,循環(huán)挖掘效果收斂,停止擴充評論種子庫,體現(xiàn)使用反饋的用戶評論的循環(huán)挖掘停止.根據(jù)表4 中的評論種子可以看出,隨著循環(huán)次數(shù)的增加,部分新評論種子的抽象性逐漸降低.例如,新評論種子“〈QQ+空間+直播+,+不+了+,+差+評,n+n+vn+wd+d+y+wd+v+v,0.33+0.33+0+0+0.33+0+0+0+0,13,軟件存在的問題〉”針對具體的評價對象,即“QQ 空間”.

    此外,由于循環(huán)次數(shù)增加,針對某一使用反饋類別,部分新評論種子對應(yīng)的評論模式越來越復(fù)雜,即評論模式對應(yīng)的用戶評論中可能包含多個分句,且分句語義不連貫.針對這一情況,抽取新評論種子的評價對象和評價觀點的準(zhǔn)確度降低.例如,針對“軟件存在的問題”這一使用反饋類別,新評論種子對應(yīng)的用戶評論中往往包含多個分句,在第5 次循環(huán)挖掘過程中,新評論種子“〈沒用+了+,+用+不+了,vi+y+wd+p+d+y,0.5+0+0+0+0.5+0,8,軟件存在的問題〉”對應(yīng)的評價對象和評價觀點為“沒用/vi”和“不/d”,該評論種子的評價對象和評價觀點無實質(zhì)含義.然而,針對“軟件滿足的需求”這一使用反饋類別,由于用戶評論表達簡潔的情況較為常見,因此,在循環(huán)挖掘過程中,體現(xiàn)“軟件滿足的需求”的新評論種子的抽象性整體較高,復(fù)雜性較 低,如“〈 可 以+,+很+好,v+wd+d+a,0.5+0+0+0.5,8,軟件滿足的需求〉”和“〈好玩+,+我+喜歡,a+wd+rr+vi,0.5+0+0+0.5,12,軟件滿足的需求〉”.經(jīng)過5 次循環(huán)挖掘,體現(xiàn)使用反饋的用戶評論挖掘效果如圖3 所示.

    Fig.3 The mining effect of comment seed in interative mining process圖3 循環(huán)挖掘過程中評論種子挖掘效果

    圖3 中,由于參與第1 次循環(huán)挖掘的評論種子為人工標(biāo)注的初始評論種子,數(shù)量較多且抽象程度較高,所以,第1 次循環(huán)挖掘效果較好.根據(jù)圖3 中應(yīng)用評論種子挖掘出的用戶評論數(shù)的趨勢可以看出,循環(huán)中應(yīng)用評論種子挖掘的用戶評論數(shù)隨著循環(huán)次數(shù)的增加而減少,第5 次循環(huán)挖掘結(jié)果中應(yīng)用新評論種子挖掘的用戶評論數(shù)量顯著降低,這主要是因為隨著循環(huán)次數(shù)的增加,體現(xiàn)使用反饋的新評論種子的抽象性逐漸降低,評論數(shù)據(jù)中與新評論種子相似的用戶評論較少,應(yīng)用新評論種子挖掘用戶評論的效果逐漸變差.

    5.2.3 體現(xiàn)使用反饋的用戶評論整體挖掘效果

    經(jīng)過5 次體現(xiàn)用戶反饋的用戶評論循環(huán)挖掘后,共有23 條評論種子參與了循環(huán)挖掘,應(yīng)用本文方法共挖掘出30 252 條體現(xiàn)使用反饋的用戶評論,體現(xiàn)不同使用反饋類型的用戶評論的整體挖掘結(jié)果如圖4 所示.

    Fig.4 The overall mining effect of user’s comment reflecting usage feedback圖4 體現(xiàn)使用反饋的用戶評論的整體挖掘效果

    圖4 中,由于本文通過能愿動詞僅挖掘體現(xiàn)“軟件未到達的期望”的用戶評論,所以通過能愿動詞挖掘體現(xiàn)“軟件滿足的需求”和“軟件存在的問題”的用戶評論數(shù)為0.與之類似,通過軟件簡介和情感計算也無法挖掘出體現(xiàn)“軟件未達到的期望”的用戶評論.此外,前4 項挖掘出的用戶評論是存在重復(fù)的,通過評論種子挖掘的用戶評論中包含通過能愿動詞或軟件簡介和情感分析的方式挖掘出的部分用戶評論.由圖4 可以看出,與人工標(biāo)注的體現(xiàn)使用反饋的用戶評論相比,本文的方法針對體現(xiàn)“軟件滿足的需求”和“軟件未達到的期望”的用戶評論挖掘率較低,分別為75.26%和74.73%,針對體現(xiàn)“軟件存在的問題”這一使用反饋類型的用戶評論挖掘率最高為83.46%.由于體現(xiàn)“軟件滿足的需求”的用戶評論可能是針對軟件整體的評論,因此應(yīng)用包含明確評價對象的評論種子挖掘一般性的整體評論,其挖掘率較低,如“非常/d 好/a”這種表述簡潔、單一的用戶評論沒有被挖掘出來.與體現(xiàn)“軟件滿足的需求”的用戶評論相比,體現(xiàn)“軟件存在的問題”的用戶評論表達更具有針對性,表達方式相對較少,因此,應(yīng)用本文提出的評論種子概念,基于初始和循環(huán)挖掘出的體現(xiàn)“軟件存在的問題”的評論種子可以挖掘出較多的與之相似的體現(xiàn)“軟件存在的問題”的用戶評論.此外,由于通過能愿動詞挖掘出的部分用戶評論不體現(xiàn)用戶針對軟件評價的“軟件未達到的期望”,如用戶評論“很/d 好/a,/wd 希望/v 大家/rr 快快/d 下載/v”中“希望/v”的表達對象是其他用戶,所以針對體現(xiàn)“軟件未達到的期望”的用戶評論挖掘率較低.

    最后綜合分析,體現(xiàn)使用反饋的用戶評論的平均挖掘率(即3 種不同使用反饋類型的用戶評論挖掘率的平均值)為77.82%,說明本文提出的方法是有效的.

    5.2.4 不同初始評論種子的挖掘效果

    本文采用半監(jiān)督自學(xué)習(xí)的方式,基于有限數(shù)量和類型的評論種子,通過多次循環(huán)的方式挖掘體現(xiàn)使用反饋的用戶評論,這是一個評論種子逐漸擴充、挖掘效果逐漸提升的過程.為了驗證本文提出的循環(huán)挖掘方法的有效性,我們針對第5.2.1 節(jié)中的50 072 條用戶評論設(shè)計了3 個不同的循環(huán)挖掘?qū)嶒?每個實驗中,初始評論種子的數(shù)量或類型是不同的.實驗1 的評論種子見表4,實驗2 和實驗3 的初始評論種子及其整體挖掘效果見表5.

    Table 5 Initial comment seeds and overall mining effects of Experiment 2 and Experiment 3表5 實驗2 和實驗3 的初始評論種子及其整體挖掘效果

    通過分析3 個不同實驗的整體挖掘效果可以發(fā)現(xiàn),應(yīng)用不同數(shù)量和不同類型的初始評論種子進行體現(xiàn)使用反饋的用戶評論挖掘,每個實驗最終挖掘出的新評論種子是相似的,這些新評論種子代表了該批數(shù)據(jù)中常見的評論表達.在實驗1~實驗3 中,共同出現(xiàn)在3 個不同的實驗的新評論種子比例分別為75.00%、60.00%和75.00%.此外,單次循環(huán)挖掘效果取決于參與本次循環(huán)挖掘的評論種子的代表性和數(shù)量,例如實驗1 和實驗2 應(yīng)用相同數(shù)量的初始評論種子挖掘出的用戶評論條數(shù)分別為9 641 和8 113,這表明,在評論種子數(shù)量相同的情況下,評論種子的代表性越高,挖掘效果越好.實驗3 應(yīng)用8 條初始評論種子挖掘出7 670 條用戶評論,實驗2 應(yīng)用11 條初始評論種子挖掘出8 113 條用戶評論.因此,在保證評論種子代表性的前提下,增加評論種子數(shù)量可以提高用戶評論的挖掘效果.通過實驗1(評論種子總數(shù)為23)和實驗2(評論種子總數(shù)為26)的整體挖掘效果可以看出,由于實驗1 的評論種子針對該批數(shù)據(jù)更具有代表性,因此實驗1 應(yīng)用較少的評論種子的整體挖掘效果較好.總的來說,即使每個實驗的初始評論種子不同,但最終挖掘出體現(xiàn)使用反饋的用戶評論數(shù)相近,因此,本文提出的針對APP 軟件使用反饋的用戶評論挖掘方法是有效的.

    5.2.5 體現(xiàn)使用反饋的用戶評論挖掘效果對比

    我們開發(fā)了一個基于貝葉斯的體現(xiàn)使用反饋的APP 軟件用戶評論挖掘原型工具(mining user’s comment based on Bayes,簡稱MUCBB),使用貝葉斯網(wǎng)絡(luò)進行用戶評論分類,將用戶評論劃分為“軟件未達到的期望”“軟件存在的問題”和“軟件滿足的需求”這3 種使用反饋類型.為了將MUCBS 與MUCBB 進行更好的比較,針對第5.2.1 節(jié)中的50 072 條用戶評論,我們通過表4 中體現(xiàn)不同使用反饋類型的評價對象和評價觀點訓(xùn)練MUCBB.MUCBS 與MUCBB 的用戶評論挖掘效果對比如圖5 所示.

    Fig.5 The comparison of overall mining effect of user’s comment reflecting usage feedback圖5 體現(xiàn)使用反饋的用戶評論的整體挖掘效果對比

    從圖5 中MUCBB 的用戶評論挖掘效果可以看出,針對體現(xiàn)“軟件未達到的期望”和“軟件存在的問題”的用戶評論挖掘率較高,分別為63.83%和62.77%,而體現(xiàn)“軟件滿足的需求”的用戶評論挖掘率則為39.48%.通過分析發(fā)現(xiàn),由于實驗使用表4 中體現(xiàn)不同使用反饋類型的評論種子對應(yīng)的評價對象和評價觀點訓(xùn)練MUCBB,“軟件未達到的期望”和“軟件存在的問題”類別下的訓(xùn)練數(shù)據(jù)較多,而“軟件滿足的需求”類別下的訓(xùn)練數(shù)據(jù)較少,訓(xùn)練數(shù)據(jù)不平衡導(dǎo)致MUCBB 的用戶評論挖掘效果較差.此外,MUCBB 在訓(xùn)練數(shù)據(jù)較少的情況下,受訓(xùn)練數(shù)據(jù)中的評價對象、評價觀點的限制,MUCBB 無法挖掘出表達內(nèi)容相似或句式結(jié)構(gòu)相似的用戶評論.例如,針對用戶評論“可以/v 下載/v,/wd 速度/n 挺/d 快/a”,MUCBB 錯誤地將該用戶評論劃分為“軟件存在的問題”這一使用反饋類型.而MUCBS 將該用戶評論與評論種子“〈可以+,+很+好,v+wd+d+a,0.5+0+0+0.5,8,軟件滿足的需求〉”匹配成功,該評論體現(xiàn)“軟件滿足的需求”這一使用反饋類型.因此,即使在體現(xiàn)不同使用反饋的初始評論種子不平衡的情況下,MUCBS 可以通過自動挖掘體現(xiàn)使用反饋的、具有代表性的新評論種子,在不受特定的評價對象、評價觀點限制的情況下,結(jié)合句式結(jié)構(gòu)的特點挖掘體現(xiàn)使用反饋的用戶評論.但是,由于MUCBS 需要進行循環(huán)挖掘直至挖掘效果收斂,導(dǎo)致MUCBS 的挖掘效率比MUCBB 要低.綜合分析,與MUCBB 相比,MUCBS 可以更有效地挖掘體現(xiàn)APP 軟件使用反饋的用戶評論.

    應(yīng)用本文方法,可以挖掘出體現(xiàn)APP 軟件使用反饋的用戶評論.分析人員可以針對這些挖掘出的體現(xiàn)不同使用反饋類型的用戶評論進行深入分析,以獲取APP 軟件用戶評論中有價值的信息.

    6 總結(jié)

    本文將用戶評論體現(xiàn)的使用反饋定義為“軟件滿足的需求”“軟件存在的問題”和“軟件未達到的期望”這3種類型,提出了一種挖掘體現(xiàn)使用反饋的APP 軟件用戶評論的方法.為了針對體現(xiàn)使用反饋的用戶評論中的核心內(nèi)容,本文通過構(gòu)建評價對象和評價觀點抽取規(guī)則抽取一條用戶評論的評價對象和評價觀點.在此基礎(chǔ)上,定義了評論種子和評論模式,應(yīng)用評論種子挖掘用戶評論庫中與之相同或相似的、體現(xiàn)使用反饋的用戶評論,綜合應(yīng)用能愿動詞、軟件簡介和情感分析技術(shù)構(gòu)建候選評論模式庫,借鑒半監(jiān)督自學(xué)習(xí)的思想基于候選評論模式庫擴充評論種子庫,實現(xiàn)體現(xiàn)APP 軟件使用反饋的用戶評論的循環(huán)挖掘.通過挖掘體現(xiàn)不同使用反饋的用戶評論,軟件應(yīng)用市場可以綜合分析體現(xiàn)“軟件滿足的需求”和“軟件存在的問題”的用戶評論,給潛在用戶提供軟件實際使用情況的參考.此外,體現(xiàn)“軟件存在的問題”和“軟件未達到的期望”的用戶評論中包含大量用戶關(guān)注的軟件特征,有助于軟件開發(fā)人員對此進行維護和改進.

    實驗結(jié)果表明,本文的方法適應(yīng)網(wǎng)絡(luò)用戶評論數(shù)據(jù)更新快、數(shù)量大的特點,通過半監(jiān)督自學(xué)習(xí)的方式,在人工標(biāo)記數(shù)量有限的情況下挖掘體現(xiàn)使用反饋的用戶評論.本文提出的用戶評論與評論種子的匹配方法的優(yōu)勢在于挖掘體現(xiàn)使用反饋的用戶評論時,不受特定的評價對象、評價觀點或固定的評論句式結(jié)構(gòu)的限定,將三者綜合考慮,從而擴大了挖掘體現(xiàn)相同使用反饋的、核心評價內(nèi)容或評論句式結(jié)構(gòu)相似的用戶評論的范圍.由于目前建立的評價對象和評價觀點抽取規(guī)則不夠全面,對表達復(fù)雜的用戶評論的抽取效果較差,下一步將繼續(xù)完善抽取表達復(fù)雜的用戶評論的評價對象和評價觀點,并針對評論文本中包含多個分句的情況進行相關(guān)研究.此外,網(wǎng)絡(luò)用戶評論中存在大量的網(wǎng)絡(luò)詞匯或者拼寫錯誤,可能影響用戶評論的挖掘效果,我們將結(jié)合這一情況展開進一步的研究.

    猜你喜歡
    觀點對象種子
    神秘來電
    睿士(2023年2期)2023-03-02 02:01:09
    桃種子
    幸運的小種子
    幼兒園(2018年15期)2018-10-15 19:40:36
    觀點
    攻略對象的心思好難猜
    意林(2018年3期)2018-03-02 15:17:24
    可憐的種子
    基于熵的快速掃描法的FNEA初始對象的生成方法
    區(qū)間對象族的可鎮(zhèn)定性分析
    業(yè)內(nèi)觀點
    營銷界(2015年22期)2015-02-28 22:05:04
    新銳觀點
    清風(fēng)(2014年10期)2014-09-08 13:11:04
    国产在线视频一区二区| 久久午夜综合久久蜜桃| 超碰成人久久| 国产深夜福利视频在线观看| 日韩熟女老妇一区二区性免费视频| 精品福利永久在线观看| 多毛熟女@视频| av不卡在线播放| 新久久久久国产一级毛片| 捣出白浆h1v1| 日韩伦理黄色片| av天堂久久9| 欧美日韩精品网址| av视频免费观看在线观看| 国产免费福利视频在线观看| 又粗又硬又长又爽又黄的视频| 丰满少妇做爰视频| av在线老鸭窝| 成人毛片60女人毛片免费| 女人精品久久久久毛片| 人妻人人澡人人爽人人| tube8黄色片| 波野结衣二区三区在线| 色吧在线观看| www日本在线高清视频| 亚洲美女搞黄在线观看| 最近中文字幕2019免费版| 搡女人真爽免费视频火全软件| 人人澡人人妻人| 欧美成人午夜精品| 亚洲国产精品999| 亚洲精品视频女| 国产精品亚洲av一区麻豆 | 欧美亚洲日本最大视频资源| 国产探花极品一区二区| 欧美bdsm另类| 久久精品国产综合久久久| 久久久久久久国产电影| 亚洲成人av在线免费| 少妇人妻 视频| 日日摸夜夜添夜夜爱| 久久久久久人人人人人| 久久国产精品大桥未久av| 国产精品秋霞免费鲁丝片| 久久韩国三级中文字幕| 老女人水多毛片| 叶爱在线成人免费视频播放| 国产成人精品婷婷| 人妻少妇偷人精品九色| 蜜桃在线观看..| 伊人亚洲综合成人网| 国产男女内射视频| 人妻少妇偷人精品九色| 80岁老熟妇乱子伦牲交| 如日韩欧美国产精品一区二区三区| 久久久久人妻精品一区果冻| 另类精品久久| 国产免费现黄频在线看| 亚洲成国产人片在线观看| 美国免费a级毛片| 精品人妻一区二区三区麻豆| 国产免费福利视频在线观看| 久久ye,这里只有精品| 国产黄色视频一区二区在线观看| 久久亚洲国产成人精品v| 18在线观看网站| 伦理电影免费视频| 蜜桃国产av成人99| 免费高清在线观看日韩| 自拍欧美九色日韩亚洲蝌蚪91| 欧美 亚洲 国产 日韩一| 国产亚洲av片在线观看秒播厂| 亚洲成人av在线免费| 色吧在线观看| 久久久久国产精品人妻一区二区| 人人妻人人爽人人添夜夜欢视频| 亚洲天堂av无毛| 亚洲精品av麻豆狂野| 中文字幕亚洲精品专区| 香蕉丝袜av| 日韩三级伦理在线观看| 最近的中文字幕免费完整| 久久这里有精品视频免费| 亚洲精品视频女| 亚洲国产精品一区三区| 黑人巨大精品欧美一区二区蜜桃| 久久人妻熟女aⅴ| 欧美人与性动交α欧美软件| 韩国高清视频一区二区三区| 亚洲人成网站在线观看播放| 亚洲av国产av综合av卡| 汤姆久久久久久久影院中文字幕| 中文精品一卡2卡3卡4更新| 综合色丁香网| 老司机影院成人| 晚上一个人看的免费电影| 人妻 亚洲 视频| 久久国产精品大桥未久av| 亚洲人成电影观看| 亚洲欧洲国产日韩| 国产精品人妻久久久影院| 亚洲av电影在线观看一区二区三区| 国产精品久久久久久av不卡| 国产精品99久久99久久久不卡 | 久热久热在线精品观看| av在线老鸭窝| 日韩在线高清观看一区二区三区| 黄色配什么色好看| 最新的欧美精品一区二区| 有码 亚洲区| 最近的中文字幕免费完整| 尾随美女入室| 亚洲伊人久久精品综合| 狂野欧美激情性bbbbbb| 久久久国产精品麻豆| av片东京热男人的天堂| 一级黄片播放器| 高清视频免费观看一区二区| 国产成人免费观看mmmm| 侵犯人妻中文字幕一二三四区| 尾随美女入室| 成人国产av品久久久| 老汉色∧v一级毛片| 久久久久国产网址| 国产精品亚洲av一区麻豆 | 亚洲国产看品久久| 国产一区二区三区av在线| 卡戴珊不雅视频在线播放| 精品亚洲成a人片在线观看| 成年美女黄网站色视频大全免费| 日韩中文字幕视频在线看片| 色视频在线一区二区三区| 亚洲精品第二区| 亚洲国产看品久久| 国产av码专区亚洲av| 免费在线观看黄色视频的| 久久久久人妻精品一区果冻| 老汉色∧v一级毛片| 久久女婷五月综合色啪小说| 色哟哟·www| 一级黄片播放器| 国产在线视频一区二区| 亚洲综合色网址| 亚洲三区欧美一区| 人体艺术视频欧美日本| 夫妻午夜视频| 麻豆乱淫一区二区| 欧美最新免费一区二区三区| 黑人猛操日本美女一级片| 免费看av在线观看网站| 制服丝袜香蕉在线| 久久精品久久精品一区二区三区| 国产一区有黄有色的免费视频| 老鸭窝网址在线观看| 国产综合精华液| 久久精品国产亚洲av天美| 亚洲第一区二区三区不卡| 国产精品 欧美亚洲| 啦啦啦啦在线视频资源| 午夜福利在线观看免费完整高清在| 国产精品 欧美亚洲| 欧美亚洲日本最大视频资源| 大陆偷拍与自拍| 亚洲内射少妇av| 久久精品久久久久久久性| av有码第一页| 久久久精品94久久精品| 18禁动态无遮挡网站| 狠狠婷婷综合久久久久久88av| 免费av中文字幕在线| 美女视频免费永久观看网站| 久久久久久久久久人人人人人人| 欧美精品av麻豆av| 男人舔女人的私密视频| 麻豆av在线久日| 日日摸夜夜添夜夜爱| 国产日韩欧美在线精品| 2022亚洲国产成人精品| 国语对白做爰xxxⅹ性视频网站| 精品视频人人做人人爽| 日韩精品有码人妻一区| 少妇 在线观看| 国产精品.久久久| 亚洲av福利一区| 麻豆乱淫一区二区| 国产免费福利视频在线观看| 久久97久久精品| 国产精品麻豆人妻色哟哟久久| 久久99一区二区三区| 亚洲情色 制服丝袜| 极品少妇高潮喷水抽搐| 黄片无遮挡物在线观看| 中文乱码字字幕精品一区二区三区| 蜜桃在线观看..| 精品一区二区三区四区五区乱码 | av又黄又爽大尺度在线免费看| 97精品久久久久久久久久精品| 久久鲁丝午夜福利片| 精品午夜福利在线看| 建设人人有责人人尽责人人享有的| 日韩熟女老妇一区二区性免费视频| 自拍欧美九色日韩亚洲蝌蚪91| 侵犯人妻中文字幕一二三四区| 亚洲三级黄色毛片| 1024视频免费在线观看| 免费不卡的大黄色大毛片视频在线观看| 免费人妻精品一区二区三区视频| 爱豆传媒免费全集在线观看| 黄色怎么调成土黄色| 99热全是精品| 欧美黄色片欧美黄色片| 亚洲美女黄色视频免费看| 久久影院123| 久久人人爽人人片av| 午夜福利乱码中文字幕| 久久国产精品大桥未久av| 国产国语露脸激情在线看| 在线观看免费高清a一片| 亚洲美女搞黄在线观看| 夫妻性生交免费视频一级片| 美女国产高潮福利片在线看| 老汉色∧v一级毛片| 国产一区二区三区综合在线观看| 午夜av观看不卡| 国产av国产精品国产| 欧美国产精品va在线观看不卡| 精品一区二区三区四区五区乱码 | 久久免费观看电影| 欧美激情极品国产一区二区三区| 精品一区二区三卡| 欧美日韩亚洲高清精品| 2021少妇久久久久久久久久久| 卡戴珊不雅视频在线播放| a级毛片黄视频| 蜜桃国产av成人99| 秋霞伦理黄片| 国产欧美亚洲国产| 亚洲一区二区三区欧美精品| 日韩大片免费观看网站| 国产1区2区3区精品| 亚洲欧美中文字幕日韩二区| 欧美亚洲日本最大视频资源| 久热这里只有精品99| 亚洲经典国产精华液单| 午夜av观看不卡| 国精品久久久久久国模美| 亚洲成人一二三区av| 久久亚洲国产成人精品v| av在线观看视频网站免费| 亚洲精品国产色婷婷电影| 欧美日韩精品网址| 国产精品麻豆人妻色哟哟久久| videosex国产| 哪个播放器可以免费观看大片| 欧美精品av麻豆av| 男人爽女人下面视频在线观看| 久久人人97超碰香蕉20202| 日本黄色日本黄色录像| 两性夫妻黄色片| 久久97久久精品| videos熟女内射| 天堂中文最新版在线下载| 啦啦啦中文免费视频观看日本| 日韩电影二区| 国产精品亚洲av一区麻豆 | 天天躁狠狠躁夜夜躁狠狠躁| 中文字幕人妻熟女乱码| 啦啦啦啦在线视频资源| 亚洲人成电影观看| 精品少妇一区二区三区视频日本电影 | 男女边吃奶边做爰视频| 精品亚洲成a人片在线观看| 午夜av观看不卡| 久久精品夜色国产| 天天操日日干夜夜撸| 欧美日韩国产mv在线观看视频| 国产毛片在线视频| 国产亚洲最大av| av在线老鸭窝| 成人国产av品久久久| 日韩精品免费视频一区二区三区| 色吧在线观看| 精品人妻一区二区三区麻豆| av福利片在线| 18禁动态无遮挡网站| 最新的欧美精品一区二区| 在线 av 中文字幕| 黄频高清免费视频| 性色avwww在线观看| 久久鲁丝午夜福利片| av天堂久久9| 久久精品熟女亚洲av麻豆精品| 一区二区av电影网| 啦啦啦啦在线视频资源| 成人手机av| 最近的中文字幕免费完整| 国产成人精品久久久久久| 午夜福利视频精品| av有码第一页| 卡戴珊不雅视频在线播放| 亚洲成av片中文字幕在线观看 | 亚洲图色成人| 成人黄色视频免费在线看| 久久人人爽人人片av| 国产女主播在线喷水免费视频网站| 99久久综合免费| 精品少妇黑人巨大在线播放| 我的亚洲天堂| 午夜福利,免费看| 欧美少妇被猛烈插入视频| 一级爰片在线观看| 亚洲成国产人片在线观看| 亚洲av在线观看美女高潮| 男人操女人黄网站| 国产精品久久久久久精品古装| 纵有疾风起免费观看全集完整版| 中文字幕精品免费在线观看视频| 夫妻性生交免费视频一级片| 精品国产国语对白av| 久久鲁丝午夜福利片| 国产精品女同一区二区软件| 深夜精品福利| 午夜免费鲁丝| 久久精品国产亚洲av涩爱| 成人18禁高潮啪啪吃奶动态图| 日韩一区二区视频免费看| 欧美日韩精品成人综合77777| 亚洲国产最新在线播放| 午夜福利乱码中文字幕| a级毛片在线看网站| 亚洲精品自拍成人| 一级片'在线观看视频| 亚洲图色成人| 国产福利在线免费观看视频| 久久97久久精品| 18+在线观看网站| 免费不卡的大黄色大毛片视频在线观看| 激情视频va一区二区三区| 亚洲国产精品一区二区三区在线| 国精品久久久久久国模美| 热99久久久久精品小说推荐| 五月伊人婷婷丁香| 最近2019中文字幕mv第一页| 岛国毛片在线播放| 桃花免费在线播放| 激情视频va一区二区三区| 成人毛片a级毛片在线播放| 午夜老司机福利剧场| 美女高潮到喷水免费观看| 国产一区二区 视频在线| 巨乳人妻的诱惑在线观看| 亚洲色图 男人天堂 中文字幕| 最近手机中文字幕大全| 十八禁网站网址无遮挡| xxx大片免费视频| 亚洲美女搞黄在线观看| 日本av免费视频播放| 午夜福利影视在线免费观看| 国产不卡av网站在线观看| av片东京热男人的天堂| 国产精品久久久久久av不卡| 日本欧美视频一区| 国产极品粉嫩免费观看在线| 亚洲精品日本国产第一区| 国产欧美亚洲国产| 欧美中文综合在线视频| 天天躁夜夜躁狠狠躁躁| 这个男人来自地球电影免费观看 | 9色porny在线观看| 国产一区有黄有色的免费视频| 中文欧美无线码| av不卡在线播放| 国产成人精品福利久久| 男女边吃奶边做爰视频| 日日啪夜夜爽| 国产黄频视频在线观看| 午夜老司机福利剧场| 深夜精品福利| 日本猛色少妇xxxxx猛交久久| 老汉色∧v一级毛片| 成人亚洲欧美一区二区av| 亚洲情色 制服丝袜| 亚洲精品国产av蜜桃| 欧美bdsm另类| 国产爽快片一区二区三区| 少妇人妻 视频| av线在线观看网站| 中文字幕色久视频| 久久精品熟女亚洲av麻豆精品| 2018国产大陆天天弄谢| 亚洲人成网站在线观看播放| 综合色丁香网| 国产免费现黄频在线看| 一本大道久久a久久精品| 免费女性裸体啪啪无遮挡网站| 免费在线观看视频国产中文字幕亚洲 | 国产国语露脸激情在线看| 久久久久久人妻| 一区二区av电影网| 国产精品麻豆人妻色哟哟久久| 一本色道久久久久久精品综合| 欧美av亚洲av综合av国产av | 不卡av一区二区三区| 国产成人精品久久久久久| 久久久久网色| 视频在线观看一区二区三区| 婷婷成人精品国产| 又大又黄又爽视频免费| 亚洲伊人色综图| 美女国产视频在线观看| 日韩视频在线欧美| 伦理电影免费视频| 国产在线视频一区二区| av国产久精品久网站免费入址| 黑丝袜美女国产一区| 欧美人与性动交α欧美软件| 久久久亚洲精品成人影院| 亚洲精品第二区| 黄片无遮挡物在线观看| 九九爱精品视频在线观看| 精品国产乱码久久久久久小说| 久久久久久久国产电影| 成人国语在线视频| 久久这里有精品视频免费| 久久ye,这里只有精品| 亚洲,欧美,日韩| 久久热在线av| 成人亚洲精品一区在线观看| 中文字幕精品免费在线观看视频| 美女大奶头黄色视频| 少妇 在线观看| 黄片无遮挡物在线观看| 国产深夜福利视频在线观看| 亚洲国产欧美在线一区| 亚洲人成网站在线观看播放| 91在线精品国自产拍蜜月| 女人久久www免费人成看片| 天天躁日日躁夜夜躁夜夜| 亚洲第一区二区三区不卡| 人妻少妇偷人精品九色| 日本av免费视频播放| 熟妇人妻不卡中文字幕| 日韩三级伦理在线观看| 亚洲视频免费观看视频| 亚洲精品av麻豆狂野| 欧美最新免费一区二区三区| 国产片特级美女逼逼视频| 国产精品亚洲av一区麻豆 | 美女脱内裤让男人舔精品视频| 99久国产av精品国产电影| 日韩人妻精品一区2区三区| 人妻系列 视频| 五月伊人婷婷丁香| 波多野结衣av一区二区av| 欧美中文综合在线视频| 十八禁网站网址无遮挡| 亚洲综合精品二区| 国产精品 国内视频| 激情视频va一区二区三区| 日韩精品有码人妻一区| 亚洲第一av免费看| 中文字幕最新亚洲高清| 九草在线视频观看| 久久国内精品自在自线图片| 亚洲人成电影观看| 99久久人妻综合| 亚洲国产欧美在线一区| 免费在线观看完整版高清| 少妇猛男粗大的猛烈进出视频| 国产有黄有色有爽视频| 久久久久国产精品人妻一区二区| 婷婷色综合大香蕉| 久久久国产欧美日韩av| 中文字幕最新亚洲高清| videosex国产| 下体分泌物呈黄色| 69精品国产乱码久久久| 久久久久久久亚洲中文字幕| 国产精品一区二区在线不卡| 大香蕉久久网| 亚洲精品日本国产第一区| 只有这里有精品99| 日日啪夜夜爽| 久久久精品94久久精品| 大香蕉久久网| 亚洲国产色片| 亚洲熟女精品中文字幕| 天天躁狠狠躁夜夜躁狠狠躁| 国产日韩一区二区三区精品不卡| 成人免费观看视频高清| 国产片特级美女逼逼视频| 街头女战士在线观看网站| 亚洲精品一区蜜桃| 激情五月婷婷亚洲| 久久久国产精品麻豆| 成年人午夜在线观看视频| 免费高清在线观看视频在线观看| 国产深夜福利视频在线观看| 男女边吃奶边做爰视频| 精品酒店卫生间| 色婷婷久久久亚洲欧美| 91aial.com中文字幕在线观看| 亚洲av在线观看美女高潮| 国产精品三级大全| 大香蕉久久网| 国产精品久久久久久精品电影小说| 两性夫妻黄色片| 国产日韩欧美亚洲二区| 久久久久人妻精品一区果冻| 成人亚洲欧美一区二区av| 一二三四在线观看免费中文在| 波多野结衣一区麻豆| 波多野结衣av一区二区av| 中国国产av一级| 免费高清在线观看日韩| 亚洲五月色婷婷综合| 视频区图区小说| 久久婷婷青草| 国产免费视频播放在线视频| 边亲边吃奶的免费视频| 久久久久久久大尺度免费视频| 爱豆传媒免费全集在线观看| 伦精品一区二区三区| 春色校园在线视频观看| 91aial.com中文字幕在线观看| 男女午夜视频在线观看| 伦理电影免费视频| 久久久久久久久久人人人人人人| 免费黄色在线免费观看| 极品人妻少妇av视频| 久久毛片免费看一区二区三区| 久久韩国三级中文字幕| 日韩av在线免费看完整版不卡| 男人舔女人的私密视频| 欧美另类一区| 夫妻性生交免费视频一级片| 久久人人爽人人片av| 日韩一卡2卡3卡4卡2021年| 赤兔流量卡办理| 大片免费播放器 马上看| 日韩av在线免费看完整版不卡| 免费黄网站久久成人精品| √禁漫天堂资源中文www| 看十八女毛片水多多多| 一二三四在线观看免费中文在| 搡女人真爽免费视频火全软件| 秋霞伦理黄片| 亚洲国产欧美网| 一级,二级,三级黄色视频| 99久久人妻综合| av天堂久久9| 女性生殖器流出的白浆| 一本久久精品| 国产成人精品久久久久久| 色哟哟·www| 热re99久久精品国产66热6| 亚洲欧洲国产日韩| 亚洲精品国产av蜜桃| 国产一区二区在线观看av| 免费黄频网站在线观看国产| 亚洲精品国产一区二区精华液| 日本色播在线视频| 国产深夜福利视频在线观看| 国产成人精品婷婷| 亚洲,欧美精品.| 日日爽夜夜爽网站| 你懂的网址亚洲精品在线观看| 国产精品久久久久久精品电影小说| 大香蕉久久成人网| 乱人伦中国视频| 日本猛色少妇xxxxx猛交久久| 宅男免费午夜| 国产1区2区3区精品| 国产男女超爽视频在线观看| 黄色视频在线播放观看不卡| 久久精品亚洲av国产电影网| 韩国精品一区二区三区| 狂野欧美激情性bbbbbb| 欧美人与性动交α欧美精品济南到 | 少妇人妻久久综合中文| 日韩视频在线欧美| 国产一区二区 视频在线| 久久久久久久久久久免费av| 中文乱码字字幕精品一区二区三区| 欧美精品一区二区大全| 亚洲精品中文字幕在线视频| 国产极品粉嫩免费观看在线| 日韩视频在线欧美| 精品少妇久久久久久888优播| 你懂的网址亚洲精品在线观看| 少妇熟女欧美另类| 极品人妻少妇av视频| 久久久精品免费免费高清| 国产男人的电影天堂91| 国产色婷婷99| 久久热在线av| 国产精品av久久久久免费| 在线免费观看不下载黄p国产| 国产熟女午夜一区二区三区| av在线老鸭窝| 亚洲av电影在线观看一区二区三区| 国产在线免费精品| 我要看黄色一级片免费的| 男女啪啪激烈高潮av片| 熟妇人妻不卡中文字幕| 国产亚洲午夜精品一区二区久久| 在线精品无人区一区二区三| 亚洲欧美一区二区三区久久| 伊人亚洲综合成人网| 亚洲精品国产av蜜桃| 爱豆传媒免费全集在线观看| 18禁国产床啪视频网站| 午夜福利视频精品| 最近最新中文字幕大全免费视频 | 各种免费的搞黄视频|