• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于親和力與研究方向覆蓋率的審稿人推薦算法

    2023-02-24 05:01:06周允升余敦輝崔海波
    計(jì)算機(jī)應(yīng)用 2023年2期
    關(guān)鍵詞:審稿人親和力集上

    鐘 磊,周允升,余敦輝,2,崔海波,2*

    (1.湖北大學(xué) 計(jì)算機(jī)與信息工程學(xué)院,武漢 430062;2.湖北省教育信息化工程技術(shù)研究中心(湖北大學(xué)),武漢 430062)

    0 引言

    隨著互聯(lián)網(wǎng)技術(shù)的迅速發(fā)展,人們獲取信息的效率得到了極大的提升,新的科技知識和信息量迅猛增加,信息產(chǎn)生的速率也越來越快。近年來印刷信息每5 年便增長一倍,2019 年中國出版新版圖書為22 萬種,全世界每天發(fā)表的論文超過14 000 篇,僅在2019 年中國就發(fā)表了68 萬篇研究論文。伴隨著越來越多的學(xué)術(shù)、科技論文投往各類期刊、會(huì)議,學(xué)術(shù)機(jī)構(gòu)常通過同行評審[1-2]來評估提交的論文,這個(gè)過程中最具挑戰(zhàn)性的任務(wù)之一是在最大限度提高審稿質(zhì)量的條件下為論文分配審稿人,此問題稱為審稿人分配問題(Reviewer Assignment Problem,RAP)[3-5]。對于論文提交量越來越大的計(jì)算機(jī)科學(xué)領(lǐng)域,一次會(huì)議通常涉及成百上千的投稿論文以及審稿專家,在要求研究領(lǐng)域匹配和遵循會(huì)議時(shí)間表的情況下,采用傳統(tǒng)人工分配審稿專家評審?fù)陡逭撐娘@得十分耗時(shí)并且分配效果可能非常差。因此,研究一種為會(huì)議投稿論文高效準(zhǔn)確地推薦審稿人的方法十分重要。

    目前解決審稿人分配問題大致可以分為基于檢索的方法和基于分配的方法?;跈z索的審稿人分配方法[6-7]將論文視作一次查詢,將審稿人曾經(jīng)發(fā)表過的作品表示成文本文件,將排名靠前的文件對應(yīng)的審稿人分配給論文。Karimzadehgan 等[7]使用概率潛在 語義分析(Probabilistric Latent Semantic Analysis,PLSA)模型[8-9]得到審稿人和論文的研究方向分布,并基于多方面專業(yè)知識的匹配來檢索合適的審稿人;但是這類方法會(huì)產(chǎn)生不均衡的分配,其中一些審稿人可能會(huì)收到太多要審閱的論文。另一種基于分配的審稿人分配方法是在限制分配給審稿人論文數(shù)量和規(guī)定每篇論文必須接受的評論數(shù)量的情況下,求解審稿人和待審論文間相似度全局最大化的問題。文獻(xiàn)[10]最早提出此想法,提出了一種計(jì)算審稿人與待審論文間親和力分?jǐn)?shù)方法,假設(shè)這些親和力分?jǐn)?shù)可以準(zhǔn)確地模擬每個(gè)審稿人為每篇論文提供的預(yù)期審閱質(zhì)量,通過最大化所有審稿人-待審論文對的親和力得分總和來找到最優(yōu)分配;但是該方法會(huì)出現(xiàn)為了得到更高的整體匹配分?jǐn)?shù),有些論文被分配給缺乏該領(lǐng)域?qū)I(yè)知識的一組審稿人的情況。O’Dell 等[11]通過最大化最小親和力論文得分來緩解這個(gè)問題;但這個(gè)目標(biāo)可能會(huì)與最大化全局論文得分總和的目標(biāo)相沖突,并不會(huì)同時(shí)優(yōu)化整體的最佳分配。Kobren 等[12]提出了基于松弛迭代的分配算法(Fair matching via Iterative Relaxation,F(xiàn)airIR)和基于最小成本的分配算法(Fair paper matching as min-cost Flow,F(xiàn)airFlow)兩種算法,要求每篇論文必須在獲得高于指定閾值的親和力分?jǐn)?shù)的約束下,最大化全局親和力得分總和。Stelmakh 等[13]提出的同行評審公平分配算法(Fair and Accurate reviewer assignment in Peer Review,PR4A)將審稿人劃分為不同的輪次進(jìn)行分配,每輪中確保最大化最小親和力論文得分,然后在下一輪次的分配中優(yōu)化另一篇分?jǐn)?shù)較小的論文。Payan等[14]提出審稿專家貪婪輪詢算法(Greedy Reviewer Round Robin,GRRR),基于輪詢調(diào)度產(chǎn)生最佳的論文選擇序列,將審稿人進(jìn)行更公平的分配來達(dá)到提升整體論文審閱質(zhì)量的目的。然而,此類方法都沒有考慮一篇論文可能涉及多個(gè)研究方向,一篇跨學(xué)科論文可能會(huì)由一組專業(yè)知識過于狹窄的審稿人進(jìn)行審閱,從而導(dǎo)致論文未被分配給一組能盡量覆蓋論文所有研究方向的審稿人,最終可能會(huì)發(fā)生所有指定的審稿人能很好地覆蓋論文主要研究方向,但未能覆蓋論文其他研究方向的情況。

    在會(huì)議為論文分配審稿人的過程中,即使得到了一篇論文的推薦審稿人,考慮到審稿人審閱論文數(shù)量的限制,為論文分配審稿人的次序不同,最終得到的分配結(jié)果也不同。如何確定合理的待審論文選擇次序,將審稿人進(jìn)行公平的分配是很有必要的。同時(shí),在得到每篇論文的推薦審稿小組后,檢查審稿人和論文間是否存在利益沖突(Conflict of Interest,COI)[15],從而避免不公平審閱的發(fā)生,也是值得研究的要點(diǎn)。

    結(jié)合論文選擇次序和利益沖突檢查,本文提出一種基于親和力與研究方向覆蓋率的審稿人推薦算法(reviewer recommendation algorithm based on Affinity and Research Direction Coverage,ARDC)。與現(xiàn)有方法主要通過最大化全局親和力得分的方式分配審稿人不同,本文所提方法要求審稿人擁有與論文較大親和力的同時(shí),還盡可能地與其他審稿人一起更全面地覆蓋論文的所有研究方向,實(shí)現(xiàn)較高的研究方向覆蓋率。實(shí)驗(yàn)結(jié)果表明,本文算法能充分考慮審稿人與論文間親和力以及對研究方向的覆蓋率,為論文安排合理的選擇審稿人次序并進(jìn)行利益沖突檢查,能夠使得審稿人推薦結(jié)果更加合理準(zhǔn)確。

    針對實(shí)際的會(huì)議審稿場景,本文算法首先根據(jù)提交給會(huì)議的待審論文,和參與會(huì)議評審的審稿人發(fā)表過的論文計(jì)算出待審論文選擇審稿人的次序;接著基于詞頻語言模型和隱含狄利克雷分布(Latent Dirichlet Allocation,LDA)模型計(jì)算出審稿人的綜合審閱得分并依據(jù)輪詢調(diào)度策略得到待審論文的預(yù)分配審稿小組;最后進(jìn)行利益沖突檢查與消解得到會(huì)議每篇待審論文的推薦審稿小組。

    1 基于親和力與研究方向覆蓋率的審稿人推薦算法

    1.1 算法整體框架

    為確保能夠?yàn)檎撐耐扑]合適的審稿人,首先根據(jù)研究方向在待審論文和審稿人論文組中出現(xiàn)的頻數(shù),得到論文選擇審稿人的次序;然后基于詞頻語言模型計(jì)算論文與審稿人間親和力得分,基于LDA 模型對審稿人論文組和待審論文進(jìn)行建模,計(jì)算研究方向覆蓋得分,進(jìn)而得到審稿人的綜合審閱得分并采用輪詢調(diào)度的方式為論文預(yù)分配審稿人;最后經(jīng)過審稿人和論文間的利益沖突檢查后得到最終的推薦審稿小組。算法整體框架圖如圖1 所示。

    圖1 算法整體框架Fig.1 Algorithm framework

    本文提出了一種基于親和力與研究方向覆蓋率的審稿人推薦算法,該算法在實(shí)際應(yīng)用中可有效減少各類學(xué)術(shù)會(huì)議為每篇論文指定審稿人的工作量,精簡會(huì)議周期,準(zhǔn)確高效地為待審論文推薦合適的審稿小組,提升會(huì)議整體的審閱質(zhì)量。本文的主要工作包括:

    1)提出了一種基于親和力與研究方向覆蓋率的審稿人推薦算法,該算法中提出了一種最大化親和力得分和研究方向覆蓋選擇審稿人的方法。與現(xiàn)有通過最大化全局親和力得分的方法不同,本文所提方法要求審稿人擁有與論文較大親和力的同時(shí)還可以與其他審稿人一起互補(bǔ)的覆蓋論文的所有研究方向。

    2)設(shè)計(jì)了一種論文選擇審稿人次序計(jì)算方法,將包含冷門研究方向的論文分配給適合的審稿人,并進(jìn)行利益沖突檢查,確保審稿小組分配最優(yōu)化。

    1.2 待審論文選擇次序計(jì)算

    在實(shí)際會(huì)議環(huán)境中,考慮到審稿人審閱論文的數(shù)量限制,為待審論文確定合適的選擇審稿人次序,能確保分配效果更好。假設(shè)有兩篇論文pi和pj,pi由于涉及某個(gè)冷門研究方向只有少數(shù)審稿人能較好地審閱,pj則多數(shù)審稿人都能審閱。讓pj先進(jìn)行審稿人選擇,可能會(huì)出現(xiàn)適合審閱pi的審稿人由于審稿負(fù)載無法審閱pi,之后pi也無法找到其他有能力審閱的審稿人的情況,這種選擇次序是不合理的。因此應(yīng)該優(yōu)先將涉及冷門研究方向的論文分配給適合的審稿人,達(dá)到提高整體審稿質(zhì)量的目的。

    基于此思想,本文對待審論文涉及的研究方向在此次會(huì)議中的研究狀況進(jìn)行度量,計(jì)算論文的審稿人選擇次序Q。由于大多數(shù)會(huì)議要求作者為他們提交的論文指明主要和次要的學(xué)科領(lǐng)域,據(jù)此可以得到待審論文的研究方向集合areaP={areaP1,areaP2,…,areaPx},areaPi代表第i篇待審論文pi涉及的研究方向。當(dāng)pi所有的研究方向出現(xiàn)在areaP中頻數(shù)的均值小于冷門研究方向閾值m時(shí),記為signPi=1;否則signPi=0。同樣的,收集審稿專家的相關(guān)信息,得到參與會(huì)議所有審稿人的研究方向集合areaR={areaR1,areaR2,…,areaRy},按照同樣的方法可得pi的研究方向在areaR中的研究狀況,記為signRi=1 或者signRi=0,則待審論文pi在此次會(huì)議中的研究狀況標(biāo)志位的組合有以下4 種情況:

    1)1 類(signPi=0,signRi=1):表明當(dāng)前論文的各研究方向在待審論文集中出現(xiàn)頻率均值非常高,但從事該類方向研究的審稿人很稀缺,該類論文最應(yīng)該被優(yōu)先分配。

    2)2 類(signPi=1,signRi=1):表明論文涉及的研究方向在待審論文集中很少出現(xiàn),同時(shí)能審閱該類方向的審稿人也很少。屬于此類別論文的數(shù)量相較于1 類論文會(huì)更少,同時(shí)選擇審稿人的數(shù)量也會(huì)少一些,因此在滿足1 類論文優(yōu)先分配的情況下,將此類論文放在第二批次的分配中。

    3)3 類(signPi=0,signRi=0):表明當(dāng)前論文的各研究方向在待審論文集和審稿人中出現(xiàn)得都很頻繁,此類論文對審稿人的需求沒有之前類別那么強(qiáng)烈,因此將其放在第三批次的分配中。

    4)4 類(signPi=1,signRi=0):表明當(dāng)前論文的各研究方向雖然在待審論文集中出現(xiàn)頻率的均值較低,但該類方向大多數(shù)審稿人都能進(jìn)行較好的審閱,將其放在最后分配。

    冷門研究方向閾值m受會(huì)議規(guī)模的影響,當(dāng)提交給會(huì)議論文數(shù)量較多、會(huì)議規(guī)模較大時(shí),m的值自然較大。為了適應(yīng)于不同的會(huì)議規(guī)模,本文使用冷門研究方向因子ε計(jì)算m:

    其中:pN為會(huì)議待審論文數(shù)量,當(dāng)確定了冷門研究方向閾值m后,通過計(jì)算論文的研究方向在待審論文集和審稿人中出現(xiàn)的頻數(shù),可以得到論文的研究狀況標(biāo)志位signP和signR,論文根據(jù)研究狀況標(biāo)志位劃分為4 個(gè)類別分4 個(gè)批次依次進(jìn)入隊(duì)列,得到論文選擇審稿人的選擇次序隊(duì)列Q。

    1.3 基于綜合審閱得分的審稿人預(yù)分配

    根據(jù)1.2 節(jié)得到的待審論文審稿人選擇次序Q,依次為論文分配合適的審稿人。為了達(dá)到選擇的審稿人擁有與論文較大親和力的同時(shí)還可以與其他審稿人一起盡可能地互補(bǔ)覆蓋論文的所有研究方向的目的,本節(jié)通過計(jì)算審稿人和論文間的親和力得分,以及基于LDA 模型計(jì)算研究方向覆蓋得分,綜合得到審稿人的綜合審閱得分來衡量審稿人審閱質(zhì)量高低,并利用輪詢調(diào)度的方式讓論文選擇合適的審稿人,得到論文預(yù)分配審稿小組PT。

    1.3.1 基于詞頻語言模型的親和力得分計(jì)算

    TPMS(Toronto Paper Matching System)值[10]是審稿人分配問題中常用的用來衡量審稿人對某篇論文親和力大小的數(shù)值,通常是通過測量審稿人曾經(jīng)發(fā)表的相關(guān)學(xué)術(shù)作品與目標(biāo)待審論文間的相似性來計(jì)算的。本文使用原論文中基于詞頻語言模型(Language Model based on the word count representation)的方法來計(jì)算TPMS 值。

    對于審稿人r,收集r發(fā)表過的論文形成論文組Rsetr,將論文組中的論文摘要進(jìn)行分詞、去停用詞等預(yù)處理,得到審稿人r論文組的詞袋表示Ar;采用相同的方法可以得到待審論文p摘要的詞袋表示Ap,則審稿人r和待審論文p的TPMS值為:

    其中frw是詞項(xiàng)w在Ar中的狄利克雷平滑歸一化頻率(Dirichlet-smoothed normalized frequency),計(jì)算方法如下:

    其中:C表示所有待審論文和審稿人論文組的摘要形成語料庫的詞袋表示,|C|和|Ar|分別表示語料庫C和審稿人論文集Ar中詞項(xiàng)的總數(shù),C(w)和Ar(w)分別表示詞項(xiàng)w出現(xiàn)在C和Ar中的次數(shù),β是平滑因子,用于放縮歸一化頻率使最后得到的TPMS 值處于合理的范圍中。由于本文實(shí)驗(yàn)基于文獻(xiàn)[16]構(gòu)建的數(shù)據(jù)集,因此參照文獻(xiàn)[16],采用β=1 000 作為平滑因子的值。

    1.3.2 基于LDA模型的研究方向覆蓋得分計(jì)算

    為確保審稿小組能最大化覆蓋論文研究方向,從選擇第二位審稿人開始,除了考慮對論文的親和力之外,均需考慮之前所選擇的審稿人已經(jīng)覆蓋的論文研究方向,要盡可能選擇能覆蓋這篇論文未被覆蓋的研究方向的審稿人作為最佳的審稿人。因此,需要對審稿人和待審論文的研究方向進(jìn)行建模,使用得到的研究方向分布進(jìn)行覆蓋得分的計(jì)算。

    LDA 模型[17-18]是一種文本主題生成模型,包含文檔、主題和詞項(xiàng)三層結(jié)構(gòu),基本思想是一篇文檔是有多個(gè)主題的,不同主題下詞項(xiàng)出現(xiàn)的概率是不同的。這種關(guān)系和論文與研究方向之間的關(guān)系很類似,一篇論文通常包含多個(gè)研究方向,不同研究方向下詞項(xiàng)出現(xiàn)的概率也是不同的。因此,LDA 模型對應(yīng)本文的三層結(jié)構(gòu)即為論文、研究方向和詞項(xiàng),其拓?fù)浣Y(jié)構(gòu)如圖2 所示。

    圖2 LDA模型的拓?fù)浣Y(jié)構(gòu)Fig.2 Topological structure of LDA model

    基于LDA 模型,生成論文p的對數(shù)似然概率為:

    其中:c(w,p)是詞項(xiàng)w在論文p中出現(xiàn)的次數(shù),θj表示論文p中出現(xiàn)研究方向j的概率,?wj表示詞項(xiàng)w在研究方向j中出現(xiàn)的概率。

    本文使用LDA 模型,以所有審稿人論文組與待審論文集的摘要作為語料庫,采用Gibbs 采樣算法進(jìn)行建模,得到審稿人和待審論文的研究方向分布,并計(jì)算研究方向分布之間的余弦相似度作為研究方向覆蓋得分,以此反映審稿人對待審論文研究方向的覆蓋程度。審稿人r對論文p的研究方向覆蓋得分為:

    其中:θr和θp代表r和p的研究方向分布,可以將其看作是一個(gè)k維的向量(k為LDA 主題數(shù));代表r中出現(xiàn)研究方向a的概率。

    1.3.3 基于綜合審閱得分的審稿人預(yù)分配

    考慮審稿人與待審論文間親和力大小,以及同一審稿小組對論文的研究方向覆蓋率,本文提出一種計(jì)算審稿人綜合審閱得分的方法,綜合審閱得分高的審稿人與論文親和力較大,還可以與其他審稿人一起互補(bǔ)的覆蓋論文的研究方向。

    在計(jì)算出親和力得分和研究方向覆蓋得分后,通過加權(quán)求和的方式將兩個(gè)衡量審稿人審閱質(zhì)量的分?jǐn)?shù)融合得到審稿人綜合審閱得分,審稿小組中第s個(gè)審稿人相對于論文p的綜合審閱得分為:

    參數(shù)σ為審稿小組影響因子,用來控制依賴先前選擇的審稿人來覆蓋論文的研究方向的程度。當(dāng)σ=0 時(shí),當(dāng)前計(jì)算中最好的審稿人能較好覆蓋論文所有研究方向;當(dāng)σ>0時(shí),對論文研究方向的部分覆蓋將會(huì)受到之前審稿人的影響,當(dāng)前計(jì)算得到最好的審稿人將會(huì)是能最好覆蓋之前尚未被覆蓋到的研究方向的審稿人。

    根據(jù)論文選擇審稿人次序Q,本文利用輪詢調(diào)度的方法將審稿人分配給待審論文:待審論文選擇審稿人的過程按輪次進(jìn)行,每一輪按次序Q迭代待審論文,讓每篇待審論文選擇不在自己的審稿小組中、綜合審閱得分最高而且未達(dá)到審稿負(fù)載的審稿人,直到?jīng)]有新的審稿人被分配或者達(dá)到最大迭代輪次,據(jù)此產(chǎn)生每篇待審論文的預(yù)分配審稿小組PT。

    1.4 基于利益沖突檢查的審稿小組推薦

    為確保論文評審的公正,避免審稿人審閱該論文時(shí)可能會(huì)帶有偏見,在實(shí)際分配論文給審稿人時(shí),應(yīng)充分權(quán)衡審稿人與論文間的利益沖突。

    Long 等[19]整理了常見的幾種利益沖突,本文將其歸為兩類沖突:關(guān)系沖突和競爭沖突。關(guān)系沖突指待審論文作者和審稿人共同撰寫了一些論文或者在同一機(jī)構(gòu)中工作,表明論文作者和審稿人具有合作歷史;競爭沖突是指審稿人和待審論文具有相同的研究領(lǐng)域相同的研究方向,通常情況下審稿人也會(huì)向會(huì)議提交論文,在這種情況下很難假設(shè)審稿人會(huì)客觀地判斷該論文。因此,在將論文分配給審稿人時(shí),避免利益沖突對保證論文審閱質(zhì)量很關(guān)鍵。

    對于待審論文p和審稿人r,進(jìn)行利益沖突檢查的步驟為:

    1)關(guān)系沖突檢查。

    根據(jù)r對應(yīng)的論文組Rsetr可以得到r的合作作者集authorR={authorR1,authorR2,…,authorRx} 和學(xué)術(shù)機(jī)構(gòu)集placeR={placeR1,placeR2,…,placeRy},authorRi表 示r的第i個(gè)合作作者,placeRj表示和r有關(guān)系的第j個(gè)學(xué)術(shù)機(jī)構(gòu),authorR和placeR的計(jì)算方式為:

    其中:authorsi指的是Rsetr的第i篇論文中出現(xiàn)的作者集合,placesj指的是Rsetr的第j篇論文中每個(gè)作者對應(yīng)的機(jī)構(gòu)集合。對于待審論文p也可以得到其合作作者集authorP={authorP1,authorP2,…,authorPu} 和學(xué)術(shù)機(jī)構(gòu)集placeP={placeP1,placeP2,…,placePv},當(dāng)出現(xiàn)

    則證明撰寫論文p的作者們其中有人與審稿人r一同寫過論文或者在同一機(jī)構(gòu)中,具有合作歷史,存在關(guān)系沖突。

    2)競爭沖突檢查。

    根據(jù)1.2 節(jié),可以得到審稿人r和待審論文p的研究方向areaRr和areaPp,當(dāng)r也向會(huì)議提交了論文并且有:

    則證明r和p有著相同的研究領(lǐng)域,為了保證論文無偏見評審,認(rèn)為r和p存在競爭沖突。

    在得到待審論文的預(yù)分配審稿小組PT后,對其中每個(gè)審稿人進(jìn)行兩種類型的利益沖突檢查,除去那些存在利益沖突的審稿人,最終按照會(huì)議對待審論文安排審稿人數(shù)量的要求,選擇綜合審閱得分排名在前的幾名審稿人形成推薦審稿小組T。

    2 算法具體實(shí)現(xiàn)

    ARDC 算法偽代碼如下:

    算法 基于親和力與研究方向覆蓋率的審稿人推薦算法(ARDC)。

    輸入 待審論文集合P={p1,p2,…,px},審稿人論文組集合Rset={Rset1,Rset2,…,Rsety}。

    輸出 推薦審稿小組T={T1,T2,…,Tx}。

    3 實(shí)驗(yàn)結(jié)果與分析

    3.1 數(shù)據(jù)集選擇

    由于會(huì)議對審稿人具體的分配信息是保密的,難以獲取真實(shí)的審稿人數(shù)據(jù)去評估本文方法的有效性,而且即使擁有真實(shí)會(huì)議分配信息,也不一定表明這次會(huì)議分配結(jié)果是最佳的。因此,本文使用S2ORC[16]和SIGIR[7]這兩個(gè)模擬數(shù)據(jù)集去模擬真實(shí)的會(huì)議審稿分配流程,并針對SIGIR 數(shù)據(jù)集中所缺失的詳細(xì)作者信息采用隨機(jī)化方式進(jìn)行了補(bǔ)全。S2ORC和SIGIR 數(shù)據(jù)集從真實(shí)的會(huì)議數(shù)據(jù)中篩選合適的待審論文和審稿專家,收集待審論文和模擬審稿人論文摘要信息和研究方向信息,具體數(shù)值如表1 所示。

    表1 數(shù)據(jù)集信息Tab.1 Dataset information

    3.2 對比算法

    為了驗(yàn)證ARDC 算法性能,本文選擇現(xiàn)有各種審稿人推薦算法作為對比算法,包括PLSARAM[7]、TPMS[10]、FairIR[12]、FairFlow[12]、PR4A[13]和GRRR[14]。對于會(huì)議審稿相關(guān)參數(shù)設(shè)置,本文為每篇待審論文分配3 個(gè)審稿人,每個(gè)審稿人最多審6 篇論文。對比算法均采用其論文中對應(yīng)的默認(rèn)參數(shù),由于PLSARAM 算法中并未考慮審稿人負(fù)載限制和論文選擇次序,因此本文隨機(jī)的選擇待審論文為其分配審稿人,并在分配的過程中移除達(dá)到負(fù)載的審稿人,最后將10 次運(yùn)行結(jié)果的平均值作為PLSARAM 算法的最終結(jié)果。

    3.3 評價(jià)指標(biāo)

    本文采用平均研究方向覆蓋得分(RAvg.Coverage),平均親和力得分(RAvg.TPMS)和利益沖突對數(shù)目(Conflict of Interest,COI)作為會(huì)議審稿人分配質(zhì)量的評價(jià)指標(biāo)。

    Avg.Coverage 代表審稿小組對論文p研究方向覆蓋的程度,n表示審稿小組中審稿人的數(shù)目,表示審稿小組中第i個(gè)審稿人ri對p的研究方向覆蓋得分:

    Avg.TPMS 為審稿小組對論文p親和力得分的平均值,表示審稿小組中第i個(gè)審稿人ri對p的TPMS 值:

    上述兩個(gè)評價(jià)指標(biāo)都是值越大,說明為論文分配審稿小組的審閱質(zhì)量越好。COI 表示在當(dāng)前會(huì)議的審稿安排中審稿人-待審論文對間出現(xiàn)利益沖突的個(gè)數(shù),COI 越大則表明審稿人分配越不合理。

    3.4 參數(shù)確定實(shí)驗(yàn)

    本文算法有主題數(shù)k,審稿小組影響因子σ,融合權(quán)重因子ω和冷門研究方向因子ε四個(gè)參數(shù),實(shí)驗(yàn)數(shù)據(jù)參數(shù)如表2所示。

    表2 實(shí)驗(yàn)數(shù)據(jù)參數(shù)Tab.2 Experimental data parameters

    3.4.1 主題數(shù)k

    主題數(shù)k是LDA 模型在構(gòu)建過程中必須給出的參數(shù),k不同最后得到的研究方向分布也不同。設(shè)定審稿小組影響因子σ為0.5,冷門研究方向因子ε為0.02,融合權(quán)重因子ω為1,即僅使用研究方向覆蓋得分探究主題數(shù)k對Avg.Coverage 和Avg.TPMS 的影響,結(jié)果如圖3、4 所示。

    圖3 S2ORC數(shù)據(jù)集上評價(jià)指標(biāo)隨k變化Fig.3 Evaluation metrics changing with k on S2ORC dataset

    圖4 SIGIR數(shù)據(jù)集上評價(jià)指標(biāo)隨k變化Fig.4 Evaluation metrics changing with k on SIGIR dataset

    由圖3、4 可知,兩個(gè)數(shù)據(jù)集上的Avg.Coverage 整體上都是隨著主題數(shù)k的增大而減小,證明了選擇較少的主題數(shù)能更好地對論文的研究方向進(jìn)行建模;隨著k的增大,S2ORC數(shù)據(jù)集上的Avg.TPMS 先逐漸增大,當(dāng)k超過50 后就保持穩(wěn)定,不再有明顯的波動(dòng),此時(shí)SIGIR 數(shù)據(jù)集上Avg.TPMS 的值也是穩(wěn)定在0.6 附近,故確定主題數(shù)k=50 時(shí)算法有較好的效果。

    3.4.2 審稿小組影響因子σ

    參數(shù)σ用來控制依賴先前選擇審稿人來覆蓋論文研究方向的程度,當(dāng)σ取值過大,會(huì)使當(dāng)前審稿人覆蓋效果不明顯導(dǎo)致整體分配結(jié)果較差,因此在選取參數(shù)σ要避免其過大。確定主題數(shù)k=50 之后,設(shè)定冷門研究方向因子ε為0.02,融合權(quán)重因子ω為1,探究不同σ對評價(jià)指標(biāo)的影響,結(jié)果如圖5、6 所示。

    圖5 S2ORC數(shù)據(jù)集上評價(jià)指標(biāo)隨σ變化Fig.5 Evaluation metrics changing with σ on S2ORC dataset

    由圖5、6 可知,σ在兩個(gè)數(shù)據(jù)集上都對Avg.TPMS 沒有明顯影響,而Avg.Coverage 則隨著σ的增大而減小,印證了前面提到的當(dāng)σ過大時(shí)新審稿人的選擇效果會(huì)被現(xiàn)有審稿小組掩蓋,導(dǎo)致結(jié)果變差的觀點(diǎn)。由于σ為0、0.1 和0.2 對應(yīng)的Avg.Coverage 值在S2ORC 數(shù)據(jù)集上分別為0.905 1、0.905 2 和0.904 7,此時(shí)SIGIR 數(shù)據(jù)集上Avg.Coverage 值沒有明顯變化,故確定實(shí)驗(yàn)所用的審稿小組影響因子σ為0.1。

    圖6 SIGIR數(shù)據(jù)集上評價(jià)指標(biāo)隨σ變化Fig.6 Evaluation metrics changing with σ on SIGIR dataset

    3.4.3 融合權(quán)重因子ω

    ω為利用親和力得分和研究方向覆蓋得分計(jì)算綜合審閱質(zhì)量得分時(shí)的權(quán)重系數(shù)。當(dāng)ω=1 時(shí),代表綜合審閱質(zhì)量得分等于研究方向覆蓋得分,此時(shí)不考慮論文與待審論文間親和力大??;當(dāng)ω=0 時(shí),代表綜合審閱質(zhì)量得分等于親和力得分,此時(shí)為論文分配審稿人不考慮研究方向的匹配。

    在得到使算法表現(xiàn)性能最佳的主題數(shù)k和審稿小組影響因子ω后,設(shè)定冷門研究方向因子ε為0.02,使用不同的融合權(quán)重因子ω觀察Avg.Coverage 和Avg.TPMS 的變化,結(jié)果如圖7、8 所示。

    圖7 S2ORC數(shù)據(jù)集上評價(jià)指標(biāo)隨ω變化Fig.7 Evaluation metrics changing with ω on S2ORC dataset

    圖8 SIGIR數(shù)據(jù)集上評價(jià)指標(biāo)隨ω變化Fig.8 Evaluation metrics changing with ω on SIGIR dataset

    由圖7、8 可知,ARDC 算法在兩個(gè)數(shù)據(jù)集上評價(jià)指標(biāo)的變化趨勢是一致的,都是Avg.Coverage 隨著ω的增大而減小,Avg.TPMS 的值隨著ω的增加而增大,ω的取值可以為0.4 或0.5,此時(shí)兩個(gè)評價(jià)指標(biāo)都能取得較大的值。

    3.4.4 冷門研究方向因子ε

    ε用來確定論文在此次會(huì)議中的研究狀況標(biāo)志位,并產(chǎn)生論文審稿人選擇次序。確定主題數(shù)k=50,審稿小組影響因子σ=0.1,融合權(quán)重因子ω=0.4 后,探究不同的冷門研究方向因子ε對于評價(jià)指標(biāo)的影響,結(jié)果如圖9、10 所示。

    圖9 S2ORC數(shù)據(jù)集上評價(jià)指標(biāo)隨ε變化Fig.9 Evaluation metrics changing with ε on S2ORC dataset

    由圖10 可知,冷門研究方向因子ε在規(guī)模較小的SIGIR數(shù)據(jù)集上對評價(jià)指標(biāo)的影響不大,這是由于在此數(shù)據(jù)集上審稿人與待審論文比例接近2.5∶1,涉及冷門研究方向的論文找不到合適審稿人的概率很小,因此在審稿人數(shù)量充足的情況下出現(xiàn)這種現(xiàn)象是符合實(shí)際情況的。為此本文根據(jù)評價(jià)指標(biāo)在S2ORC 數(shù)據(jù)集上的變化確定ε的取值:由圖9 可知,冷門研究方向因子ε對Avg.TPMS 的影響不大,其值始終在0.855 和0.856 之間波動(dòng);隨著ε的增大,Avg.Coverage 先不斷波動(dòng),在ε超過0.05 之后趨于一個(gè)穩(wěn)定的狀態(tài),故使用Avg.Coverage 來確定最佳ε的取值,觀察圖像可知,ε為0.02時(shí)Avg.Coverage 有最值,因此最終確定ε的取值為0.02。

    圖10 SIGIR數(shù)據(jù)集上評價(jià)指標(biāo)隨ε變化Fig.10 Evaluation metrics changing with ε on SIGIR dataset

    3.5 與其他算法對比實(shí)驗(yàn)

    通過上一節(jié)在S2ORC 和SIGIR 數(shù)據(jù)集上的參數(shù)分析,可以得到ARDC 算法的參數(shù)取值為k=50,σ=0.1,ω=0.4,ε=0.02。將本文算法與現(xiàn)有的6 種審稿人推薦算法基于平均研究方向覆蓋得分、平均親和力得分和利益沖突對數(shù)目進(jìn)行對比,表3 是每種算法在數(shù)據(jù)集上得到的結(jié)果。

    表3 各算法的實(shí)驗(yàn)結(jié)果對比Tab.3 Comparison of experimental results of different algorithms

    由表3 可知,本文提出的ARDC 算法在總體上優(yōu)于其他6 種對比算法。在保證待審論文與審稿人間利益沖突對數(shù)目為0 的情況下,與基于分配的TPMS、PR4A、FairIR、FairFlow 和GRRR 算法相比,ARDC 要求審稿人擁有與待審論文較高親和力的同時(shí)與論文的研究方向相匹配,因此算法能在保持較高的Avg.TPMS 的同時(shí),使Avg.Coverage 獲得較大的提升:ARDC 算法在S2ORC 數(shù)據(jù)集上得到的親和力得分平均僅下降9%,但研究方向覆蓋得分最低提高37%,平均提高38%。這種現(xiàn)象在規(guī)模較小的SIGIR 數(shù)據(jù)集上體現(xiàn)得更加明顯,親和力得分平均下降18%,但研究方向覆蓋得分平均提高65%。與PLSARAM 算法相比,ARDC 在基于研究方向匹配的基礎(chǔ)上增加了親和力得分和論文審稿人選擇次序,最終結(jié)果也獲得了較大的提升:ARDC 算法在得到的親和力得分僅下降2.6%和5.2%的情況下,將研究方向覆蓋得分分別提高19%和12%,實(shí)驗(yàn)結(jié)果證明了本文方法的有效性。

    4 結(jié)語

    本文提出了一種基于親和力與研究方向覆蓋率的審稿人推薦算法,與現(xiàn)有通過最大化全局親和力得分的算法不同,本文所提算法要求審稿人擁有與論文較大親和力的同時(shí)還可以與其他審稿人一起互補(bǔ)的覆蓋論文所有的研究方向,并據(jù)此得到論文預(yù)分配審稿小組。在此基礎(chǔ)上,結(jié)合會(huì)議審稿流程,通過計(jì)算待審論文選擇審稿人次序和進(jìn)行利益沖突檢查,最終得到論文推薦審稿小組,并在S2ORC 和SIGIR 數(shù)據(jù)集上獲得了更好的推薦結(jié)果。

    在現(xiàn)實(shí)會(huì)議中,并不只是根據(jù)審稿人曾經(jīng)發(fā)表過的作品就為其分配待審論文,還要考慮審稿人的社會(huì)關(guān)系,論文的審閱質(zhì)量以及最后論文是否錄用等其他方面的因素。今后為論文推薦審稿人時(shí)可以對審稿人的相關(guān)信息進(jìn)行充分的挖掘,刻畫審稿人的專家畫像,以提高最后的推薦效果。

    猜你喜歡
    審稿人親和力集上
    《中國免疫學(xué)雜志》特約審稿人名單
    《軍事護(hù)理》2021年度優(yōu)秀編委、審稿人
    Cookie-Cutter集上的Gibbs測度
    特約審稿人遴選通知
    鏈完備偏序集上廣義向量均衡問題解映射的保序性
    本刊評出2018年度優(yōu)秀作者和優(yōu)秀審稿人
    高端訪談節(jié)目如何提升親和力
    新聞傳播(2018年11期)2018-08-29 08:15:30
    高端訪談節(jié)目如何提升親和力探索
    新聞傳播(2018年13期)2018-08-29 01:06:52
    復(fù)扇形指標(biāo)集上的分布混沌
    親和力在播音主持中的作用探究
    新聞傳播(2016年9期)2016-09-26 12:20:34
    国产成人精品无人区| 国产男女内射视频| 婷婷色综合www| 亚洲精品国产av蜜桃| 精品人妻在线不人妻| 欧美日韩综合久久久久久| 街头女战士在线观看网站| 欧美中文综合在线视频| 国产片特级美女逼逼视频| 国产亚洲精品第一综合不卡| av有码第一页| 一区在线观看完整版| 制服人妻中文乱码| 亚洲欧美中文字幕日韩二区| 国产精品免费视频内射| 黄色 视频免费看| 97在线人人人人妻| 精品人妻一区二区三区麻豆| 在线亚洲精品国产二区图片欧美| 亚洲国产精品成人久久小说| 最近的中文字幕免费完整| 麻豆乱淫一区二区| 中文字幕制服av| 国产在线一区二区三区精| 晚上一个人看的免费电影| 精品人妻一区二区三区麻豆| 建设人人有责人人尽责人人享有的| 亚洲av综合色区一区| 女人被躁到高潮嗷嗷叫费观| 精品人妻一区二区三区麻豆| 另类亚洲欧美激情| 午夜免费男女啪啪视频观看| 国产一区二区激情短视频 | 亚洲精品国产av成人精品| 亚洲美女搞黄在线观看| 成人免费观看视频高清| 99精品久久久久人妻精品| 日本爱情动作片www.在线观看| 激情视频va一区二区三区| 久久精品aⅴ一区二区三区四区| 国产成人精品久久久久久| av片东京热男人的天堂| 日韩免费高清中文字幕av| 三上悠亚av全集在线观看| 久久精品aⅴ一区二区三区四区| 精品少妇黑人巨大在线播放| 国产免费现黄频在线看| 国产成人免费观看mmmm| av不卡在线播放| 伊人久久大香线蕉亚洲五| 搡老岳熟女国产| 极品少妇高潮喷水抽搐| 欧美黑人精品巨大| 中文字幕人妻丝袜一区二区 | 嫩草影院入口| av女优亚洲男人天堂| 久久久精品区二区三区| 亚洲专区中文字幕在线 | 亚洲av福利一区| 久久久久人妻精品一区果冻| 卡戴珊不雅视频在线播放| av女优亚洲男人天堂| 乱人伦中国视频| 国产精品一区二区在线观看99| 久久久久精品久久久久真实原创| 亚洲综合精品二区| 少妇精品久久久久久久| 狠狠婷婷综合久久久久久88av| 菩萨蛮人人尽说江南好唐韦庄| 久久韩国三级中文字幕| 丁香六月天网| 久久99一区二区三区| 狂野欧美激情性xxxx| 国产成人a∨麻豆精品| 亚洲欧美日韩另类电影网站| 亚洲国产精品国产精品| 两个人免费观看高清视频| 亚洲精品一二三| 亚洲成av片中文字幕在线观看| 欧美日韩亚洲综合一区二区三区_| 亚洲精品aⅴ在线观看| 十八禁人妻一区二区| 视频区图区小说| 国产成人欧美在线观看 | 在线 av 中文字幕| 亚洲精品中文字幕在线视频| 无遮挡黄片免费观看| av有码第一页| 亚洲欧美一区二区三区黑人| 久久这里只有精品19| 国产人伦9x9x在线观看| 人人妻人人添人人爽欧美一区卜| 热re99久久国产66热| 亚洲精品第二区| 午夜精品国产一区二区电影| 精品亚洲成国产av| 秋霞伦理黄片| 成年人免费黄色播放视频| 在线看a的网站| 国产精品成人在线| 亚洲一级一片aⅴ在线观看| 亚洲精品久久午夜乱码| 久久精品亚洲熟妇少妇任你| 97人妻天天添夜夜摸| 中文字幕制服av| 午夜影院在线不卡| 亚洲成av片中文字幕在线观看| 欧美日韩一区二区视频在线观看视频在线| 国产精品国产三级专区第一集| 欧美人与性动交α欧美精品济南到| 成人国语在线视频| 久久影院123| 日韩免费高清中文字幕av| 亚洲欧美激情在线| 亚洲少妇的诱惑av| 欧美97在线视频| 一本一本久久a久久精品综合妖精| 你懂的网址亚洲精品在线观看| 午夜福利在线免费观看网站| 亚洲美女黄色视频免费看| 日本wwww免费看| 精品第一国产精品| 国精品久久久久久国模美| 亚洲自偷自拍图片 自拍| 777久久人妻少妇嫩草av网站| 妹子高潮喷水视频| 在线观看一区二区三区激情| 1024香蕉在线观看| 叶爱在线成人免费视频播放| 哪个播放器可以免费观看大片| 午夜激情久久久久久久| 丝袜美足系列| 97精品久久久久久久久久精品| 麻豆乱淫一区二区| 免费黄频网站在线观看国产| 久久鲁丝午夜福利片| 久久天躁狠狠躁夜夜2o2o | 日韩制服骚丝袜av| 黑人欧美特级aaaaaa片| 国产片特级美女逼逼视频| 国产乱人偷精品视频| 精品少妇黑人巨大在线播放| 欧美在线一区亚洲| 中国三级夫妇交换| 91精品伊人久久大香线蕉| 免费看av在线观看网站| 午夜免费男女啪啪视频观看| 精品福利永久在线观看| 国产片内射在线| 亚洲精品国产区一区二| 51午夜福利影视在线观看| 黑人猛操日本美女一级片| 999精品在线视频| 99国产综合亚洲精品| 大片电影免费在线观看免费| 国产欧美日韩一区二区三区在线| 亚洲国产欧美一区二区综合| netflix在线观看网站| 美女午夜性视频免费| 高清黄色对白视频在线免费看| 国产97色在线日韩免费| 青青草视频在线视频观看| 另类精品久久| 满18在线观看网站| 日日爽夜夜爽网站| 久久天堂一区二区三区四区| 日韩av不卡免费在线播放| 一边亲一边摸免费视频| 老司机影院成人| 老司机靠b影院| 亚洲第一青青草原| 亚洲精品,欧美精品| 高清av免费在线| 2021少妇久久久久久久久久久| 国产爽快片一区二区三区| 男女床上黄色一级片免费看| 色吧在线观看| 另类精品久久| 男的添女的下面高潮视频| 最近中文字幕高清免费大全6| 国产亚洲精品第一综合不卡| 国产 一区精品| 天天躁日日躁夜夜躁夜夜| 久久久精品免费免费高清| av福利片在线| 亚洲精品第二区| 国产免费现黄频在线看| 制服人妻中文乱码| 搡老岳熟女国产| 亚洲美女黄色视频免费看| 精品久久久精品久久久| 免费在线观看完整版高清| 久久久精品国产亚洲av高清涩受| 一区二区三区激情视频| 亚洲七黄色美女视频| 欧美精品av麻豆av| 国产乱来视频区| 在线观看一区二区三区激情| 国产精品av久久久久免费| 午夜av观看不卡| 国产精品一区二区在线不卡| 下体分泌物呈黄色| 青春草视频在线免费观看| 国产成人精品久久久久久| 色吧在线观看| 五月天丁香电影| h视频一区二区三区| 日本91视频免费播放| 1024香蕉在线观看| 这个男人来自地球电影免费观看 | 19禁男女啪啪无遮挡网站| 狂野欧美激情性xxxx| 国产无遮挡羞羞视频在线观看| 99精国产麻豆久久婷婷| 中文字幕最新亚洲高清| 亚洲伊人色综图| 日韩大码丰满熟妇| 国产老妇伦熟女老妇高清| 亚洲精品一二三| 亚洲美女黄色视频免费看| 久久综合国产亚洲精品| 亚洲精品中文字幕在线视频| 91精品三级在线观看| 亚洲国产av影院在线观看| 高清欧美精品videossex| 高清在线视频一区二区三区| 一级片免费观看大全| 丝袜美足系列| 国产精品二区激情视频| 高清av免费在线| 男人舔女人的私密视频| 在线观看免费日韩欧美大片| 亚洲精品日本国产第一区| 成年人免费黄色播放视频| 国产精品免费大片| 国产日韩欧美亚洲二区| av福利片在线| 久久久久久免费高清国产稀缺| 制服丝袜香蕉在线| netflix在线观看网站| 亚洲第一青青草原| 国产精品 欧美亚洲| 日韩制服丝袜自拍偷拍| 中文欧美无线码| 在线 av 中文字幕| 欧美激情高清一区二区三区 | 国产av码专区亚洲av| 黄色怎么调成土黄色| 三上悠亚av全集在线观看| 人人妻人人澡人人爽人人夜夜| 少妇被粗大猛烈的视频| netflix在线观看网站| 在线观看人妻少妇| a级毛片在线看网站| 中文字幕高清在线视频| 99re6热这里在线精品视频| 日韩av免费高清视频| 99久久人妻综合| 久久性视频一级片| 97人妻天天添夜夜摸| 亚洲成人av在线免费| 午夜免费鲁丝| 国产又色又爽无遮挡免| 亚洲成国产人片在线观看| 中文字幕亚洲精品专区| 亚洲美女黄色视频免费看| 国产片特级美女逼逼视频| 久久女婷五月综合色啪小说| 亚洲精品久久午夜乱码| 一本一本久久a久久精品综合妖精| av网站在线播放免费| 亚洲图色成人| 免费在线观看黄色视频的| 国产精品国产三级国产专区5o| 亚洲国产精品一区二区三区在线| 丰满少妇做爰视频| 午夜福利在线免费观看网站| 日本av手机在线免费观看| 久久精品aⅴ一区二区三区四区| e午夜精品久久久久久久| 美女视频免费永久观看网站| 黄片无遮挡物在线观看| 少妇 在线观看| 亚洲第一区二区三区不卡| 啦啦啦在线免费观看视频4| 国产精品久久久人人做人人爽| 女人精品久久久久毛片| 亚洲伊人色综图| 免费人妻精品一区二区三区视频| 欧美日韩av久久| 成人亚洲精品一区在线观看| 精品一区在线观看国产| 欧美在线黄色| 一级毛片 在线播放| 免费看av在线观看网站| 亚洲精品视频女| av国产久精品久网站免费入址| 亚洲精品一二三| 中文字幕色久视频| 飞空精品影院首页| 老司机影院毛片| av片东京热男人的天堂| 人妻人人澡人人爽人人| 女人高潮潮喷娇喘18禁视频| 亚洲精品,欧美精品| 国产片特级美女逼逼视频| 性高湖久久久久久久久免费观看| 人人澡人人妻人| 免费少妇av软件| 日韩伦理黄色片| 亚洲熟女毛片儿| 久久人妻熟女aⅴ| 中文字幕av电影在线播放| 日韩一区二区视频免费看| 亚洲美女视频黄频| 999精品在线视频| 老鸭窝网址在线观看| 精品久久久精品久久久| 性高湖久久久久久久久免费观看| 精品第一国产精品| 久热这里只有精品99| 免费不卡黄色视频| 九九爱精品视频在线观看| 18在线观看网站| www日本在线高清视频| 久久久国产精品麻豆| 9色porny在线观看| 免费看不卡的av| 亚洲国产欧美在线一区| 涩涩av久久男人的天堂| 久久这里只有精品19| 超碰97精品在线观看| 母亲3免费完整高清在线观看| 精品久久久精品久久久| 成年人免费黄色播放视频| 久久热在线av| 另类亚洲欧美激情| 国产亚洲午夜精品一区二区久久| videos熟女内射| 欧美日韩福利视频一区二区| 亚洲精品中文字幕在线视频| 大香蕉久久成人网| 国产亚洲av高清不卡| 国产免费福利视频在线观看| av电影中文网址| 美女高潮到喷水免费观看| 观看美女的网站| 两个人免费观看高清视频| 少妇的丰满在线观看| 男人舔女人的私密视频| 欧美日韩福利视频一区二区| 国产精品久久久久久久久免| 青草久久国产| 亚洲欧美激情在线| 亚洲精品日韩在线中文字幕| 国产精品免费视频内射| 久久人妻熟女aⅴ| 人妻人人澡人人爽人人| 在线天堂最新版资源| 美国免费a级毛片| 丝袜美腿诱惑在线| 国产精品熟女久久久久浪| 成年美女黄网站色视频大全免费| 亚洲国产最新在线播放| 欧美老熟妇乱子伦牲交| 最近最新中文字幕免费大全7| 韩国av在线不卡| 日韩av在线免费看完整版不卡| 亚洲欧美一区二区三区国产| 婷婷色麻豆天堂久久| 亚洲精品成人av观看孕妇| 1024视频免费在线观看| 国产日韩欧美视频二区| 亚洲熟女精品中文字幕| 熟妇人妻不卡中文字幕| 视频区图区小说| 韩国精品一区二区三区| 亚洲免费av在线视频| 国产精品秋霞免费鲁丝片| 九九爱精品视频在线观看| 精品国产一区二区久久| 无遮挡黄片免费观看| 色吧在线观看| 亚洲国产看品久久| 亚洲精品国产色婷婷电影| 1024香蕉在线观看| 亚洲精品久久午夜乱码| 久久精品人人爽人人爽视色| 亚洲综合精品二区| 在线看a的网站| 国产精品久久久久久精品电影小说| 伊人亚洲综合成人网| 最近2019中文字幕mv第一页| 视频在线观看一区二区三区| 国产黄色视频一区二区在线观看| 色94色欧美一区二区| 青春草亚洲视频在线观看| 狠狠精品人妻久久久久久综合| 久久免费观看电影| 青春草国产在线视频| 大香蕉久久成人网| 国产成人欧美| 如日韩欧美国产精品一区二区三区| 在线观看www视频免费| 波多野结衣一区麻豆| 午夜精品国产一区二区电影| av福利片在线| av在线app专区| 可以免费在线观看a视频的电影网站 | 十八禁人妻一区二区| 91成人精品电影| 日本一区二区免费在线视频| 丁香六月天网| 狂野欧美激情性xxxx| 天天躁夜夜躁狠狠躁躁| 街头女战士在线观看网站| 欧美日韩av久久| 国产有黄有色有爽视频| 一边摸一边抽搐一进一出视频| 人成视频在线观看免费观看| 99热全是精品| 成人手机av| 国产一级毛片在线| 亚洲av成人精品一二三区| 精品亚洲成国产av| 多毛熟女@视频| 亚洲国产精品999| 久久精品久久精品一区二区三区| 久久国产精品大桥未久av| 欧美 亚洲 国产 日韩一| 中文天堂在线官网| 麻豆精品久久久久久蜜桃| 黄片无遮挡物在线观看| 一级黄片播放器| 国产精品无大码| 纯流量卡能插随身wifi吗| 免费不卡黄色视频| 在线观看免费视频网站a站| 久久午夜综合久久蜜桃| 国产一区二区三区综合在线观看| 天天躁日日躁夜夜躁夜夜| 人体艺术视频欧美日本| 好男人视频免费观看在线| 国产探花极品一区二区| 在线观看国产h片| 日本欧美视频一区| 69精品国产乱码久久久| 在线观看www视频免费| 免费在线观看黄色视频的| 男人舔女人的私密视频| 大码成人一级视频| 宅男免费午夜| 黄色毛片三级朝国网站| 久久精品国产亚洲av高清一级| 97精品久久久久久久久久精品| 你懂的网址亚洲精品在线观看| 午夜91福利影院| 成人毛片60女人毛片免费| 少妇人妻精品综合一区二区| 精品国产乱码久久久久久小说| 久久久久久人妻| 日韩精品有码人妻一区| 女的被弄到高潮叫床怎么办| 日本av免费视频播放| 黄网站色视频无遮挡免费观看| 天天躁夜夜躁狠狠久久av| 成年人午夜在线观看视频| 免费观看人在逋| 无限看片的www在线观看| 亚洲成色77777| 国产av国产精品国产| 99国产精品免费福利视频| 久久久久人妻精品一区果冻| 国产精品久久久人人做人人爽| 国产精品免费大片| 天天影视国产精品| 一本色道久久久久久精品综合| 在线观看一区二区三区激情| 成人漫画全彩无遮挡| 成人亚洲精品一区在线观看| 丝袜脚勾引网站| 男人操女人黄网站| videos熟女内射| 丰满乱子伦码专区| 尾随美女入室| 黄片播放在线免费| 人妻一区二区av| 黑人欧美特级aaaaaa片| 深夜精品福利| 国产在视频线精品| 18在线观看网站| 自线自在国产av| 午夜激情久久久久久久| 久久久久精品人妻al黑| av不卡在线播放| 亚洲精品久久久久久婷婷小说| 久久久久久人妻| 欧美日韩亚洲国产一区二区在线观看 | 悠悠久久av| 最新在线观看一区二区三区 | 啦啦啦 在线观看视频| 女人爽到高潮嗷嗷叫在线视频| 一级,二级,三级黄色视频| 纯流量卡能插随身wifi吗| xxx大片免费视频| 人人妻人人爽人人添夜夜欢视频| 一本久久精品| 亚洲人成电影观看| 男女午夜视频在线观看| av天堂久久9| 国产高清不卡午夜福利| 精品少妇一区二区三区视频日本电影 | 我的亚洲天堂| 中文字幕人妻丝袜制服| 黄网站色视频无遮挡免费观看| 少妇人妻久久综合中文| 亚洲精华国产精华液的使用体验| 色播在线永久视频| 婷婷色麻豆天堂久久| 亚洲av成人不卡在线观看播放网 | 爱豆传媒免费全集在线观看| 国产毛片在线视频| 高清欧美精品videossex| 亚洲精品,欧美精品| videos熟女内射| 制服人妻中文乱码| 欧美日韩亚洲综合一区二区三区_| 99热全是精品| 亚洲av男天堂| 国产毛片在线视频| 国产精品久久久久成人av| 亚洲人成电影观看| 在线观看人妻少妇| 青青草视频在线视频观看| 你懂的网址亚洲精品在线观看| 国产亚洲一区二区精品| 久久久久视频综合| 亚洲精品久久成人aⅴ小说| www.熟女人妻精品国产| 午夜福利,免费看| 久久午夜综合久久蜜桃| 黄色一级大片看看| 亚洲欧美一区二区三区国产| 亚洲国产av影院在线观看| 国产av一区二区精品久久| 国产成人a∨麻豆精品| 一级,二级,三级黄色视频| 乱人伦中国视频| 国产亚洲最大av| 国产av精品麻豆| 久久久精品区二区三区| av又黄又爽大尺度在线免费看| 精品人妻熟女毛片av久久网站| 悠悠久久av| 自拍欧美九色日韩亚洲蝌蚪91| 在线天堂中文资源库| 中文乱码字字幕精品一区二区三区| 99香蕉大伊视频| 日韩电影二区| 男女国产视频网站| 国产成人一区二区在线| 91精品国产国语对白视频| 久久国产精品大桥未久av| 超碰成人久久| 男的添女的下面高潮视频| 超碰97精品在线观看| 又粗又硬又长又爽又黄的视频| 九草在线视频观看| 亚洲欧美精品综合一区二区三区| 欧美日韩视频精品一区| 国产精品香港三级国产av潘金莲 | 熟妇人妻不卡中文字幕| 亚洲欧洲精品一区二区精品久久久 | 日本wwww免费看| 欧美老熟妇乱子伦牲交| 久久精品亚洲熟妇少妇任你| 看非洲黑人一级黄片| 久久久精品免费免费高清| 亚洲欧美一区二区三区久久| 亚洲人成电影观看| 丝瓜视频免费看黄片| 色吧在线观看| 久久精品熟女亚洲av麻豆精品| av天堂久久9| 欧美日本中文国产一区发布| 女性被躁到高潮视频| 操出白浆在线播放| kizo精华| 免费日韩欧美在线观看| 亚洲欧洲国产日韩| h视频一区二区三区| 久久精品国产综合久久久| 国产一区二区三区av在线| 一区福利在线观看| 丰满少妇做爰视频| 免费观看a级毛片全部| 80岁老熟妇乱子伦牲交| 亚洲欧美清纯卡通| 哪个播放器可以免费观看大片| 久热这里只有精品99| 亚洲综合精品二区| 观看av在线不卡| 午夜免费男女啪啪视频观看| 老司机深夜福利视频在线观看 | 久久精品亚洲av国产电影网| 国产色婷婷99| 国产免费一区二区三区四区乱码| 黄片无遮挡物在线观看| 午夜福利乱码中文字幕| av电影中文网址| 欧美日韩福利视频一区二区| 国产一卡二卡三卡精品 | 亚洲国产日韩一区二区| 亚洲欧美清纯卡通| 大香蕉久久成人网|