• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    CPU-GPU異構(gòu)環(huán)境下的大規(guī)模商品知識查詢處理

    2021-03-14 20:42:43方創(chuàng)新宋浩林煜明周婭

    方創(chuàng)新 宋浩 林煜明 周婭

    摘要:知識圖譜是將無結(jié)構(gòu)的知識進(jìn)行結(jié)構(gòu)化表示和組織的有效途徑,已經(jīng)成為支持眾多智能應(yīng)用的基 礎(chǔ)設(shè)施.然而,與商品相關(guān)的知識通常呈現(xiàn)出海量性、異質(zhì)性和層次性的特點(diǎn),這對現(xiàn)有基于關(guān)系模型和圖 模型的知識查詢處理方法提出了挑戰(zhàn).針對商品知識的這些特點(diǎn),本文設(shè)計(jì)與實(shí)現(xiàn)了一種利用CPU和 GPU協(xié)同計(jì)算的商品知識查詢處理方法.首先,為了充分發(fā)揮GPU的并行計(jì)算能力,提出了一種基于稀 疏矩陣的商品知識存儲策略,并針對商品知識進(jìn)行存儲優(yōu)化;其次,根據(jù)稀疏矩陣的存儲結(jié)構(gòu)設(shè)計(jì)了一種 查詢轉(zhuǎn)換方式,將SPARQL查詢轉(zhuǎn)化為對應(yīng)的矩陣計(jì)算,并將連接查詢算法擴(kuò)展到GPU上進(jìn)行加速.為 了驗(yàn)證所提出方法的有效性,我們在LUBM數(shù)據(jù)集和一個(gè)半合成的商品數(shù)據(jù)集上進(jìn)行了一系列的實(shí)驗(yàn).結(jié) 果表明,本文提出的方法,不僅在海量商品知識下相對于現(xiàn)有RDF查詢引擎在檢索效率上有較大提升,而 且在通用的RDF標(biāo)準(zhǔn)數(shù)據(jù)集上也能取得較好的檢索性能,并驗(yàn)證了 GPU加速查詢處理的有效性.

    關(guān)鍵詞:商品知識;異構(gòu)環(huán)境;RDF數(shù)據(jù);查詢處理

    中圖分類號:TP392?????? 文獻(xiàn)標(biāo)志碼:A?????? DOI: 10.3969/j.issn.1000-5641.2021.05.014

    Query processing of large-scale product knowledge in a

    CPU-GPU heterogeneous environment

    FANG Chuangxin, SONG Hao, LIN Yuming, ZHOU Ya

    (Guangxi Key Laboratory of Trusted Software, Guilin University of Electronic Technology,

    Guilin Guangxi 541004, China)

    Abstract: Knowledge graphs are an effective way to structurally represent and organize unstructured knowledgeare; in fact, these graphs are commonly used to support many intelligent applications. However, product-related knowledge is typically massive in scale, heterogeneous, and hierarchical; these characteristics present a challenge for traditional knowledge query processing methods based on relational and graph models. In this paper, we propose a solution to address these challenges by designing and implementing a product knowledge query processing method using CPU and GPU collaborative computing. Firstly, in order to leverage the full parallel computing capability of GPU, a product knowledge storage strategy based on a sparse matrix is proposed and optimized for the scale of the task. Secondly, based on the storage structure of the sparse matrix, a query conversion method is designed, which transforms the SPARQL query into a corresponding matrix calculation, and extends the join query algorithm to the GPU for acceleration. In order to verify the effectiveness of the proposed method, we conducted a series of experiments on an LUBM dataset and a semisynthetic dataset of products. The experimental results

    收稿日期:2021-08-07

    基金項(xiàng)目:國家自然科學(xué)基金(62062027, U181126(4);廣西自然科學(xué)基金(2018GXNSFDA281049, 2020GXNSFA A15901(2);廣西創(chuàng)新驅(qū)動發(fā)展專項(xiàng)資金(桂科AA1904600(4);桂林市重點(diǎn)研發(fā)計(jì)劃(202001030(4);桂林電 子科技大學(xué)研究生教育創(chuàng)新計(jì)劃資助項(xiàng)目(2021YCXS07(5);廣西可信軟件重點(diǎn)實(shí)驗(yàn)室研究課題 (kx20202(1)

    通信作者:林煜明,男,教授,碩士生導(dǎo)師,研究方向?yàn)楹A繑?shù)據(jù)管理和知識圖譜.E-mail: ymlin@guet.edu.cn

    showed that the proposed method not only improves retrieval efficiency for large-scale product knowledge datasets compared with existing RDF query engines, but also achieves better retrieval performance on a general RDF standard dataset.

    Keywords: product knowledge; heterogeneous environment; RDF data; query processing

    0引 言

    知識圖譜是利用圖模型來描述知識和建模事物間關(guān)聯(lián)關(guān)系的大規(guī)模語義網(wǎng)絡(luò),是大數(shù)據(jù)時(shí)代知 識表示的重要方式之一,也是眾多智能應(yīng)用的基礎(chǔ)支撐設(shè)施.例如,基于金融知識圖譜的會計(jì)欺詐風(fēng) 險(xiǎn)識別[1]、金融產(chǎn)品推薦等.這種結(jié)構(gòu)化的知識表示能夠?qū)?shí)體信息表達(dá)成更接近人類認(rèn)知世界的 形式,通過知識圖譜能夠更好地組織、管理和理解互聯(lián)網(wǎng)上的信息.大部分知識圖譜使用資源描述框 架(Resource Description Framework, RDF)來描述事物和關(guān)系,是一種以三元組形式來描述網(wǎng)絡(luò)資源 信息的表示方式,其格式為“(主語,謂語,賓語)”,其中主語、賓語也稱為實(shí)體,謂語也稱為關(guān)系,簡言 之,RDF就是一種描述實(shí)體間關(guān)系的表示方法.而SPARQL (Simple Protocol and RDF Query Language) 則是W3C (World Wide Web Consortium)專門定義于訪問和操作RDF數(shù)據(jù)的結(jié)構(gòu)化查詢語言,以 實(shí)現(xiàn)針對大規(guī)模RDF數(shù)據(jù)的查詢與檢索.目前,針對大規(guī)模RDF數(shù)據(jù)的查詢處理主要包括基于關(guān)系 模型(如Jena[3]和RDF-3X[4]等)和基于圖模型(如gStore[5]和AMBER161等)兩類方法.

    另一方面,商品知識由于具有異質(zhì)性、冗雜性、海量性等特點(diǎn),使得原生的商品知識數(shù)據(jù)并不是 結(jié)構(gòu)化的,難以通過傳統(tǒng)的知識圖譜形式進(jìn)行組織與管理.現(xiàn)實(shí)的應(yīng)用中有一些知識圖譜具有層次化 的結(jié)構(gòu),層次化結(jié)構(gòu)對知識數(shù)據(jù)從深度和廣度上進(jìn)行了衍生,可以從一般概念引導(dǎo)到更細(xì)粒度的知識, 因此,商品知識數(shù)據(jù)適合使用層次化的知識圖譜進(jìn)行構(gòu)建.然而現(xiàn)有的RDF知識查詢方法對具有這 種結(jié)構(gòu)的知識圖譜進(jìn)行查詢處理時(shí)不能很好地利用其層次結(jié)構(gòu)特點(diǎn)進(jìn)行存儲和查詢優(yōu)化.本文主要 是針對具有層次化組織結(jié)構(gòu)的知識圖譜進(jìn)行查詢優(yōu)化的研究,特別是對具有該結(jié)構(gòu)的商品知識數(shù)據(jù) 的檢索提出了一種查詢優(yōu)化的方法.我們所研究的商品知識,是一種具有5層結(jié)構(gòu)的知識圖譜用戶 層、用戶觀點(diǎn)層、商品屬性層、商品實(shí)例層、商品分類層),其特點(diǎn)在于每一層實(shí)體的屬性類型都是類 似的,層與層之間的實(shí)體使用同一類型的關(guān)系來聯(lián)系,商品知識的實(shí)例片段如圖1所示.例如,圖1中 包含了如下事實(shí):用戶U1對商品P1的屬性A1持有O1的觀點(diǎn),P1是一種S1類型的商品,S1類型商 品是C1類型商品的子類,等等.

    此外,隨著商品知識規(guī)模的不斷增大,用戶對知識查詢的響應(yīng)速度要求也在不斷提高,但是現(xiàn)有 的RDF知識查詢系統(tǒng)的通用性對商品知識檢索性能提升形成了阻礙,沒有充分地考慮商品知識圖譜 結(jié)構(gòu)的特點(diǎn).基于關(guān)系模型的知識查詢系統(tǒng)查詢性能較好,但對系統(tǒng)存儲性能有較大要求;而基于圖 模型的知識查詢處理引擎則過度依賴知識數(shù)據(jù)的圖結(jié)構(gòu),在進(jìn)行商品知識檢索時(shí)查詢性能較低.因此, 希望能針對我們的商品知識數(shù)據(jù),或者說對具有這種層次結(jié)構(gòu)的知識圖譜檢索提出一種查詢優(yōu)化方 法.此外,隨著硬件技術(shù)的不斷發(fā)展,GPU (Graphics Processing Unit)的功能逐漸從圖形計(jì)算領(lǐng)域衍 生拓展到通用計(jì)算領(lǐng)域,利用CPU (Central Processing Unit)和GPU的協(xié)同計(jì)算進(jìn)行查詢處理也成 為提高數(shù)據(jù)檢索性能的一個(gè)突破口 .本文以大規(guī)模商品知識數(shù)據(jù)為研究對象,以提升商品知識檢索的 性能為目標(biāo),提出一種高效可擴(kuò)展的符合商品知識層次結(jié)構(gòu)的查詢處理技術(shù),實(shí)現(xiàn)了一種基于CPU- GPU協(xié)同計(jì)算的商品知識查詢處理方法,并在公開的標(biāo)準(zhǔn)數(shù)據(jù)集和半合成的商品數(shù)據(jù)集上驗(yàn)證了所 提出方法的有效性.總體而言,本文的主要貢獻(xiàn)如下:

    (1)對于具有層次化組織結(jié)構(gòu)的知識圖譜,如本文所研究的商品知識圖譜,提出了一種基于稀疏 矩陣的存儲策略,并依據(jù)層次化的結(jié)構(gòu)特點(diǎn)進(jìn)行存儲優(yōu)化;

    (2)根據(jù)稀疏矩陣的存儲結(jié)構(gòu)設(shè)計(jì)了一種查詢轉(zhuǎn)換方式,將SPARQL查詢轉(zhuǎn)換為矩陣操作,并將 連接查詢算法擴(kuò)展到GPU上進(jìn)行加速;

    (3)在一個(gè)標(biāo)準(zhǔn)數(shù)據(jù)集和一個(gè)半合成數(shù)據(jù)集上驗(yàn)證了提出方法的有效性.實(shí)驗(yàn)結(jié)果表明,我們的 方法不僅在大規(guī)模的商品知識查詢上具有較明顯的優(yōu)勢,而且也對通用知識的查詢處理具有實(shí)用性.

    本文的組織結(jié)構(gòu)如下:第1章簡要描述了相關(guān)的工作;第2章主要介紹所設(shè)計(jì)的查詢系統(tǒng)的總體 框架;第3章詳細(xì)介紹了基于稀疏矩陣的知識表示;第4章對基于稀疏矩陣的查詢轉(zhuǎn)換方式及其優(yōu)化 進(jìn)行了詳細(xì)的闡述;第5章對實(shí)驗(yàn)結(jié)果進(jìn)行分析和討論;第6章對本文進(jìn)行總結(jié).

    1相關(guān)工作

    根據(jù)RDF數(shù)據(jù)存儲和查詢方式的不同,目前RDF數(shù)據(jù)的查詢系統(tǒng)主要分為兩類:基于關(guān)系模型 的查詢系統(tǒng)以及基于圖模型的查詢系統(tǒng).

    基于關(guān)系模型的查詢系統(tǒng)通過關(guān)系型數(shù)據(jù)庫對數(shù)據(jù)進(jìn)行管理.Jena[3]使用一張巨大的表來分別存 儲S、P、O值,并將SPARQL查詢轉(zhuǎn)換為SQL查詢,但由于在執(zhí)行連接查詢時(shí)需要大量執(zhí)行自連接 操作,所以查詢代價(jià)很大.RDF-3X[4]則是通過將S、P、O的全排列都進(jìn)行了存儲,用于加速連接查詢, 但也導(dǎo)致存儲空間顯著增加.S2RDF[8]將RDF數(shù)據(jù)劃分成若干個(gè)關(guān)系表,借助Spark對RDF數(shù)據(jù)進(jìn) 行存儲和查詢.BitMat[9]通過對RDF每個(gè)元素進(jìn)行編號,并建立位圖索引來收集候選查詢,不過也面 臨著大量空間浪費(fèi)的問題.這類查詢系統(tǒng)在存儲具有層次化結(jié)構(gòu)的知識數(shù)據(jù)時(shí),不能有效利用其結(jié)構(gòu) 特點(diǎn)進(jìn)行優(yōu)化.我們的方法針對這類數(shù)據(jù)的稀疏性,以及知識數(shù)據(jù)層與層之間只有一類謂語這一特點(diǎn), 降低了索引矩陣的存儲維度.

    基于圖模型的查詢系統(tǒng)則是將SPARQL查詢處理轉(zhuǎn)換為子圖匹配問題,能夠?qū)DF數(shù)據(jù)中的語 義信息進(jìn)行保留和查詢.gStore[5]通過將謂語編碼成二進(jìn)制串并構(gòu)建VS*-tree來輔助查詢,查詢處理 性能較關(guān)系型查詢系統(tǒng)要高效.Kim等[10]在RDF數(shù)據(jù)圖上結(jié)合深度優(yōu)先和廣度優(yōu)先算法得到SPARQL 查詢點(diǎn)的候選區(qū)域,并按照一定的匹配順序找到查詢的最終解.AMBER[6]則是將RDF數(shù)據(jù)和 SPARQL查詢表示成多圖,雖然復(fù)雜查詢中的表現(xiàn)優(yōu)于基于關(guān)系的系統(tǒng),但幾乎不可擴(kuò)展.Zouaghi等 提出了一種基于圖的RDF管理系統(tǒng)的優(yōu)化策略,利用關(guān)系數(shù)據(jù)庫的優(yōu)勢來描述圖查詢的邏輯結(jié)構(gòu)[11]. Manolescu提出了一種結(jié)構(gòu)化的遍歷策略,通過尋找相似結(jié)構(gòu)的節(jié)點(diǎn)組來搜索RDF圖[12].這類基于圖 模型的方法主要采用子圖同構(gòu)算法來完成查詢,避免了連接操作.但由于缺乏并行性,這類查詢系統(tǒng) 計(jì)算量都比較大,頻繁的遍歷操作造成了大量耗時(shí).而我們針對存儲結(jié)構(gòu)設(shè)計(jì)了可以并行執(zhí)行連接操 作的方法,可有效降低查詢耗時(shí).

    近幾年,利用新型硬件(特別是GPU)來加速RDF數(shù)據(jù)的查詢是一個(gè)研究的熱點(diǎn).MapSQ[13]是一 個(gè)基于MapReduce的SPARQL查詢處理框架,它首先通過CPU完成SPARQL子查詢,然后利用 GPU執(zhí)行子查詢結(jié)果的連接操作.Tran等人將查詢計(jì)劃轉(zhuǎn)化為一系列有利于GPU計(jì)算的原語操作 (如排序、歸并等)|14]. TripleID-Q叫將編碼后的RDF三元組裝載到GPU的全局內(nèi)存中,通過大量 GPU線程并行搜索需要的主體、謂詞和客體.然而,RDF數(shù)據(jù)圖的規(guī)模不斷增大導(dǎo)致查詢性能逐漸 降低,并且可拓展性變差.gSMat|16]則使用基于謂語的索引矩陣來存儲數(shù)據(jù),但是在連接查詢的過程 中需要借助輔助數(shù)組來完成查詢,而且無法用于缺失謂語的SPARQL查詢.Wukong+G[1M吏用GPU 的高并行性和大內(nèi)存帶寬來加速處理具有大量中間結(jié)果的SPARQL查詢.MAGiQ |18]則是使用矩陣 來處理異構(gòu)環(huán)境下的SPARQL查詢,但是由于該方法是構(gòu)建了一個(gè)由所有實(shí)體組成的二維矩陣,在 面對稀疏性比較大且具有層次化結(jié)構(gòu)的知識圖譜時(shí),這種存儲方式會造成大量的空間浪費(fèi),而我們的 方法則是依據(jù)謂語來劃分RDF數(shù)據(jù),從而減少單個(gè)矩陣的大小,并且構(gòu)建每個(gè)謂語索引矩陣的實(shí)體 只與對應(yīng)的謂語相關(guān).

    2系統(tǒng)的整體架構(gòu)

    本文所設(shè)計(jì)的面向大規(guī)模商品知識的查詢系統(tǒng)的整體架構(gòu)如圖2所示,該系統(tǒng)主要分為3個(gè)層 次,其核心功能主要在系統(tǒng)層.其中對于商品知識數(shù)據(jù)構(gòu)建過程的主要模塊是:RDF解析器、矩陣構(gòu) 建器,而商品知識數(shù)據(jù)檢索過程的主要模塊是:SPARQL解析器、查詢處理器.此外,還有一個(gè)提供數(shù) 據(jù)持久性的RDF矩陣和映射字典模塊.

    (1)RDF解析器:負(fù)責(zé)處理商品知識RDF數(shù)據(jù)文件,并對其中的主語、賓語及謂語構(gòu)建與ID值 的雙向映射.原生三元組和ID形式的三元組集合都將保存于映射字典中;

    (2)矩陣構(gòu)建器:主要將RDF解析器中得到的ID形式的三元組集合構(gòu)建稀疏矩陣.依據(jù)謂語索 引來構(gòu)建0/1矩陣,行列標(biāo)簽分別為三元組的主語和賓語.實(shí)現(xiàn)細(xì)節(jié)可見第3章;

    (3)SPARQL解析器:該模塊解析輸入的SPARQL查詢語句,并對查詢語句進(jìn)行預(yù)處理,以便查 詢處理器執(zhí)行查詢;

    ⑷查詢處理器:負(fù)責(zé)處理SPARQL查詢?nèi)蝿?wù),主要分為CPU計(jì)算與CPU-GPU計(jì)算兩種查詢模 式.具體實(shí)現(xiàn)細(xì)節(jié)見第4章;

    (5) RDF矩陣及映射字典:當(dāng)商品知識圖譜數(shù)據(jù)有所更新時(shí),如增加、刪除等操作,將更新后的三 重映射關(guān)系以及稀疏矩陣進(jìn)行同步更新和迭代,以保證全部RDF數(shù)據(jù)的完整性.

    在接下來的章節(jié)中,我們將主要介紹矩陣構(gòu)建器模塊和查詢處理器模塊的實(shí)現(xiàn)細(xì)節(jié),即基于稀疏 矩陣的知識表示方法以及基于稀疏矩陣的查詢轉(zhuǎn)換與處理.

    3基于稀疏矩陣的商品知識表示

    由于互聯(lián)網(wǎng)上的商品知識數(shù)據(jù)大多以非結(jié)構(gòu)化的形式存在,且這些數(shù)據(jù)具有一定的數(shù)據(jù)異質(zhì)性 與冗雜性,這使得統(tǒng)一管理難度較大.因此,本文是在文獻(xiàn)[7]所設(shè)計(jì)的商品知識組織結(jié)構(gòu)的基礎(chǔ)上, 對商品數(shù)據(jù)集的存儲策略以及查詢優(yōu)化進(jìn)行研究,通過分層的方式聚集同類型的數(shù)據(jù),這有利于商品 知識數(shù)據(jù)的維護(hù)、檢索以及推薦等.如圖1所示,商品知識的實(shí)例片段大體上可以分為這幾層結(jié)構(gòu):商 品分類層、商品實(shí)例層、商品屬性層、用戶觀點(diǎn)層、用戶層等,并根據(jù)不同層與層之間的關(guān)系,使用相 對應(yīng)的謂語進(jìn)行聯(lián)系.

    基于商品知識這類具有層次化組織結(jié)構(gòu)的知識圖譜,我們考慮使用稀疏矩陣進(jìn)行知識表示.在讀 取完RDF數(shù)據(jù)后,我們?yōu)槿M中的實(shí)體(主語、賓語)與關(guān)系(謂語)構(gòu)建了與數(shù)字ID的雙向映射, 從而將操作從字符串三元組轉(zhuǎn)換為數(shù)字三元組,減少存儲空間的同時(shí)也降低了數(shù)據(jù)I/O的耗時(shí).商品 知識表示的轉(zhuǎn)換過程如圖3所示.

    用S、P、O分別表示主語、謂語、賓語,將經(jīng)過數(shù)字編碼后的三元組按照S、P、O三個(gè)維度構(gòu)建 一個(gè)知識數(shù)據(jù)立方體,如圖3(a)所示.整個(gè)數(shù)據(jù)立方體的數(shù)值用0/1表示,假設(shè)存在編碼后的三元組 (?巧,Ofc),則該三元組在數(shù)據(jù)立方體中的值為1;否則對應(yīng)位置的值為0.

    假設(shè)有一個(gè)查詢?nèi)M,通過索引Pi和巧即可以在數(shù)據(jù)立方體中定位到查詢變量?^的 值.但是由于RDF數(shù)據(jù)集稀疏性較大,而且實(shí)體的數(shù)量會遠(yuǎn)多于關(guān)系的數(shù)量,這將導(dǎo)致存儲數(shù)據(jù)立方 體的空間過大,因此需要將數(shù)據(jù)立方體進(jìn)一步切分來優(yōu)化存儲效率.在優(yōu)化的過程中,還需要考慮如 何使得存儲的結(jié)構(gòu)有利于連接查詢操作.基于圖模型的查詢處理主要利用基本圖模式匹配(Basic Graph Pattern)的思想,也就是基于子圖匹配來完成查詢處理,其特點(diǎn)主要是對每條查詢?nèi)M的實(shí) 體進(jìn)行連接,形成一個(gè)查詢圖,從而在整個(gè)RDF數(shù)據(jù)形成的數(shù)據(jù)圖中找到匹配的查詢子圖.這說明在 進(jìn)行連接查詢時(shí)其本質(zhì)是對查詢實(shí)體的連接,因此數(shù)據(jù)立方體的切分應(yīng)當(dāng)按照謂語(即維度P)進(jìn)行 切分,從而保留主語和賓語的維度以便進(jìn)行實(shí)體的連接,如圖3(b)所示.數(shù)據(jù)降維后形成謂語索引的 S-O矩陣,對于RDF三元組(?巧,O&)的查詢,可以通過索引謂語巧對應(yīng)的S-O矩陣并定位到(?ofc) 來確定該三元組是否存在,從而保證降維后的三元組查詢?nèi)匀痪哂懈咝?,如圖3(c)所示.

    此外,在本文的存儲方案中,以0/1的矩陣值來表示實(shí)體之間是否存在某一關(guān)系,如圖3(d)所示. 主語和賓語同為查詢實(shí)體,具有相似的屬性,因此在進(jìn)行數(shù)字編碼時(shí)將兩者歸在一塊進(jìn)行處理,這也 是常見存儲方法的處理思路.假設(shè)整個(gè)數(shù)據(jù)集的實(shí)體數(shù)量為Mo,謂語數(shù)量為飾,則數(shù)據(jù)降維后的空 間復(fù)雜度為O(飾· ^1。).這相比于原始的數(shù)據(jù)立方體的存儲效率雖然有提高,但是存儲空間并沒有降 低.一種比較直接的優(yōu)化思路是將主語和賓語進(jìn)行拆分,考慮商品知識具有層次化的組織結(jié)構(gòu)特點(diǎn), 這類知識圖譜的特點(diǎn)是層與層之間的實(shí)體通過同一類型的有向邊進(jìn)行連接.因此,與一個(gè)謂語相關(guān)性 比較強(qiáng)的應(yīng)當(dāng)是相鄰層的實(shí)體.對于謂語索引的S-O矩陣,可以利用這一特點(diǎn)進(jìn)行降維.單個(gè)S-O矩 陣的維度由原來的W|O更改為M · Wo,即維度大小由與這一謂語相關(guān)性更強(qiáng)的主語和賓語決定,而不 是全部實(shí)體.

    舉例來說,根據(jù)圖1中的謂語hasAttribute和謂語hasOpinion構(gòu)建對應(yīng)的謂語索引矩陣如圖4所 示.圖4(a)將所有商品和屬性實(shí)體用關(guān)系hasAttribute進(jìn)行匯總和索弓丨,比如商品P1具有A1和A2 屬性,商品P2具有A3和A4屬性;圖4(b)則是將屬性和用戶觀點(diǎn)實(shí)體用關(guān)系hasOpinion進(jìn)行匯總和 索引,描述的是對于某一屬性有哪些用戶的觀點(diǎn).矩陣的橫軸將由該關(guān)系所有的主語表示,縱軸由該 關(guān)系所有的賓語表示,并可以通過矩陣轉(zhuǎn)置調(diào)換主語與賓語的位置關(guān)系.這種表示方式能夠很好地利 用商品知識圖譜的層次化結(jié)構(gòu)特點(diǎn),從而有效地降低存儲空間.

    4基于稀疏矩陣的查詢轉(zhuǎn)換

    本章主要介紹基于稀疏矩陣的知識表示方法的查詢處理,將按照3個(gè)部分進(jìn)行介紹:查詢處理、 查詢預(yù)處理、基于GPU的查詢優(yōu)化.

    4.1 查詢處理

    對于簡單查詢、不涉及連接查詢的情況,可以直接通過查詢?nèi)M已知的元素來匹配查詢變量. 對于有謂語的查詢,則可以直接通過謂語索引到對應(yīng)的S-O矩陣,從而直接匹配到需要查詢的變量. 例如,假設(shè) SPARQL 查詢語句為 “SELECT ?x WHERE {P1 < hasAttribute > ?x.}”,即查詢商品 P1 的所有屬性,則可以直接對謂語hasAttribute矩陣進(jìn)行操作,通過定位到P1所在的列向量,所有標(biāo)識 為1的屬性都為商品P1的屬性.簡單查詢的轉(zhuǎn)換過程如圖5所示,最終商品P1具有的屬性有A1和A2.而對于未給定的謂語的查詢,可以遍歷謂語索引矩陣,通過判斷是否含有符合要求的主語/賓語來 確定最終要查詢的謂語是什么,遍歷謂語索引矩陣的時(shí)間復(fù)雜度為O(飾),其中飾為謂語的數(shù)量.

    然而在真實(shí)的查詢處理過程中,連接是復(fù)雜查詢的核心操作.由于謂語索引矩陣的行和列分別由 主語和賓語構(gòu)成且值為0或1,其中1表示某個(gè)主語與賓語所對應(yīng)的實(shí)體存在謂語所對應(yīng)的關(guān)系,0則 表示不存在.通常,矩陣相乘類似于一種連接過程,但矩陣相乘與連接查詢有一個(gè)本質(zhì)的不同,即查詢 過程存在語義的轉(zhuǎn)換,不同的語義查詢結(jié)果不能進(jìn)行合并,而矩陣相乘則會將行和列的值相乘后直接 相加,因此無法保存謂語索引矩陣中的語義關(guān)系.但可以從這種連接過程中得到啟發(fā),具有相同連接 變量的查詢?nèi)M,或者說具有相同連接實(shí)體的索引矩陣,可以按照對應(yīng)實(shí)體的維度進(jìn)行對齊,并對 相應(yīng)行/列的元素進(jìn)行位與操作.

    為此,我們定義一種矩陣操作?,該運(yùn)算的含義為:在進(jìn)行矩陣維度的對齊后,進(jìn)行行列掃描的過 程中將對應(yīng)位置的每個(gè)元素進(jìn)行位與操作;即當(dāng)兩個(gè)謂語索引矩陣需要進(jìn)行連接運(yùn)算時(shí),當(dāng)且僅當(dāng)兩 個(gè)矩陣需要連接的三元組的對應(yīng)位置為i時(shí),兩個(gè)三元組的存在關(guān)系才能進(jìn)行傳遞,表現(xiàn)為結(jié)果矩陣 中的值也為1.例如,對于存在連接操作的SPARQL查詢“ SELECT ?yWHERE{?x?y. P1 < hasAttribute >?x.} ”,該查詢的含義為“查詢用戶對商品P1所有的屬性有哪些觀點(diǎn)?”,如圖6所 示.“ ?x < hasOpinion >?y. ”所對應(yīng)的索引矩陣為hasOpinion矩陣,而hasAttribute矩陣則為“ P1 < hasAttribute >?x. ”的查詢結(jié)果.通過將需要進(jìn)行連接的實(shí)體的維度進(jìn)行對齊,對應(yīng)行列元素的對應(yīng)值 進(jìn)行位與運(yùn)算,可以得到最終的結(jié)果矩陣.由圖6可知,商品P1具有01、02、03和04共4種觀點(diǎn).

    4.2查詢預(yù)處理

    由4.1節(jié)對復(fù)雜查詢運(yùn)算的介紹可知,查詢?nèi)M的排列順序?qū)Σ樵冋Z句能否按順序執(zhí)行構(gòu)成直 接影響.因此,在執(zhí)行查詢之前還需要對查詢進(jìn)行預(yù)處理,即構(gòu)思一種查詢?nèi)M的重排列方案,使得 在連續(xù)執(zhí)行連接查詢時(shí),盡可能保證查詢?nèi)M之間存在可以連接的實(shí)體.

    對于本文所研究的商品知識圖譜,或者說這類具有層次化組織結(jié)構(gòu)的知識圖譜,根據(jù)圖1所示的商品知識表示實(shí)例可知,在讀取原始三元組數(shù)據(jù)時(shí),可以依照謂語關(guān)系按照層與層之間分布的這一特 點(diǎn),在構(gòu)建謂語與數(shù)字ID的雙向映射的過程中,保留謂語ID按順序排列的規(guī)則,即按照謂語出現(xiàn)的 層次順序從上往下(或者從下往上)去存儲.根據(jù)這種謂語的排列規(guī)則,兩兩相鄰的謂語索引矩陣一定 存在相連接的實(shí)體.

    根據(jù)這一謂語存儲規(guī)則,在進(jìn)行查詢預(yù)處理時(shí),依據(jù)謂語映射過來的數(shù)字ID的順序可以對查詢 三元組進(jìn)行重排列,從而保證在進(jìn)行實(shí)際的查詢過程中連接查詢執(zhí)行的連貫性,即連續(xù)執(zhí)行連接查詢 不會出現(xiàn)中斷的情況.如果重排后發(fā)現(xiàn)查詢?nèi)M的實(shí)體存在不連續(xù)的情況,則說明該查詢語句不存 在連接查詢,從而可以判斷該查詢?yōu)楹唵尾樵儯瑸橹蟮牟樵儍?yōu)化做準(zhǔn)備.

    4.3基于GPU的查詢優(yōu)化

    通常而言,矩陣運(yùn)算這種數(shù)據(jù)密集型的運(yùn)算十分適合使用并行的方式進(jìn)行處理,因此對于矩陣的 索引以及基于矩陣的連接查詢也自然適合使用GPU進(jìn)行加速運(yùn)算.經(jīng)過查詢?nèi)M重排后,可以保 證對于需要連續(xù)執(zhí)行的連接查詢存在可以進(jìn)行相連接的實(shí)體.SPARQL查詢由多個(gè)子查詢?nèi)M構(gòu) 成,因此對于每條查詢?nèi)M,在對應(yīng)的謂語索引矩陣中的查詢也可以使用并行的方式加速計(jì)算.而 對基于矩陣的連接查詢,使用并行計(jì)算的方式也可以大大降低整個(gè)查詢的計(jì)算耗時(shí).對基于GPU的 查詢優(yōu)化采用如下幾個(gè)步驟:

    1.將每條查詢?nèi)M要查詢的索引矩陣傳輸?shù)紾PU中,使用并行方式計(jì)算各查詢的結(jié)果,并將 每條查詢?nèi)M的查詢結(jié)果放入全局內(nèi)存中,盡可能降低數(shù)據(jù)傳輸耗時(shí);

    2.在執(zhí)行連接查詢時(shí),依據(jù)重排后的查詢?nèi)M順序,依次對每條查詢?nèi)M的查詢結(jié)果執(zhí)行連 接運(yùn)算,直到所有查詢被執(zhí)行完并得到最終的查詢結(jié)果.每次連接查詢后得到的結(jié)果矩陣大小由輸入 矩陣的行/列決定.由于連接查詢的中間結(jié)果會被頻繁讀寫,所以每次得到的中間結(jié)果也會放入全局 內(nèi)存中,但是上一次的查詢中間結(jié)果會在下一次查詢計(jì)算完成后被覆蓋,這是為了盡量減少GPU 內(nèi)存的占用.此外,在執(zhí)行連接查詢的過程中,隨著查詢條件的增多,本質(zhì)上是對查詢變量限制條件的 增加,因此中間結(jié)果的大小不會隨著查詢的增多而導(dǎo)致維度的增加;

    3.將最終的計(jì)算結(jié)果傳輸回CPU中,并將查詢變量對應(yīng)的值作為最終的查詢結(jié)果進(jìn)行輸出. 根據(jù)以上的查詢步驟,我們期望在整個(gè)查詢過程中充分利用GPU的并行性能,并盡量減少數(shù)據(jù)傳輸耗時(shí).

    5實(shí) 驗(yàn)

    本章主要是評估我們的查詢系統(tǒng)在標(biāo)準(zhǔn)數(shù)據(jù)集和商品知識數(shù)據(jù)集上的查詢性能.我們的方法主 要是針對具有層次化結(jié)構(gòu)的知識圖譜進(jìn)行了優(yōu)化,但與此同時(shí),也驗(yàn)證了我們的方法對于通用的知識 數(shù)據(jù)具有適用性.

    5.1實(shí)驗(yàn)環(huán)境

    實(shí)驗(yàn)的硬件環(huán)境為單臺Intel(R) Core(TM) i7-8700 @ 3.20GHz的計(jì)算機(jī),擁有16 GB DDR3內(nèi)存 和 1 TB 普通硬盤,其中 CPU 型號為 3.20 GHz, GPU 型號為 NVIDIA GeForce GTX 1060 (1280SIMD, 6 GB顯存),操作系統(tǒng)為Ubuntu 18.04 (64位),CUDA版本為9.0,使用C++11作為開發(fā)環(huán)境.此外, 為了增強(qiáng)實(shí)驗(yàn)結(jié)果的可靠性,對每輪的查詢實(shí)驗(yàn)執(zhí)行10次并將查詢耗時(shí)取平均作為實(shí)驗(yàn)結(jié)果.

    5.2標(biāo)準(zhǔn)數(shù)據(jù)集LUBM上的實(shí)驗(yàn)對比和討論

    為了驗(yàn)證基于稀疏矩陣的查詢轉(zhuǎn)換方式的有效性,實(shí)驗(yàn)對比采用了 6種不同數(shù)據(jù)量的LUBM數(shù) 據(jù)集(http://swat.cse.lehigh.edu/projects/lubm/),并使用該數(shù)據(jù)集自帶的標(biāo)準(zhǔn)SPARQL查詢語句進(jìn)

    行驗(yàn)證.這6個(gè)數(shù)據(jù)集的一些統(tǒng)計(jì)信息如表1所示.

    LUBM數(shù)據(jù)集自帶的6個(gè)標(biāo)準(zhǔn)SPARQL查詢語句為Q1到Q6,對于我們的方法分別記錄了 CPU 下和CPU-GPU協(xié)同下的查詢響應(yīng)時(shí)間,主要是為了驗(yàn)證我們的查詢方法在標(biāo)準(zhǔn)數(shù)據(jù)集上的適用性. 實(shí)驗(yàn)結(jié)果如表2所示.

    其中 Q1 為一個(gè)簡單的查詢(SELECT ?x WHERE {?x .}).該查詢 在CPU模式下可以直接通過在矩陣中索引符合匹配條件的三元組,而在GPU中匹配符合要求的三 元組的過程中,數(shù)據(jù)傳輸?shù)膿p耗占據(jù)了整個(gè)查詢耗時(shí)的主要部分,因此Q1查詢在CPU-GPU異構(gòu)環(huán) 境下耗時(shí)較多.結(jié)合表1中各LUBM數(shù)據(jù)集的信息可知,當(dāng)數(shù)據(jù)量較少(LUBM1、LUBM2、LUBM(4) 時(shí),CPU-GPU異構(gòu)下的單條三元組查詢,其傳輸耗時(shí)占整個(gè)查詢耗時(shí)的比重較大,因此這種情況下 稍慢于CPU下的查詢.而當(dāng)數(shù)據(jù)量足夠大時(shí),雖然數(shù)據(jù)傳輸耗時(shí)也稍有增加,但CPU-GPU異構(gòu)環(huán)境 下的查詢效率要遠(yuǎn)高于CPU下的查詢,因此對于LUBM8、LUBM16、LUBM32下的Q1查詢,CPU- GPU異構(gòu)環(huán)境下的查詢比CPU查詢快.而隨著數(shù)據(jù)集規(guī)模逐漸增大以及查詢的復(fù)雜度逐漸增加,連 接查詢成了主要的查詢,使用CPU-GPU異構(gòu)環(huán)境下查詢性能相較于CPU查詢有了明顯的提升.

    5.3商品知識數(shù)據(jù)集上的實(shí)驗(yàn)對比和討論

    根據(jù)目前大多數(shù)電子商務(wù)網(wǎng)站中商品的組織,從Amazon上獲取了商品的分類信息構(gòu)建成商品知 識圖譜中的商品分類層次,并將人工合成用戶的觀點(diǎn)信息整合到商品知識圖譜中.每個(gè)用戶遵從正態(tài) 分布隨機(jī)挑選商品并發(fā)表評論,而用戶評論中隨機(jī)數(shù)量的觀點(diǎn)知識也同樣符合正態(tài)概率分布,該數(shù)據(jù) 集的一些統(tǒng)計(jì)信息如表3所示.

    針對商品數(shù)據(jù)集,設(shè)計(jì)了 3個(gè)SPARQL查詢語句,如表4所示,其中Q7為遍歷式查詢,Q8為鏈 式查詢,Q9為環(huán)式查詢.

    在具有層次化結(jié)構(gòu)的商品知識圖譜上與常用的知識圖譜查詢系統(tǒng)RDF-3X和gStore進(jìn)行對比, 其中設(shè)計(jì)的各查詢語句在數(shù)據(jù)集AmazonDataset1、AmazonDataset2、AmazonDataset3上的運(yùn)行時(shí)間 結(jié)果如表5所示.

    實(shí)驗(yàn)結(jié)果顯示,在三類商品知識數(shù)據(jù)的查詢中,得益于CPU-GPU異構(gòu)環(huán)境下的計(jì)算優(yōu)勢,我們 方法的平均查詢時(shí)間比RDF-3X和gStore的平均查詢時(shí)間短.即使是簡單查詢語句Q7,由于數(shù)據(jù)量 足夠大,所以查詢性能的優(yōu)越性也得以體現(xiàn);而且隨著數(shù)據(jù)量和查詢復(fù)雜度的進(jìn)一步提升,我們提出 方法的查詢效率提升也更加明顯.

    6總結(jié)

    知識圖譜已經(jīng)成為眾多智能應(yīng)用的基礎(chǔ)支持設(shè)施,面向大規(guī)模的知識數(shù)據(jù)提供高效的查詢處理 是一個(gè)重要的問題.商品知識具有層次化結(jié)構(gòu)的特點(diǎn),現(xiàn)有的RDF知識查詢系統(tǒng)在查詢處理過程中 并沒有充分考慮這種特點(diǎn).本文針對大規(guī)模的商品知識圖譜,提出了一種基于矩陣的存儲方式,并依據(jù)層次化的組織結(jié)構(gòu)特點(diǎn)進(jìn)行了存儲優(yōu)化.同時(shí),基于矩陣的存儲方式有利于使用并行方式加速查詢 的計(jì)算過程,本文設(shè)計(jì)了一種基于稀疏矩陣的查詢轉(zhuǎn)換方式,并將連接查詢算法擴(kuò)展到GPU上進(jìn)行 加速.我們與常用的RDF查詢引擎RDF-3X和gStore在標(biāo)準(zhǔn)數(shù)據(jù)集和商品知識數(shù)據(jù)集上進(jìn)行了查詢 性能對比.實(shí)驗(yàn)表明,文中提出的查詢處理方法在大規(guī)模商品知識圖譜上相對于對比方法具有較明顯 的優(yōu)勢,同時(shí)在標(biāo)準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)表明,提出的查詢處理方法也適用于通用知識數(shù)據(jù)的處理,并驗(yàn) 證了通過GPU提升大規(guī)模知識查詢處理效率的可行性.

    然而,GPU內(nèi)存的大小仍然是制約其并行計(jì)算性能的主要因素.因此,在未來的工作中我們將針 對這一問題進(jìn)一步優(yōu)化存儲結(jié)構(gòu),并且針對更大數(shù)據(jù)量的商品知識查詢需求,還將研究在分布式環(huán)境 中CPU-GPU協(xié)同的知識查詢處理.

    [參考文獻(xiàn)]

    [1]陳強(qiáng),代仕婭.基于金融知識圖譜的會計(jì)欺詐風(fēng)險(xiǎn)識別[J].大數(shù)據(jù),2021, 7(3): 116-129.

    [2]TAKEDA A, ITO Y. A review of FinTech research [J]. International Journal of Technology Management, 2021, 86(1): 67-88.

    [3 ] LEE K, LIU L. Scaling queries over big RDF graphs with semantic hash partitioning [J]. Proceedings of the VLDB Endowment, 2013, 6(1(4): 1894-1905.

    [4]NEUMANN T, WEIKUM G. The RDF-3X engine for scalable management of RDF data [J]. The VLDB Journal, 2010, 19(1): 91-113.

    [5]ZOU L, OZSU M T, CHEN L, et al. gStore: A graph-based SPARQL query engine [J]. The VLDB Journal, 2014, 23(4): 565-590.

    [6]INGALALLI V, IENCO D, PONCELET P, et al. Querying RDF data using a multigraph-based approach [C]// International Conference on Extending Database Technology (EDBT 2016). 2016: 245-256.

    [7]黃濤貽,李優(yōu),未浩,等.大規(guī)模商品知識的組織和查詢優(yōu)化[J].計(jì)算機(jī)工程與應(yīng)用,2020, 56(2(1): 154-163.

    [8 ] SCHTZLE A, PRZYJACIEL-ZABLOCKI M, SKILEVIC S, et al. S2RDF: RDF querying with SPARQL on Spark [J]. Proceedings of the VLDB Endowment, 2016, 9(10): 804-815.

    [9]ATRE M, CHAOJI V, ZAKI M J, et al. Matrix Bit loaded: A scalable lightweight join query processor for RDF data [C]// Proceedings of the 19th International Conference on World Wide Web (WWW 2010). 2010: 41-50.

    [10]KIM J, SHIN H, HAN W S, et al. Taming subgraph isomorphism for RDF query processing [J]. Proceedings of the VLDB Endowment, 2015, 8(1(1): 1238-1249.

    [11]ZOUAGHI I, MESMOUDI A, GALICIA J, et al. Query optimization for large scale clustered RDF data [C]// Proceedings of the 22nd International Workshop on Design, Optimization, Languages and Analytical Processing of Big Data. 2020: 56-65.

    [12]MANOLESCU I. Exploring RDF graphs through summarization and analytic query discovery [C] // Proceedings of the 22nd International Workshop On Design, Optimization, Languages and Analytical Processing of Big Data. 2020: 1-5.

    [13]SONG J, PENG P, FENG Z, et al. MapSQ: A plugin-based MapReduce framework for SPARQL queries on GPU [C]// WWW18 Companion. 2018: 81-82.

    [14]TRAN H N, CAMBRIA E, DO H G. Efficient semantic search over structured web data: A GPU approach [C]// International Conference on Computational Linguistics and Intelligent Text Processing (CICLing 2017). 2017: 549-562.

    [15]CHANTRAPORNCHAI C, CHOKSUCHAT C. TripleID-Q: RDF query processing framework using GPU [J]. IEEE Transactions on Parallel and Distributed Systems, 2018, 29(9): 2121-2135.

    [16]ZHANG X, ZHANG M, PENG P, et al. A scalable sparse matrix-based join for SPARQL query processing [C] // International Conference on Database Systems for Advanced Applications (DASFAA 2019). 2019: 510-514.

    [17]WANG S, LOU C, CHEN R, et al. Fast and concurrent RDF queries using RDMA-assisted GPU graph exploration [C]// Proceedings of the 2018 USENIX Conference on Usenix Annual Technical Conference (USENIX ATC18). 2018: 651-664.

    [18]JAMOUR F, ABDELAZIZ I, CHEN Y, et al. Matrix algebra framework for portable, scalable and efficient query engines for RDF graphs [C]// Proceedings of the Fourteenth EuroSys Conference. 2019: 1-15.

    (責(zé)任編輯:林晶)

    777米奇影视久久| 韩国av在线不卡| 18禁动态无遮挡网站| 久久婷婷青草| 美女脱内裤让男人舔精品视频| 最新中文字幕久久久久| 精品久久久久久久久av| 一本一本综合久久| 久久久久久久久久久丰满| 人妻一区二区av| 一级,二级,三级黄色视频| 美女国产视频在线观看| 亚洲综合精品二区| 一级爰片在线观看| 三级国产精品欧美在线观看| 亚洲内射少妇av| 久久国内精品自在自线图片| 一级爰片在线观看| 男的添女的下面高潮视频| 免费不卡的大黄色大毛片视频在线观看| 卡戴珊不雅视频在线播放| a级毛色黄片| 亚洲人成网站在线观看播放| 久久久午夜欧美精品| 国产精品免费大片| 成年人午夜在线观看视频| 精品亚洲成国产av| 人人妻人人澡人人爽人人夜夜| 婷婷色综合大香蕉| 久久久久久久精品精品| 最近2019中文字幕mv第一页| 成年女人在线观看亚洲视频| 成人亚洲欧美一区二区av| 看非洲黑人一级黄片| 观看美女的网站| 国产精品国产三级国产专区5o| 人妻 亚洲 视频| 寂寞人妻少妇视频99o| 我的女老师完整版在线观看| 性色avwww在线观看| 黑人巨大精品欧美一区二区蜜桃 | 免费黄网站久久成人精品| av在线app专区| 亚洲国产精品专区欧美| 男女边摸边吃奶| 亚洲熟女精品中文字幕| 在线观看三级黄色| 亚洲欧美日韩卡通动漫| 乱系列少妇在线播放| 香蕉精品网在线| 熟妇人妻不卡中文字幕| 国产日韩欧美亚洲二区| 午夜视频国产福利| 亚洲在久久综合| 黄色日韩在线| 男女免费视频国产| 男人舔奶头视频| av免费观看日本| 十分钟在线观看高清视频www | 美女xxoo啪啪120秒动态图| 一区二区三区四区激情视频| 欧美日韩av久久| 丝袜在线中文字幕| 一级毛片aaaaaa免费看小| 夫妻性生交免费视频一级片| 国产精品福利在线免费观看| 丰满人妻一区二区三区视频av| 高清不卡的av网站| 精品亚洲成国产av| 交换朋友夫妻互换小说| 我要看日韩黄色一级片| 三上悠亚av全集在线观看 | 亚洲精品国产av成人精品| videos熟女内射| 在线天堂最新版资源| 桃花免费在线播放| 亚洲综合精品二区| 国产午夜精品一二区理论片| 久久免费观看电影| a级毛片免费高清观看在线播放| 久久精品夜色国产| 午夜福利,免费看| 亚洲美女黄色视频免费看| 欧美日韩视频高清一区二区三区二| 欧美3d第一页| 黄色日韩在线| av又黄又爽大尺度在线免费看| 免费观看的影片在线观看| 在线观看一区二区三区激情| 日日啪夜夜撸| 久久人人爽av亚洲精品天堂| 国产精品蜜桃在线观看| 熟女电影av网| 国产国拍精品亚洲av在线观看| 男人爽女人下面视频在线观看| 国产淫语在线视频| 久久热精品热| .国产精品久久| 亚洲天堂av无毛| 视频中文字幕在线观看| 伊人久久国产一区二区| 在线观看av片永久免费下载| 午夜免费鲁丝| 亚洲国产精品国产精品| 日韩欧美 国产精品| 又粗又硬又长又爽又黄的视频| 黄色毛片三级朝国网站 | av在线观看视频网站免费| 寂寞人妻少妇视频99o| 国产成人精品无人区| 在线观看av片永久免费下载| 九色成人免费人妻av| 精品国产乱码久久久久久小说| 国产成人91sexporn| 夫妻午夜视频| 99九九在线精品视频 | 黑丝袜美女国产一区| 亚洲欧美精品专区久久| 精品久久久久久久久av| 国语对白做爰xxxⅹ性视频网站| 亚洲精品中文字幕在线视频 | 成人毛片a级毛片在线播放| 国产欧美日韩综合在线一区二区 | 建设人人有责人人尽责人人享有的| 亚洲av成人精品一区久久| 欧美激情极品国产一区二区三区 | 97在线人人人人妻| 高清黄色对白视频在线免费看 | 国产欧美亚洲国产| 在线观看三级黄色| 一级黄片播放器| 亚洲在久久综合| 国产精品秋霞免费鲁丝片| 插阴视频在线观看视频| 亚洲国产精品999| 69精品国产乱码久久久| 一本久久精品| 久久亚洲国产成人精品v| av免费观看日本| 丰满少妇做爰视频| av视频免费观看在线观看| 国产精品成人在线| 亚洲四区av| 少妇的逼水好多| 黄片无遮挡物在线观看| 最近手机中文字幕大全| 国产伦理片在线播放av一区| 看非洲黑人一级黄片| 国产在视频线精品| 久久av网站| 国内揄拍国产精品人妻在线| 国产成人aa在线观看| 高清视频免费观看一区二区| 日本vs欧美在线观看视频 | 亚洲激情五月婷婷啪啪| 久久韩国三级中文字幕| a级一级毛片免费在线观看| 日日啪夜夜撸| 亚洲国产最新在线播放| 国产成人午夜福利电影在线观看| 日韩制服骚丝袜av| 99热6这里只有精品| 亚洲国产日韩一区二区| 日韩三级伦理在线观看| 另类精品久久| 成人免费观看视频高清| √禁漫天堂资源中文www| 国语对白做爰xxxⅹ性视频网站| 国产成人freesex在线| 午夜福利在线观看免费完整高清在| 精品国产乱码久久久久久小说| 久久99热这里只频精品6学生| 欧美丝袜亚洲另类| 免费看不卡的av| 寂寞人妻少妇视频99o| 久久久久精品久久久久真实原创| 色婷婷av一区二区三区视频| 最新中文字幕久久久久| 大片免费播放器 马上看| 国产一区有黄有色的免费视频| 日本黄大片高清| 大码成人一级视频| 国产黄片视频在线免费观看| 天堂俺去俺来也www色官网| 久久久久久久亚洲中文字幕| 国产av码专区亚洲av| www.色视频.com| 国产成人a∨麻豆精品| 一级av片app| 伊人久久精品亚洲午夜| 少妇人妻一区二区三区视频| 久久影院123| 久久久久网色| 久久久久久久大尺度免费视频| 男女无遮挡免费网站观看| 九九在线视频观看精品| 国产极品粉嫩免费观看在线 | 最新的欧美精品一区二区| av一本久久久久| 狂野欧美白嫩少妇大欣赏| a级一级毛片免费在线观看| av网站免费在线观看视频| 亚洲精品色激情综合| 插阴视频在线观看视频| 新久久久久国产一级毛片| 国产高清不卡午夜福利| 亚洲怡红院男人天堂| 午夜福利视频精品| 国产免费又黄又爽又色| 少妇丰满av| 国产精品一区www在线观看| 久久久久国产网址| 成人特级av手机在线观看| 三上悠亚av全集在线观看 | 免费看日本二区| 国产免费福利视频在线观看| 毛片一级片免费看久久久久| 熟女av电影| 菩萨蛮人人尽说江南好唐韦庄| 最近的中文字幕免费完整| 三级经典国产精品| 18禁在线播放成人免费| 精品人妻一区二区三区麻豆| 69精品国产乱码久久久| 狂野欧美激情性bbbbbb| 插逼视频在线观看| 色视频在线一区二区三区| 一个人免费看片子| 看非洲黑人一级黄片| 曰老女人黄片| 黑丝袜美女国产一区| 国产高清国产精品国产三级| 狂野欧美激情性bbbbbb| 亚洲欧美精品自产自拍| 热re99久久国产66热| 国产精品国产av在线观看| 日韩不卡一区二区三区视频在线| 亚洲av综合色区一区| 成年美女黄网站色视频大全免费 | 一级黄片播放器| 最近中文字幕2019免费版| 青春草亚洲视频在线观看| 中文在线观看免费www的网站| 欧美亚洲 丝袜 人妻 在线| 一本久久精品| 精品酒店卫生间| 日本猛色少妇xxxxx猛交久久| 狠狠精品人妻久久久久久综合| 国产女主播在线喷水免费视频网站| 亚洲色图综合在线观看| 日韩成人伦理影院| 九色成人免费人妻av| 亚洲精品乱码久久久v下载方式| 2022亚洲国产成人精品| av女优亚洲男人天堂| 国产精品一区二区三区四区免费观看| 久久影院123| 欧美一级a爱片免费观看看| 国产熟女午夜一区二区三区 | 欧美精品高潮呻吟av久久| 69精品国产乱码久久久| 麻豆乱淫一区二区| 两个人的视频大全免费| 亚洲国产最新在线播放| 日韩熟女老妇一区二区性免费视频| 国产亚洲午夜精品一区二区久久| av在线老鸭窝| 精品一区二区免费观看| 久热久热在线精品观看| 亚洲真实伦在线观看| 亚洲av免费高清在线观看| 国产在线免费精品| 男女国产视频网站| 国产伦精品一区二区三区四那| 亚洲伊人久久精品综合| 色视频www国产| 日韩熟女老妇一区二区性免费视频| 黑人猛操日本美女一级片| 亚洲精品一区蜜桃| 一区二区av电影网| 亚洲国产欧美日韩在线播放 | 日本黄色片子视频| 婷婷色麻豆天堂久久| 亚洲婷婷狠狠爱综合网| 伦精品一区二区三区| 国产精品免费大片| 大又大粗又爽又黄少妇毛片口| 一区二区av电影网| 精品99又大又爽又粗少妇毛片| 天天躁夜夜躁狠狠久久av| videossex国产| 日日摸夜夜添夜夜添av毛片| 大片电影免费在线观看免费| 亚洲精品国产av蜜桃| 亚洲精品乱码久久久久久按摩| 一本大道久久a久久精品| 九草在线视频观看| 校园人妻丝袜中文字幕| 80岁老熟妇乱子伦牲交| 自拍欧美九色日韩亚洲蝌蚪91 | 国产国拍精品亚洲av在线观看| 十八禁高潮呻吟视频 | 国产成人精品一,二区| 视频区图区小说| 一级av片app| 日韩一本色道免费dvd| 精品久久久精品久久久| 国产黄片美女视频| 亚洲,一卡二卡三卡| 欧美高清成人免费视频www| 777米奇影视久久| 中文字幕人妻熟人妻熟丝袜美| 欧美日韩精品成人综合77777| 亚洲精品第二区| 男的添女的下面高潮视频| 美女cb高潮喷水在线观看| 性高湖久久久久久久久免费观看| 啦啦啦中文免费视频观看日本| 欧美老熟妇乱子伦牲交| 成人影院久久| 国产在线男女| 高清av免费在线| 亚洲av成人精品一区久久| 国产在视频线精品| 国产在线免费精品| 91久久精品国产一区二区成人| 内射极品少妇av片p| 国产亚洲最大av| 国产一区有黄有色的免费视频| 精品久久久久久电影网| 黑人巨大精品欧美一区二区蜜桃 | 高清黄色对白视频在线免费看 | 亚洲精品久久久久久婷婷小说| 曰老女人黄片| 91久久精品电影网| 黄色视频在线播放观看不卡| 一级,二级,三级黄色视频| 曰老女人黄片| 久久久亚洲精品成人影院| 在现免费观看毛片| 日本黄大片高清| 我要看黄色一级片免费的| 成人亚洲欧美一区二区av| 国产高清有码在线观看视频| 久久鲁丝午夜福利片| 丰满迷人的少妇在线观看| 赤兔流量卡办理| √禁漫天堂资源中文www| 青春草视频在线免费观看| 各种免费的搞黄视频| 精品亚洲成a人片在线观看| 国内揄拍国产精品人妻在线| 99久久人妻综合| 国产精品秋霞免费鲁丝片| 精品99又大又爽又粗少妇毛片| 日韩中字成人| 午夜精品国产一区二区电影| 亚洲欧洲国产日韩| 久久久久久久久久久丰满| 草草在线视频免费看| 内地一区二区视频在线| 国产伦精品一区二区三区视频9| 亚洲美女搞黄在线观看| 久久精品国产自在天天线| 欧美日韩亚洲高清精品| 精品国产乱码久久久久久小说| 免费看日本二区| 一区在线观看完整版| 美女视频免费永久观看网站| 久久精品久久久久久噜噜老黄| 香蕉精品网在线| 婷婷色综合大香蕉| 亚洲图色成人| 国产成人91sexporn| 又爽又黄a免费视频| 亚洲国产精品专区欧美| 国产高清三级在线| xxx大片免费视频| 亚洲国产毛片av蜜桃av| 日韩三级伦理在线观看| 免费少妇av软件| 久久人人爽人人爽人人片va| 日韩欧美一区视频在线观看 | 亚洲国产精品999| 成人漫画全彩无遮挡| 蜜桃在线观看..| 中国国产av一级| 日韩成人伦理影院| 偷拍熟女少妇极品色| 欧美激情国产日韩精品一区| 日日摸夜夜添夜夜爱| 国产一区二区三区综合在线观看 | av又黄又爽大尺度在线免费看| 一个人免费看片子| 777米奇影视久久| 青春草视频在线免费观看| 2018国产大陆天天弄谢| a级一级毛片免费在线观看| 亚洲欧洲日产国产| 国产一区有黄有色的免费视频| 亚洲一级一片aⅴ在线观看| 亚洲国产精品国产精品| 中国三级夫妇交换| av在线老鸭窝| 国产亚洲午夜精品一区二区久久| 蜜桃在线观看..| 一级毛片久久久久久久久女| 免费大片黄手机在线观看| 啦啦啦视频在线资源免费观看| www.av在线官网国产| 久久 成人 亚洲| 亚洲中文av在线| 美女内射精品一级片tv| 永久网站在线| 免费黄色在线免费观看| 亚洲精品日韩av片在线观看| 免费黄网站久久成人精品| 日本wwww免费看| 精品亚洲乱码少妇综合久久| 大码成人一级视频| 国产成人午夜福利电影在线观看| 精品少妇久久久久久888优播| 精品酒店卫生间| 国产成人a∨麻豆精品| 国产高清不卡午夜福利| 久久久久网色| 一区二区三区精品91| 超碰97精品在线观看| 欧美bdsm另类| 涩涩av久久男人的天堂| 国产精品免费大片| av视频免费观看在线观看| 大陆偷拍与自拍| 国产精品女同一区二区软件| 久久久久久久亚洲中文字幕| 亚洲国产精品专区欧美| 精品一区二区三卡| 亚洲精品国产色婷婷电影| 亚洲,欧美,日韩| 91精品国产国语对白视频| 欧美区成人在线视频| 亚洲精品日本国产第一区| 亚洲精品自拍成人| 麻豆精品久久久久久蜜桃| 久久国产乱子免费精品| 十八禁高潮呻吟视频 | 在线播放无遮挡| 国产黄片视频在线免费观看| 99精国产麻豆久久婷婷| av女优亚洲男人天堂| 国产极品天堂在线| 成年av动漫网址| 一本—道久久a久久精品蜜桃钙片| 国产色婷婷99| 久久久久人妻精品一区果冻| 欧美激情极品国产一区二区三区 | 综合色丁香网| .国产精品久久| 色婷婷久久久亚洲欧美| 亚洲人与动物交配视频| 这个男人来自地球电影免费观看 | 少妇的逼水好多| 午夜免费鲁丝| 插逼视频在线观看| 狂野欧美白嫩少妇大欣赏| 如日韩欧美国产精品一区二区三区 | 丰满乱子伦码专区| 日韩,欧美,国产一区二区三区| videossex国产| 边亲边吃奶的免费视频| 一级av片app| 日本vs欧美在线观看视频 | 在线观看美女被高潮喷水网站| 国产精品一区二区三区四区免费观看| 婷婷色综合www| 久久久久久久久久久久大奶| 妹子高潮喷水视频| 99久久精品热视频| 精品一品国产午夜福利视频| 视频中文字幕在线观看| 在线天堂最新版资源| 最近2019中文字幕mv第一页| 日本午夜av视频| 精品亚洲成国产av| 狂野欧美激情性xxxx在线观看| 国产精品一区二区三区四区免费观看| 男人和女人高潮做爰伦理| 久久久亚洲精品成人影院| 男人狂女人下面高潮的视频| 日韩伦理黄色片| 国产在线一区二区三区精| 一边亲一边摸免费视频| 国产一区二区三区综合在线观看 | 久久99热这里只频精品6学生| 国产av精品麻豆| 黄色视频在线播放观看不卡| 日韩中字成人| 欧美97在线视频| 我要看日韩黄色一级片| av天堂中文字幕网| 熟女人妻精品中文字幕| 精品国产乱码久久久久久小说| 亚洲av成人精品一区久久| 中国国产av一级| 久久女婷五月综合色啪小说| 最近2019中文字幕mv第一页| 免费播放大片免费观看视频在线观看| 国产淫语在线视频| 国产av国产精品国产| 国产成人精品久久久久久| 国产亚洲一区二区精品| 我的女老师完整版在线观看| 熟女av电影| videossex国产| 亚洲精品乱码久久久久久按摩| 三上悠亚av全集在线观看 | 成人午夜精彩视频在线观看| 一二三四中文在线观看免费高清| 国产女主播在线喷水免费视频网站| 久久精品国产亚洲网站| 99热网站在线观看| 国产成人午夜福利电影在线观看| 亚洲婷婷狠狠爱综合网| 亚洲精品视频女| 久久精品国产亚洲av天美| 午夜激情久久久久久久| 伊人久久精品亚洲午夜| 色婷婷久久久亚洲欧美| 婷婷色综合大香蕉| 精品视频人人做人人爽| 日日摸夜夜添夜夜爱| 亚洲精品aⅴ在线观看| 欧美日韩亚洲高清精品| 高清av免费在线| 九草在线视频观看| 乱系列少妇在线播放| 免费播放大片免费观看视频在线观看| 国产欧美日韩精品一区二区| 少妇猛男粗大的猛烈进出视频| 亚洲av欧美aⅴ国产| 18禁动态无遮挡网站| 2018国产大陆天天弄谢| av有码第一页| 最近2019中文字幕mv第一页| 九九久久精品国产亚洲av麻豆| 久热这里只有精品99| 一区二区三区四区激情视频| 边亲边吃奶的免费视频| 成年av动漫网址| 欧美另类一区| 久久久久久久久久人人人人人人| 国产乱来视频区| 色婷婷av一区二区三区视频| 久久av网站| 国产亚洲精品久久久com| 午夜av观看不卡| 亚洲国产毛片av蜜桃av| 最近中文字幕高清免费大全6| 午夜福利网站1000一区二区三区| 女的被弄到高潮叫床怎么办| 国产亚洲91精品色在线| 亚洲中文av在线| 狂野欧美白嫩少妇大欣赏| 少妇人妻久久综合中文| 国产精品人妻久久久久久| 能在线免费看毛片的网站| 国产精品福利在线免费观看| 国产成人精品一,二区| av在线播放精品| 久久热精品热| 极品少妇高潮喷水抽搐| 人人澡人人妻人| 三级国产精品欧美在线观看| 精品99又大又爽又粗少妇毛片| 一级毛片电影观看| 九九在线视频观看精品| 国产无遮挡羞羞视频在线观看| 美女国产视频在线观看| 日韩电影二区| 美女xxoo啪啪120秒动态图| 国产av码专区亚洲av| 免费看日本二区| 亚洲一级一片aⅴ在线观看| 秋霞伦理黄片| 一级毛片久久久久久久久女| 午夜福利在线观看免费完整高清在| 18禁动态无遮挡网站| 欧美另类一区| 高清午夜精品一区二区三区| 如何舔出高潮| 成人特级av手机在线观看| 国产有黄有色有爽视频| 香蕉精品网在线| 欧美少妇被猛烈插入视频| 精品国产露脸久久av麻豆| 久热久热在线精品观看| 97在线视频观看| 亚洲成人av在线免费| 亚洲精品中文字幕在线视频 | 精品亚洲成a人片在线观看| 97在线视频观看| 日本黄色日本黄色录像| 好男人视频免费观看在线| 成人毛片60女人毛片免费| 麻豆精品久久久久久蜜桃| 成人国产麻豆网| 成人美女网站在线观看视频| 狂野欧美激情性xxxx在线观看| 亚洲在久久综合| 99九九在线精品视频 | 99九九在线精品视频 | 久久鲁丝午夜福利片| 91精品国产国语对白视频| av福利片在线观看| 在现免费观看毛片|