B_Link樹(shù)結(jié)構(gòu)的緩存機(jī)制在數(shù)據(jù)集成中的應(yīng)用

陳受凱，劉雅正

（暨南大學(xué) 計(jì)算機(jī)科學(xué)系，廣東 廣州 510632）

目前，在企業(yè)中由于開(kāi)發(fā)時(shí)間或開(kāi)發(fā)部門的不同，往往存在有多個(gè)異構(gòu)的在不同軟硬件平臺(tái)上的信息系統(tǒng)同時(shí)運(yùn)行，這些系統(tǒng)的數(shù)據(jù)源彼此獨(dú)立、相互封閉，使得數(shù)據(jù)難以在系統(tǒng)之間交流、共享和融合，從而形成了“信息孤島”問(wèn)題。如何對(duì)這些數(shù)據(jù)進(jìn)行有效的集成管理，屏蔽這些信息的異構(gòu)部分，并給上層用戶或應(yīng)用提供一個(gè)統(tǒng)一透明的訪問(wèn)接口，以透明的方式訪問(wèn)各信息源，成為當(dāng)今企業(yè)和組織所關(guān)心的問(wèn)題。數(shù)據(jù)集成也就是在這樣的情況下提出來(lái)的。

通過(guò)復(fù)制的方式，將各種異構(gòu)數(shù)據(jù)源中的數(shù)據(jù)抽取到一個(gè)統(tǒng)一的數(shù)據(jù)源中（如數(shù)據(jù)倉(cāng)庫(kù)），同時(shí)維護(hù)數(shù)據(jù)源整體上數(shù)據(jù)的一致性。該方式實(shí)現(xiàn)了對(duì)物理數(shù)據(jù)庫(kù)異構(gòu)的屏蔽和數(shù)據(jù)訪問(wèn)的控制，以便于提供一個(gè)統(tǒng)一的訪問(wèn)接口、提高訪問(wèn)效率和系統(tǒng)的獨(dú)立性。圖1是一個(gè)典型的基于數(shù)據(jù)復(fù)制方式建立的數(shù)據(jù)倉(cāng)庫(kù)體系結(jié)構(gòu)圖。

圖1 數(shù)據(jù)倉(cāng)庫(kù)體系結(jié)構(gòu)圖

此外，在把數(shù)據(jù)倉(cāng)庫(kù)應(yīng)用于數(shù)據(jù)集成時(shí)，還需解決如何應(yīng)對(duì)大量客戶端應(yīng)用程序?qū)?shù)據(jù)倉(cāng)庫(kù)進(jìn)行訪問(wèn)時(shí)能夠做出快速的響應(yīng)。但是一個(gè)數(shù)據(jù)庫(kù)的連接資源是有限的，大量的并發(fā)查詢操作必定會(huì)導(dǎo)致查詢效率的下降，導(dǎo)致客戶端應(yīng)用程序獲取數(shù)據(jù)的延遲時(shí)間大大增加。這樣的情況用戶是不想看到的，甚至有些對(duì)時(shí)間有一定限制的應(yīng)用因?yàn)椴荒芗皶r(shí)獲得所需的數(shù)據(jù)而無(wú)法正常工作而迫切需要解決這一問(wèn)題。出現(xiàn)這個(gè)問(wèn)題的原因是：由于連接數(shù)據(jù)庫(kù)是一件耗時(shí)的工作，而且一般數(shù)據(jù)庫(kù)服務(wù)器能同時(shí)提供的連接數(shù)也相當(dāng)有限，出現(xiàn)了性能瓶頸。解決這個(gè)問(wèn)題的有效方法可以通過(guò)將查詢過(guò)的數(shù)據(jù)緩存起來(lái)，若下次有同樣的查詢時(shí)則不需再連接數(shù)據(jù)庫(kù)，而是直接從緩存中獲得，這樣不但節(jié)省了連接數(shù)據(jù)庫(kù)的時(shí)間開(kāi)銷，而且省略了查詢數(shù)據(jù)庫(kù)所帶來(lái)的時(shí)間和資源的消耗。但是對(duì)于數(shù)據(jù)緩存的組織不能簡(jiǎn)單了事，必須得經(jīng)過(guò)精心的設(shè)計(jì)。為此，本文提出一種基于B_Link樹(shù)的方法來(lái)管理緩存。下面將詳細(xì)介紹如何組織和管理緩存。

1 數(shù)據(jù)緩存的體系結(jié)構(gòu)

無(wú)論多么強(qiáng)大的服務(wù)器，其內(nèi)存的數(shù)量都是有限的，故在考慮大數(shù)據(jù)量的緩存時(shí)，不可能將所有的數(shù)據(jù)都緩存在內(nèi)存中，而要考慮使用二級(jí)緩存?；贐_Link樹(shù)緩存總體結(jié)構(gòu)如圖2所示，為了解決內(nèi)存有限的問(wèn)題，采用了兩層緩存結(jié)構(gòu)，用一張哈希表將查詢與索引表對(duì)應(yīng)起來(lái)。若已經(jīng)建立了緩存，則對(duì)應(yīng)有一張緩存索引表，用于記錄數(shù)據(jù)記錄塊的位置（數(shù)據(jù)記錄塊是指把數(shù)據(jù)記錄打包成塊進(jìn)行保存和傳輸）。若數(shù)據(jù)在內(nèi)存中則直接取出發(fā)送給客戶端應(yīng)用程序即可，否則需通過(guò)關(guān)鍵詞去磁盤中獲取。磁盤中的緩存是基于B_Link樹(shù)組織起來(lái)的。

圖2 基于B_Link樹(shù)緩存總體結(jié)構(gòu)圖

2 B_Link樹(shù)的基本結(jié)構(gòu)和操作

2.1 數(shù)據(jù)結(jié)構(gòu)

B_Link樹(shù)是在B+樹(shù)的基礎(chǔ)上加以改進(jìn)的，主要添加了一個(gè)高值域和非葉子結(jié)點(diǎn)指向其右兄弟結(jié)點(diǎn)的Link指針。B_Link樹(shù)結(jié)構(gòu)如圖3所示，其中帶下劃線的表示高值域，主要用于提升并發(fā)操作的性能。Link指針可以使得每個(gè)結(jié)點(diǎn)至少可以有兩條路徑訪問(wèn)到，提高了查詢速度。

2.2 B_Link樹(shù)的查詢操作

B_Link樹(shù)的查詢操作是比較容易的，具體操作可查閱參考文獻(xiàn)[1]。其基本思路是：首先檢查根結(jié)點(diǎn)，找到大于查詢關(guān)鍵字V的最小搜索碼值 （假設(shè)搜索碼值為ki）；然后，順著指針pi到達(dá)另一個(gè)結(jié)點(diǎn)，如果查詢關(guān)鍵字比該結(jié)點(diǎn)所有關(guān)鍵字都大，則遍歷指針指向當(dāng)前結(jié)點(diǎn)的右兄弟結(jié)點(diǎn)，在達(dá)到最后一層葉子結(jié)點(diǎn)時(shí)，若找到則返回該結(jié)點(diǎn)，否則返回空。

圖3 B_Link樹(shù)結(jié)構(gòu)實(shí)例

2.3 B_Link樹(shù)的插入操作

B_Link樹(shù)的插入操作是一個(gè)比較復(fù)雜的過(guò)程，既要保證B_Link樹(shù)的基本結(jié)構(gòu)不受到破壞，還要保證并發(fā)操作時(shí)不會(huì)出現(xiàn)錯(cuò)誤，所以有必要進(jìn)行加鎖處理。下面介紹幾種操作：

（1）x←scannode（v，A）：掃描指針 A 指向的結(jié)點(diǎn)，找到能發(fā)現(xiàn)key值v的下一個(gè)節(jié)點(diǎn)并賦給x。

（2）A←get（current）：表示將 current結(jié)點(diǎn)讀入內(nèi)存中并把其指針賦給A。

（3）A←node.insert（A，w，v）：把指針 w 和帶關(guān)鍵字 v插入指針A指向的結(jié)點(diǎn)。

（4）u←allocate（B）：為結(jié)點(diǎn) B 在磁盤中分配一新的頁(yè)，并將其指針賦給u。

（5）A，B←rearrange old A：把需要分裂的 A 指向的結(jié)點(diǎn)分裂成新的由A和B指向的結(jié)點(diǎn)。

（6）lock（current）：表示將 current結(jié)點(diǎn)鎖住，防止其他并發(fā)操作對(duì)該結(jié)點(diǎn)進(jìn)行修改，但這并不會(huì)鎖住查詢操作。需要說(shuō)明的是：如果查詢某個(gè)結(jié)點(diǎn)時(shí)，這個(gè)結(jié)點(diǎn)進(jìn)行了分裂操作，有可能會(huì)出現(xiàn)查詢關(guān)鍵字大于高值域的情況，這時(shí)只要將當(dāng)前指針指向右兄弟結(jié)點(diǎn)即可，并在父結(jié)點(diǎn)中添加一搜索碼和指針指向右兄弟結(jié)點(diǎn)（細(xì)節(jié)可參考文獻(xiàn)[1]）。

下面是插入算法的偽代碼：

其中的move.right操作表示將指針指向其右兄弟結(jié)點(diǎn)。對(duì)于刪除算法，基本思路與插入算法類相同，要保持樹(shù)結(jié)構(gòu)和并發(fā)操作的正確性，具體可參閱文獻(xiàn)[2]。此外，充分利用內(nèi)存中的緩存也是很是重要的，在這里可以采用一種預(yù)讀取的辦法，即在磁盤緩存中檢索到要讀的結(jié)點(diǎn)時(shí)，在傳輸數(shù)據(jù)這段時(shí)間里可以將接下來(lái)的一些記錄數(shù)據(jù)塊讀入內(nèi)存緩存中，這樣在下次取數(shù)據(jù)時(shí)可以減少一些磁盤IO操作，提高讀取性能。

3 性能測(cè)試分析

測(cè)試環(huán)境如下：

數(shù)據(jù)庫(kù)服務(wù)器端配置：數(shù)據(jù)庫(kù)Oracle 10g，操作系統(tǒng)Linux 2.6，CPU 2.1 GHz X4，內(nèi)存 4 GB，硬盤串口 500 GB。查詢中間件服務(wù)器與數(shù)據(jù)庫(kù)服務(wù)器是同樣的配置，但不在同一臺(tái)服務(wù)器上，對(duì)查詢中間件的介紹可以參閱文獻(xiàn)[3]。

客戶端配置：CPU 2.6 GHz X2，內(nèi)存 2 GB，硬盤串口160 GB。表1和表2是在不同的并發(fā)查詢數(shù)目和不同的查詢規(guī)模下經(jīng)過(guò)緩存和未經(jīng)緩存所需時(shí)間的對(duì)比。表1中查詢記錄數(shù)固定為10萬(wàn)條，表2中并發(fā)查詢數(shù)固定為50個(gè)。

表1 對(duì)比不同并發(fā)查詢數(shù)下的效率

表2 對(duì)比不同的查詢記錄數(shù)下的效率

通過(guò)對(duì)比直接查詢數(shù)據(jù)庫(kù)和經(jīng)過(guò)緩存優(yōu)化后進(jìn)行查詢的實(shí)驗(yàn)數(shù)據(jù)可知，通對(duì)對(duì)數(shù)據(jù)進(jìn)行緩存處理，效率提升是非常明顯的，尤其是在并發(fā)查詢的數(shù)量比較大時(shí)，效率提升更為明顯。

本文把數(shù)據(jù)緩存應(yīng)用于基于數(shù)據(jù)倉(cāng)庫(kù)方式的數(shù)據(jù)集成中，而且，在組織緩存時(shí)采用了兩級(jí)緩存結(jié)構(gòu)，并采用了B_Link樹(shù)來(lái)組織磁盤中的緩存中的結(jié)構(gòu)。因此提高了并發(fā)查詢數(shù)據(jù)的效率、縮短了客戶端查詢數(shù)據(jù)的響應(yīng)時(shí)間、提高了工作效率。但本文方法還存在一些不足，例如，如何更有效地協(xié)調(diào)磁盤和內(nèi)存中的緩存交互，這一設(shè)計(jì)的好壞也直接關(guān)系到查詢的性能，這有待以后進(jìn)一步完善和優(yōu)化。

[1]PHILIP L， LEHMAN S， Bing Yao.Efficient locking for concurrent operations on B-trees[M].ACM Transactions on Database Systems，1981：655-663.

[2]孫兆玉，黃宇光，朱鴻宇.一種基于B_Link樹(shù)結(jié)構(gòu)的高性能緩存機(jī)制[J].高性能計(jì)算技術(shù)，2007，186：23-24.

[3]房元平，許嬌陽(yáng)，葛珂.流水線處理技術(shù)在數(shù)據(jù)集成中的應(yīng)用[J].微型機(jī)與應(yīng)用，2010（24）：67-69.

[4]JOHNSON T.A highly concurrent priority queue based on the B_Link tree[R].Technical Report，University of Florida，1991.

[5]CORMEN T H， CHARLES E.LEISERSON R L， et al.Introduction to algorithms （second edition）[M].The MIT Press， 2009：434-453.