• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于Solr的分布式實(shí)時(shí)搜索模型研究與實(shí)現(xiàn)*

    2011-06-11 11:03:56傅巍瑋李仁發(fā)劉鈺峰黃松立
    電信科學(xué) 2011年11期
    關(guān)鍵詞:磁盤(pán)搜索引擎日志

    傅巍瑋,李仁發(fā),劉鈺峰,黃松立

    (1.湖南大學(xué)嵌入式系統(tǒng)及網(wǎng)絡(luò)實(shí)驗(yàn)室 長(zhǎng)沙410082;2.淘寶(中國(guó))有限責(zé)任公司 杭州315100)

    1 引言

    互聯(lián)網(wǎng)信息技術(shù)的高速發(fā)展使人們更加關(guān)注如何以最快的時(shí)間獲取實(shí)效數(shù)據(jù),并從中挖掘到有價(jià)值的信息。獲取實(shí)時(shí)資訊的方法有兩種。一是建立實(shí)時(shí)數(shù)據(jù)庫(kù)[1],保證數(shù)據(jù)的強(qiáng)一致性(ACID)和高可用性,但其在分布式環(huán)境下的擴(kuò)展能力較為有限;二是建立實(shí)時(shí)搜索引擎,不僅有理論價(jià)值,同時(shí)有重大的應(yīng)用價(jià)值[2]。傳統(tǒng)的信息搜索技術(shù)發(fā)展非常成熟,但是在查詢精度和不同查詢需求上存在許多不足[3],不能滿足信息的實(shí)時(shí)搜索需求。實(shí)時(shí)搜索是傳統(tǒng)搜索引擎的擴(kuò)展和延伸,可以分為通用實(shí)時(shí)搜索引擎[4]和垂直實(shí)時(shí)搜索引擎[5]。垂直搜索引擎針對(duì)某一領(lǐng)域行業(yè)的搜索,特點(diǎn)是專、精、深,實(shí)時(shí)搜索的研究大多集中于垂直搜索領(lǐng)域,如在圖片搜索[6]和物聯(lián)網(wǎng)領(lǐng)域的應(yīng)用[7]。實(shí)時(shí)搜索已成為當(dāng)前搜索引擎領(lǐng)域的熱點(diǎn)問(wèn)題,其核心概括為實(shí)時(shí)數(shù)據(jù)獲取和實(shí)時(shí)索引構(gòu)建兩方面。相比傳統(tǒng)搜索研究,垂直搜索數(shù)據(jù)來(lái)源相對(duì)簡(jiǎn)單,因此垂直實(shí)時(shí)搜索的難點(diǎn)問(wèn)題是分布式環(huán)境下的實(shí)時(shí)索引構(gòu)建。實(shí)時(shí)索引構(gòu)建主要指的是在大規(guī)模高并發(fā)的分布式環(huán)境下,即時(shí)提交實(shí)時(shí)數(shù)據(jù)構(gòu)建索引,保證實(shí)時(shí)數(shù)據(jù)即時(shí)展示以及分布式數(shù)據(jù)的一致性和容災(zāi)[8]。

    針對(duì)這一難點(diǎn)問(wèn)題,本文在分布式搜索技術(shù)[9]基礎(chǔ)上提出一種基于Solr[10]的分布式實(shí)時(shí)檢索模型,模型的創(chuàng)新之處如下。

    ·引入自定義多維度的分組規(guī)則構(gòu)建分布式索引數(shù)據(jù)??筛鶕?jù)實(shí)際需求對(duì)索引進(jìn)行多維度的切分,將大型索引切分成獨(dú)立的集群組,搜索時(shí)通過(guò)相應(yīng)的路由規(guī)則定位至索引信息所在的m×n分布式集群組,減少索引搜索時(shí)間,提高搜索性能。

    ·提出一種新的實(shí)時(shí)搜索模型,采用內(nèi)存與磁盤(pán)索引相結(jié)合的多索引機(jī)制。通過(guò)全量的方式定期建立主磁盤(pán)索引,保證數(shù)據(jù)的完整性。實(shí)時(shí)信息以增量方式先寫(xiě)入內(nèi)存,內(nèi)存索引超出設(shè)定閾值后復(fù)制寫(xiě)入磁盤(pán),形成從磁盤(pán)索引,不與主索引合并,減少索引合并時(shí)間開(kāi)銷。同時(shí)查詢內(nèi)存和磁盤(pán)索引,提升搜索響應(yīng)時(shí)間。

    ·解決分布式環(huán)境下的索引數(shù)據(jù)容災(zāi)問(wèn)題。引入CommitLog日志機(jī)制,持久化索引元數(shù)據(jù),改進(jìn)Solr的Master/Slave(主備)模型,保證數(shù)據(jù)的一致性和可用性。

    2 分布式實(shí)時(shí)搜索系統(tǒng)模型

    分布式實(shí)時(shí)搜索模型由3部分組成,如圖1所示。

    ·搜索功能實(shí)現(xiàn):搜索請(qǐng)求分為查詢、更新、添加、刪除4種,分別定位到分布式集群的一組或者多組服務(wù)器。

    ·分布式m×n系統(tǒng)模型構(gòu)建:分布式集群組采用m×n模型,每一組集群內(nèi)采用Master/Slave模型保證單組數(shù)據(jù)的一致性和搜索服務(wù)的可用性。

    ·索引數(shù)據(jù)構(gòu)建:索引構(gòu)建采用主磁盤(pán)索引+內(nèi)存索引+從磁盤(pán)索引相結(jié)合的模型,保證最新的數(shù)據(jù)即時(shí)展現(xiàn),實(shí)現(xiàn)搜索的實(shí)時(shí)性。實(shí)時(shí)索引的請(qǐng)求先寫(xiě)CommitLog日志,保證實(shí)時(shí)索引的數(shù)據(jù)容災(zāi)性。

    3 分布式實(shí)時(shí)搜索模型的詳細(xì)設(shè)計(jì)

    3.1 分布式m×n系統(tǒng)模型構(gòu)建

    分布式系統(tǒng)是解決目前大規(guī)模海量數(shù)據(jù)和高并發(fā)請(qǐng)求的最有效方式。本系統(tǒng)采用分布式m×n的部署模型切分海量數(shù)據(jù)建立索引,實(shí)現(xiàn)高并發(fā)搜索請(qǐng)求量的隨機(jī)軟負(fù)載均衡,提升搜索系統(tǒng)性能。在索引量和搜索請(qǐng)求增加的情況下,動(dòng)態(tài)添加行列的機(jī)器數(shù)量保證存儲(chǔ)負(fù)載和搜索性能。其中,n列指系統(tǒng)劃分為搜索服務(wù)器集群的個(gè)數(shù),m行指單個(gè)搜索服務(wù)器集群包含搜索服務(wù)器的臺(tái)數(shù),m≥1且n≥1。m×n模型建立過(guò)程如下。

    (1)自定義切分規(guī)則

    根據(jù)系統(tǒng)需求,設(shè)定自定義的索引切分規(guī)則進(jìn)行Group Filter分組路由,例如分組規(guī)則用生成的索引Docment文檔的Field域userId取模進(jìn)行分組。分組規(guī)則不僅可以是單維,也可以是多維,即在m×n二維分組的基礎(chǔ)上進(jìn)行擴(kuò)展,多維數(shù)組與一維數(shù)組存儲(chǔ)機(jī)制一致,如先按userId取模分組后,再以用戶所在的省份進(jìn)行分組。

    (2)確定m×n行列值

    m和n的行列值取決于兩個(gè)因素。

    ·搜索服務(wù)器單機(jī)負(fù)載能力。單機(jī)的索引數(shù)據(jù)容量由磁盤(pán)容量決定。建立新索引的過(guò)程中涉及索引的合并,舊的索引繼續(xù)提供索引服務(wù),此時(shí)的磁盤(pán)空間為:一份新索引+一份正提供服務(wù)的索引+索引合并所需磁盤(pán)空間,磁盤(pán)容量至少為索引數(shù)據(jù)的3倍。單機(jī)能承受的搜索請(qǐng)求量通過(guò)壓力測(cè)試獲取。當(dāng)機(jī)器負(fù)載(load)值等于搜索服務(wù)器的CPU核數(shù)時(shí),服務(wù)器所能承受的TPS(每秒請(qǐng)求數(shù))為壓力測(cè)試的峰值,如對(duì)于4核的服務(wù)器,通常在load=4時(shí)的TPS為其單機(jī)所能承受的最高值。

    ·分布式系統(tǒng)索引總量和搜索請(qǐng)求總量。索引總量用S表示,單機(jī)承載索引量用T表示,搜索請(qǐng)求總量用Q表示,單機(jī)承載搜索請(qǐng)求量用R表示,X表示機(jī)器增量,在搜索的熱點(diǎn)數(shù)據(jù)相應(yīng)組添加服務(wù)器,保證可用性,則m、n可用下式計(jì)算:

    (3)建立分布式集群

    根據(jù)索引切分規(guī)則和m、n的行列數(shù),建立分布式搜索服務(wù)器集群。所有搜索服務(wù)器均提供搜索服務(wù),搜索請(qǐng)求隨機(jī)發(fā)送到組內(nèi)的任一服務(wù)器。在同一組搜索服務(wù)集群中,每一臺(tái)搜索服務(wù)器分別向組內(nèi)其他服務(wù)器發(fā)布感知服務(wù),確保兩兩感知。單組集群內(nèi)部,設(shè)定一臺(tái)Master服務(wù)器,其他均為Slave服務(wù)器。Master服務(wù)器負(fù)責(zé)主索引的建立和寫(xiě)CommitLog日志文件,Slave服務(wù)器從Master服務(wù)器中同步主索引,同步CommitLog日志建立內(nèi)存索引。通過(guò)Master/Slave模型保證單組的索引數(shù)據(jù)容災(zāi)性,在組內(nèi)某一搜索服務(wù)器宕機(jī)的情況下保證搜索服務(wù)的可用性。

    3.2 實(shí)時(shí)索引構(gòu)建

    索引分為3個(gè)部分:主磁盤(pán)索引、內(nèi)存索引、從磁盤(pán)索引。磁盤(pán)+內(nèi)存的索引結(jié)構(gòu)保證新增索引即時(shí)展現(xiàn)。寫(xiě)內(nèi)存索引前先寫(xiě)CommitLog日志,持久化索引數(shù)據(jù),保證內(nèi)存索引數(shù)據(jù)不丟失。內(nèi)存索引到達(dá)閾值后刷入從磁盤(pán)索引,保證可用性。索引的構(gòu)建采用全量dump+實(shí)時(shí)增量dump的模型構(gòu)建。全量dump采用時(shí)間周期任務(wù)定期執(zhí)行,實(shí)時(shí)增量dump由實(shí)時(shí)調(diào)用接口生成,下面是實(shí)時(shí)索引構(gòu)建的詳細(xì)設(shè)計(jì)。

    (1)主磁盤(pán)索引構(gòu)建

    ·搜索服務(wù)器定時(shí)觸發(fā)全量dump程序。系統(tǒng)從數(shù)據(jù)源獲取索引數(shù)據(jù),數(shù)據(jù)源可以是網(wǎng)絡(luò)爬蟲(chóng)抓取的信息、各種存儲(chǔ)系統(tǒng)(數(shù)據(jù)庫(kù)、文件、nosql系統(tǒng)等)。索引建立采用迭代器模型,利用Data Provider接口,首先利用has Next()判斷下一條語(yǔ)句是否存在,存在則用next()方法取下一條數(shù)據(jù),構(gòu)建并返回一條Map記錄,直至has Next()方法返回為false,結(jié)束整個(gè)迭代過(guò)程。Map記錄對(duì)應(yīng)一篇索引文檔,Map的鍵值對(duì)對(duì)應(yīng)于文檔的域和域值。利用封裝好的Map對(duì)象構(gòu)建Solr的Add Update Command對(duì)象,最后調(diào)用 Solr的 Update Handle.add Doc()方法添加文檔至索引。

    ·時(shí)間點(diǎn)設(shè)置:主索引構(gòu)建過(guò)程開(kāi)始時(shí),記錄一個(gè)時(shí)間點(diǎn)checkPoint。主索引建立完成后,提供搜索的服務(wù)將從舊索引替換到新索引,但是新索引建立過(guò)程中,會(huì)有增量的實(shí)時(shí)索引產(chǎn)生,因此需要補(bǔ)全在全量執(zhí)行期間的增量數(shù)據(jù),通過(guò)時(shí)間點(diǎn)機(jī)制從后補(bǔ)全實(shí)時(shí)索引。

    ·Slave服務(wù)器構(gòu)建主索引:Master服務(wù)的主索引構(gòu)建完成后,通知Slave服務(wù)器進(jìn)行主索引的拷貝,并將checkPoint傳遞給Slave服務(wù)器,Slave服務(wù)器完成索引的構(gòu)建工作后通知Master服務(wù)器,新的索引向外提供搜索服務(wù)。

    (2)實(shí)時(shí)索引構(gòu)建

    實(shí)時(shí)索引構(gòu)建包含內(nèi)存索引構(gòu)建和從磁盤(pán)索引構(gòu)建2部分,實(shí)現(xiàn)過(guò)程如下。

    ·實(shí)時(shí)更新請(qǐng)求。實(shí)時(shí)請(qǐng)求可以來(lái)自于數(shù)據(jù)源(與主索引相同),也可以來(lái)自客戶端的實(shí)時(shí)接口調(diào)用。以實(shí)時(shí)接口調(diào)用為例,客戶端調(diào)用Real-time Bean類的實(shí)時(shí)方法發(fā)送請(qǐng)求。實(shí)時(shí)請(qǐng)求方法分為Add(添加)、Update(更 新)、Delete(刪 除)、mAdd(批 量 添 加 )、mUpdate(批量更新)、mDelete(批量刪除)。服務(wù)器端接收實(shí)時(shí)請(qǐng)求,將實(shí)時(shí)請(qǐng)求封裝為Document Request對(duì)象添加到CommitLog日志文件中。

    ·CommitLog日志建立。所有的實(shí)時(shí)請(qǐng)求都會(huì)寫(xiě)入Master服務(wù)器的CommitLog日志中,持久化索引請(qǐng)求。搜索服務(wù)器啟動(dòng)時(shí)創(chuàng)建實(shí)時(shí)索引的構(gòu)建進(jìn)程Real-time Job,不斷輪循CommitLog日志,一旦有新的記錄產(chǎn)生即進(jìn)行寫(xiě)索引操作,根據(jù)請(qǐng)求類型的不同,分別調(diào)用Solr的Update Handler的相應(yīng)方法建立內(nèi)存索引。

    ·從磁盤(pán)索引建立。內(nèi)存索引受限于內(nèi)存大小,所以需要設(shè)定閾值,防止內(nèi)存索引過(guò)大撐爆內(nèi)存或者影響其他應(yīng)用。當(dāng)內(nèi)存索引達(dá)到閾值時(shí),新開(kāi)一個(gè)內(nèi)存索引,新來(lái)的實(shí)時(shí)請(qǐng)求寫(xiě)入新的內(nèi)存索引,同時(shí)將舊的內(nèi)存索引刷新至磁盤(pán)。利用內(nèi)存索引與磁盤(pán)索引結(jié)構(gòu)完全相同的特性,調(diào)用Directory的copy方法直接將內(nèi)存索引拷貝至磁盤(pán),形成從磁盤(pán)索引,提升搜索性能,實(shí)現(xiàn)立即搜索。

    ·內(nèi)存索引恢復(fù)機(jī)制。如果服務(wù)器宕機(jī)或者重新部署導(dǎo)致服務(wù)器重啟,當(dāng)前的內(nèi)存索引會(huì)造成數(shù)據(jù)丟失。設(shè)定宕機(jī)時(shí)間恢復(fù)點(diǎn)記錄CommitLog日志位置偏移值,新的從磁盤(pán)索引生成時(shí),更新一次宕機(jī)時(shí)間恢復(fù)點(diǎn)信息。服務(wù)器重啟時(shí)從最近的宕機(jī)時(shí)間恢復(fù)點(diǎn)開(kāi)始讀取CommitLog日志,恢復(fù)內(nèi)存索引。通過(guò)CommitLog日志機(jī)制保證內(nèi)存索引數(shù)據(jù)的容災(zāi)。

    3.3 實(shí)時(shí)搜索引擎功能實(shí)現(xiàn)

    系統(tǒng)一共提供4種功能,包括查詢、新增、更新、刪除。查詢不會(huì)修改索引數(shù)據(jù)結(jié)構(gòu),其他3種操作都會(huì)造成索引數(shù)據(jù)的修改,且有相應(yīng)的批量操作方法。

    (1)搜索功能實(shí)現(xiàn)

    用戶發(fā)出搜索請(qǐng)求后,通過(guò)路由規(guī)則獲取索引所在分布式搜索服務(wù)器組的集合。如果是單組搜索,需要對(duì)當(dāng)前所有的索引進(jìn)行搜索,包含主磁盤(pán)索引、內(nèi)存索引、從磁盤(pán)索引,搜索結(jié)果過(guò)濾掉已被刪除的文檔。被刪除文檔的docId存儲(chǔ)在delList集合中。多組則利用Solr的shard概念對(duì)多組的結(jié)果集作合并操作。Solr服務(wù)是通過(guò)HTTP的方式提供服務(wù),索引合并也都是通過(guò)HTTP方式發(fā)出請(qǐng)求進(jìn)行合并,本系統(tǒng)對(duì)此作了改進(jìn)。任意選定分組集中的一組,通過(guò)TCP/IP協(xié)議進(jìn)行訪問(wèn),此時(shí)利用Solr提供的Embedded Solr Server獲取當(dāng)前組索引,并向其他組發(fā)送TCP/IP請(qǐng)求,獲取索引數(shù)據(jù)并進(jìn)行索引的merge操作,提高索引獲取速度。

    (2)添加、刪除、更新功能實(shí)現(xiàn)

    ·添加功能實(shí)現(xiàn)??蛻舳税l(fā)出Add命令,將其封裝成添加請(qǐng)求寫(xiě)入CommitLog日志文件中。Index Build Job構(gòu)建索引時(shí)進(jìn)行判斷,如為Add Document Request請(qǐng)求,提取索引數(shù)據(jù)信息轉(zhuǎn)換為Solr的Add Update Command對(duì)象,最后調(diào)用Solr的Update Handle的Add Doc()命令,實(shí)現(xiàn)索引數(shù)據(jù)的添加。

    ·刪除功能實(shí)現(xiàn)??蛻舳税l(fā)出Delete命令,將其封裝成刪除請(qǐng)求 Delete Document Request寫(xiě)入CommitLog日志文件中。在Lucene搜索引擎中有Index Writer和Index Reader兩個(gè)對(duì)象可以做刪除動(dòng)作,區(qū)別在于Index Writer實(shí)例中刪除的內(nèi)容被緩存起來(lái),并不會(huì)馬上生效。搜索引擎接收實(shí)時(shí)刪除請(qǐng)求后,如果待刪除的文檔在內(nèi)存中,則用Index Writer直接進(jìn)行刪除,否則在磁盤(pán)索引(即主索引和從索引)做標(biāo)志刪除,將文檔保存至待刪除的集合delList中。在內(nèi)存索引提交時(shí),調(diào)用Index Writer的commit()方法,再調(diào)用磁盤(pán)索引的Index Reader方法逐個(gè)刪除delList集合的元素。

    ·更新功能實(shí)現(xiàn)。與Add命令相同,客戶端發(fā)出Update命令會(huì)被封裝為Update Document Request請(qǐng)求,寫(xiě)入CommitLog日志中。Index Build Job構(gòu)建索引時(shí),將索引數(shù)據(jù)信息轉(zhuǎn)換為Add Update Command,同時(shí)設(shè)置 Allow Dups為 false,即不允許索引數(shù)據(jù)重復(fù)。此時(shí)Solr會(huì)首先判斷索引是否已存在,有則刪除,然后進(jìn)行添加操作,完成更新。

    4 實(shí)驗(yàn)結(jié)果

    實(shí)驗(yàn)由10臺(tái)搜索服務(wù)器組成,分為5組,每組一主一備。搜索服務(wù)器配置為Intel?Xeon?4核CPU E5520@2.27 GHz、內(nèi)存4 GB、60 GB硬盤(pán)7 200轉(zhuǎn)。索引總量為60 GB、單機(jī)12 GB,實(shí)驗(yàn)數(shù)據(jù)取平均值。

    工程實(shí)現(xiàn)的原型系統(tǒng)為Xsolr,對(duì)比系統(tǒng)為Solr,數(shù)據(jù)集為4 000萬(wàn)個(gè)文檔,每個(gè)文檔由22個(gè)域構(gòu)成,平均大小為0.03 KB,測(cè)試工具為L(zhǎng)oad Runner。實(shí)驗(yàn)結(jié)果分兩部分,第一組實(shí)驗(yàn)為Xsolr與Solr系統(tǒng)的性能指標(biāo)對(duì)比,結(jié)果見(jiàn)表1,第二組實(shí)驗(yàn)為Xsolr的數(shù)據(jù)一致性與容災(zāi),如圖2所示。

    ·實(shí)時(shí)響應(yīng)性能。由表1可以看出,Xsolr的TPS和響應(yīng)時(shí)間在4種測(cè)試條件下的性能均好于Solr。實(shí)時(shí)更新的請(qǐng)求響應(yīng)時(shí)間均在1 s以內(nèi)。因?yàn)閄solr更新操作在內(nèi)存進(jìn)行,索引在內(nèi)存進(jìn)行建立,而且不與磁盤(pán)索引進(jìn)行合并,同時(shí)搜索內(nèi)存和磁盤(pán)索引,減少磁盤(pán)I/O,加速了實(shí)時(shí)索引數(shù)據(jù)展示的速度。

    ·負(fù)載分析。在系統(tǒng)負(fù)載接近的情況下,Xsolr的CPU更加消耗資源。因?yàn)閄solr會(huì)建立內(nèi)存索引,實(shí)驗(yàn)環(huán)境下占用大量?jī)?nèi)存,最高時(shí)達(dá)到1 GB。CPU使用率最高在30%左右,此時(shí)索引的更新TPS高達(dá)2 100,大量占用內(nèi)存,但是機(jī)器負(fù)載仍小于4,在可接受的范圍內(nèi)。

    ·數(shù)據(jù)一致性。如圖2所示,前15 s內(nèi),單機(jī)分別進(jìn)行插入、更新、刪除操作,Master/Slave服務(wù)器數(shù)據(jù)保持一致,有極細(xì)微區(qū)別。實(shí)時(shí)操作時(shí),Slave不間斷地從Master機(jī)器中拉取增量CommitLog日志文件,進(jìn)行消費(fèi)創(chuàng)建實(shí)時(shí)索引,保證主備服務(wù)器數(shù)據(jù)的一致性。但是由于CommitLog是順序?qū)懭?,且從Master機(jī)器拷貝文件有一定的網(wǎng)絡(luò)開(kāi)銷,所以會(huì)出、現(xiàn)極細(xì)微的區(qū)別,在毫秒級(jí)別實(shí)現(xiàn)最終一致性,對(duì)系統(tǒng)整體服務(wù)影響極小,在可接受的范圍內(nèi)。

    表1 Xsolr與Solr實(shí)驗(yàn)結(jié)果對(duì)比

    ·數(shù)據(jù)容災(zāi)及完整性。17 s時(shí),Master服務(wù)器隨機(jī)插入1 000條記錄,此時(shí)內(nèi)存索引未達(dá)到閾值,不刷入從磁盤(pán)索引。30 s時(shí),Slave服務(wù)器恢復(fù)服務(wù),其索引記錄數(shù)與Master相同。35 s后Master服務(wù)器宕機(jī),60 s后恢復(fù)啟動(dòng),其索引記錄數(shù)與Slave相同,且符合最初插入的1 000條記錄數(shù)。Xsolr通過(guò)CommitLog日志持久化實(shí)時(shí)數(shù)據(jù),設(shè)置宕機(jī)恢復(fù)點(diǎn)。服務(wù)器宕機(jī)恢復(fù)時(shí),讀取離Check Point最近的CommitLog日志記錄偏移量,從偏移量處開(kāi)始重建內(nèi)存索引,保證數(shù)據(jù)的完整性,實(shí)現(xiàn)數(shù)據(jù)容災(zāi)。

    實(shí)驗(yàn)結(jié)果表明,本模型滿足系統(tǒng)的實(shí)時(shí)性需求,同時(shí)在大數(shù)據(jù)量和高并發(fā)環(huán)境下保證了數(shù)據(jù)的一致性和數(shù)據(jù)容災(zāi),證明了系統(tǒng)模型的可行性。

    5 結(jié)束語(yǔ)

    本文主要研究了分布式實(shí)時(shí)搜索引擎,并基于Solr進(jìn)行了實(shí)現(xiàn)。重點(diǎn)解決搜索引擎在大數(shù)據(jù)量高并發(fā)分布式環(huán)境下的實(shí)時(shí)性和數(shù)據(jù)容災(zāi)問(wèn)題。模型目前還存在一些問(wèn)題,如Master/Slave模型中寫(xiě)操作都是作用于Master服務(wù)器,其宕機(jī)會(huì)造成實(shí)時(shí)信息更新失敗。下一步的工作從以下方面著手:改進(jìn)當(dāng)前的實(shí)時(shí)模型,實(shí)現(xiàn)單組搜索服務(wù)器Master/Slave去角色化,進(jìn)一步提高實(shí)時(shí)模型的可用性;研究利用SSD磁盤(pán)代替普通SATA硬盤(pán)作高速存儲(chǔ),進(jìn)一步提高實(shí)時(shí)搜索性能。

    1 Nizar Idoudi,Claude Duvallet,Bruno Sadeg.How to model a real-time database.In:Proc of IEEE International Symposium on Object/Component/Service-Oriented Real-TimeDistributed Computing,2009

    2 Bernard J Jansen,Zhe Liu,Courtney Weaver,et al.Real time search on theWeb:queries,topics,and economic value.Information Processing and Management,2011

    3 曾春,邢春曉,周立柱.基于內(nèi)容過(guò)濾的個(gè)性化搜索算法.軟件學(xué)報(bào),2003(5)

    4 Daniel Peng,Frank Dabek.Large-scale incremental processing using distributed transactions and notifications.In:Proc of the 9th USENIX Conference of OSDI,2010

    5 Wu Y,Shou L,Hu T,et al.Query triggered crawling strategy:build a time sensitive vertical search engine.Cyberworlds,2008

    6 Jingyu Cui,Fang Wen,Xiaoou Tang.Real time Google and live image search re-ranking.In:Proc of the 16th ACM International Conference on Multimedia,2008

    7 Gershenfeld N,Krikorian R,Cohen D.The Internet of things.Scientific American,2004,291(4):76~81

    8 Seth Gilkn,Nancy Lynch.Brewer's conjecture and the feasibility of consistent,available,partition-tolerant Web services.Sinact News,2002,33(2)

    9 姚樹(shù)宇,趙少東.一種使用分布式技術(shù)的搜索引擎.計(jì)算機(jī)應(yīng)用與軟件,2005,22(10)

    10 Apache.SOLR.http://lucene.apache.org/solr/

    猜你喜歡
    磁盤(pán)搜索引擎日志
    一名老黨員的工作日志
    扶貧日志
    心聲歌刊(2020年4期)2020-09-07 06:37:14
    解決Windows磁盤(pán)簽名沖突
    修改磁盤(pán)屬性
    游學(xué)日志
    磁盤(pán)組群組及iSCSI Target設(shè)置
    創(chuàng)建VSAN群集
    網(wǎng)絡(luò)搜索引擎亟待規(guī)范
    基于Nutch的醫(yī)療搜索引擎的研究與開(kāi)發(fā)
    廣告主與搜索引擎的雙向博弈分析
    АⅤ资源中文在线天堂| 国产欧美日韩一区二区精品| 国产精品日韩av在线免费观看| 成人三级黄色视频| 久久久久久久久久黄片| 国产午夜精品久久久久久| 久久久久久久午夜电影| 亚洲精品久久成人aⅴ小说| 一二三四在线观看免费中文在| 亚洲av片天天在线观看| 一区二区三区激情视频| 国产精品久久久久久亚洲av鲁大| 日本 av在线| 亚洲av成人av| 精品国产乱码久久久久久男人| 亚洲性夜色夜夜综合| 亚洲七黄色美女视频| 亚洲五月天丁香| 一级作爱视频免费观看| 中出人妻视频一区二区| 免费在线观看日本一区| 韩国av一区二区三区四区| 亚洲欧美精品综合一区二区三区| 美国免费a级毛片| 久久国产精品影院| 天天一区二区日本电影三级| 日本免费一区二区三区高清不卡| 国产野战对白在线观看| 黄色女人牲交| 久久久国产精品麻豆| 在线天堂中文资源库| 最近最新中文字幕大全免费视频| 欧美日韩福利视频一区二区| 欧美日韩一级在线毛片| 女人被狂操c到高潮| 国产在线精品亚洲第一网站| 亚洲最大成人中文| 欧美乱妇无乱码| 麻豆av在线久日| aaaaa片日本免费| 亚洲 欧美一区二区三区| 亚洲色图av天堂| 巨乳人妻的诱惑在线观看| 久久人妻福利社区极品人妻图片| 国产亚洲欧美98| 国产精品电影一区二区三区| 午夜福利在线在线| 91av网站免费观看| 中文字幕另类日韩欧美亚洲嫩草| 久久天躁狠狠躁夜夜2o2o| 亚洲五月婷婷丁香| 成年女人毛片免费观看观看9| 亚洲熟妇中文字幕五十中出| 久久久久久国产a免费观看| 亚洲国产精品成人综合色| 不卡一级毛片| 女同久久另类99精品国产91| 国产亚洲精品av在线| av在线天堂中文字幕| 美女扒开内裤让男人捅视频| 欧美激情高清一区二区三区| 岛国视频午夜一区免费看| 婷婷六月久久综合丁香| 亚洲av成人一区二区三| 国产精品国产高清国产av| 在线观看免费视频日本深夜| 韩国精品一区二区三区| 男人舔奶头视频| 国产又色又爽无遮挡免费看| 长腿黑丝高跟| 中文字幕另类日韩欧美亚洲嫩草| 国产精品久久视频播放| 热99re8久久精品国产| 精品午夜福利视频在线观看一区| 国产黄片美女视频| 免费在线观看完整版高清| 久久久久九九精品影院| 成人一区二区视频在线观看| 国产三级在线视频| 免费搜索国产男女视频| 亚洲在线自拍视频| 国产av在哪里看| 国产精品精品国产色婷婷| 操出白浆在线播放| 国产久久久一区二区三区| 黑人操中国人逼视频| 欧美激情高清一区二区三区| 99国产精品一区二区蜜桃av| 久久这里只有精品19| 亚洲精品国产一区二区精华液| 一本综合久久免费| 亚洲精品在线美女| 波多野结衣av一区二区av| 黄色女人牲交| 亚洲精品av麻豆狂野| 可以免费在线观看a视频的电影网站| 窝窝影院91人妻| 亚洲电影在线观看av| 亚洲美女黄片视频| 波多野结衣高清作品| 一夜夜www| 给我免费播放毛片高清在线观看| 国产欧美日韩一区二区精品| 一本精品99久久精品77| 韩国av一区二区三区四区| 999久久久精品免费观看国产| 97人妻精品一区二区三区麻豆 | 日韩欧美国产一区二区入口| 久久久久久久久久黄片| 亚洲性夜色夜夜综合| 精品久久久久久久末码| 国产精华一区二区三区| av片东京热男人的天堂| 亚洲av中文字字幕乱码综合 | 视频在线观看一区二区三区| 久久久国产成人精品二区| 中文在线观看免费www的网站 | 一二三四在线观看免费中文在| 老汉色∧v一级毛片| 中文字幕人成人乱码亚洲影| 国产精品av久久久久免费| 久久性视频一级片| 免费在线观看亚洲国产| 亚洲 欧美一区二区三区| 国产亚洲精品久久久久久毛片| 麻豆久久精品国产亚洲av| 巨乳人妻的诱惑在线观看| 亚洲,欧美精品.| or卡值多少钱| 久久亚洲真实| 亚洲欧美精品综合久久99| 欧美精品啪啪一区二区三区| 亚洲国产毛片av蜜桃av| 极品教师在线免费播放| 免费在线观看黄色视频的| 啦啦啦韩国在线观看视频| 国产黄片美女视频| 亚洲片人在线观看| 嫩草影院精品99| 国产麻豆成人av免费视频| 久久热在线av| 女性被躁到高潮视频| 国产三级在线视频| 免费看美女性在线毛片视频| 国产亚洲欧美98| 女人爽到高潮嗷嗷叫在线视频| 午夜视频精品福利| 哪里可以看免费的av片| 国产精华一区二区三区| 法律面前人人平等表现在哪些方面| 国产伦一二天堂av在线观看| 一进一出抽搐gif免费好疼| 亚洲成人精品中文字幕电影| 久久久久久久久久黄片| 亚洲国产精品成人综合色| 中出人妻视频一区二区| 欧美国产精品va在线观看不卡| 老司机靠b影院| avwww免费| 男女之事视频高清在线观看| 久久久国产成人精品二区| av电影中文网址| 999久久久国产精品视频| 宅男免费午夜| 国产黄a三级三级三级人| 中国美女看黄片| 欧洲精品卡2卡3卡4卡5卡区| 成人国产综合亚洲| 村上凉子中文字幕在线| 成人免费观看视频高清| 国产色视频综合| 日本三级黄在线观看| 怎么达到女性高潮| 女同久久另类99精品国产91| 美女大奶头视频| 一个人免费在线观看的高清视频| 欧美乱妇无乱码| svipshipincom国产片| 99国产精品一区二区三区| 久久婷婷成人综合色麻豆| 亚洲成人国产一区在线观看| 亚洲av电影在线进入| 亚洲精品美女久久av网站| 精品久久久久久久末码| 精品午夜福利视频在线观看一区| 亚洲avbb在线观看| netflix在线观看网站| 自线自在国产av| 天堂√8在线中文| 俺也久久电影网| 日本三级黄在线观看| 亚洲午夜精品一区,二区,三区| 神马国产精品三级电影在线观看 | 99国产极品粉嫩在线观看| 在线免费观看的www视频| av视频在线观看入口| 国产真实乱freesex| 91老司机精品| 亚洲精品在线美女| 久久久久久久久久黄片| 国产精华一区二区三区| 亚洲人成网站高清观看| 精品国产超薄肉色丝袜足j| 18禁国产床啪视频网站| 国产精品久久视频播放| 色尼玛亚洲综合影院| 国产亚洲精品久久久久久毛片| 香蕉av资源在线| 视频在线观看一区二区三区| 高清在线国产一区| 欧美成人午夜精品| 亚洲,欧美精品.| 精品无人区乱码1区二区| 国产精品99久久99久久久不卡| 99在线人妻在线中文字幕| 国产精品亚洲av一区麻豆| 亚洲欧美精品综合一区二区三区| 男女做爰动态图高潮gif福利片| 午夜精品久久久久久毛片777| 老司机深夜福利视频在线观看| 亚洲av美国av| 欧美成人免费av一区二区三区| 亚洲精品中文字幕在线视频| 色播亚洲综合网| 成人精品一区二区免费| 国产精品一区二区三区四区久久 | 中文亚洲av片在线观看爽| 亚洲狠狠婷婷综合久久图片| 中文字幕久久专区| 18禁国产床啪视频网站| 国产单亲对白刺激| 欧美又色又爽又黄视频| 最近在线观看免费完整版| 国产精品国产高清国产av| 国产三级黄色录像| 久久久久久久久免费视频了| 中文字幕人成人乱码亚洲影| xxxwww97欧美| 国内少妇人妻偷人精品xxx网站 | 一进一出好大好爽视频| 两人在一起打扑克的视频| 在线观看免费视频日本深夜| 精品国产乱码久久久久久男人| 精品一区二区三区av网在线观看| 国产又爽黄色视频| 在线看三级毛片| 欧美成人午夜精品| 最近最新中文字幕大全免费视频| 美国免费a级毛片| 国产精品二区激情视频| 色尼玛亚洲综合影院| 人人妻人人澡欧美一区二区| 99精品久久久久人妻精品| 欧美日韩精品网址| 精品国产乱码久久久久久男人| 夜夜躁狠狠躁天天躁| 丁香欧美五月| 久久久久久亚洲精品国产蜜桃av| 日韩欧美国产一区二区入口| 久久久国产成人免费| 婷婷亚洲欧美| 国产黄色小视频在线观看| 亚洲 欧美一区二区三区| 一区福利在线观看| 国产视频内射| 悠悠久久av| 免费搜索国产男女视频| 亚洲最大成人中文| 欧美日韩乱码在线| 在线观看舔阴道视频| 久久天堂一区二区三区四区| 成年免费大片在线观看| 久久精品亚洲精品国产色婷小说| 久久人人精品亚洲av| 两个人视频免费观看高清| 国产亚洲欧美精品永久| 亚洲专区国产一区二区| 亚洲国产看品久久| 色精品久久人妻99蜜桃| 特大巨黑吊av在线直播 | 视频区欧美日本亚洲| 99在线视频只有这里精品首页| 国产激情偷乱视频一区二区| 丁香欧美五月| a级毛片在线看网站| 黑人欧美特级aaaaaa片| 成人特级黄色片久久久久久久| 免费电影在线观看免费观看| 啪啪无遮挡十八禁网站| 亚洲第一电影网av| 久久香蕉精品热| 国产高清激情床上av| 搡老妇女老女人老熟妇| xxxwww97欧美| 韩国av一区二区三区四区| av天堂在线播放| 国产黄a三级三级三级人| 国产精品美女特级片免费视频播放器 | 国产精品1区2区在线观看.| 免费在线观看完整版高清| 美女 人体艺术 gogo| 日韩国内少妇激情av| 婷婷六月久久综合丁香| 久久久国产成人免费| 一本大道久久a久久精品| 亚洲片人在线观看| 最近在线观看免费完整版| 香蕉久久夜色| 两个人免费观看高清视频| 免费在线观看黄色视频的| 欧美日本视频| 亚洲国产精品999在线| 大型av网站在线播放| 成人18禁在线播放| 少妇粗大呻吟视频| 性色av乱码一区二区三区2| 一级毛片高清免费大全| 视频区欧美日本亚洲| 精品国内亚洲2022精品成人| 免费电影在线观看免费观看| 观看免费一级毛片| 岛国视频午夜一区免费看| 国产激情久久老熟女| 天天躁狠狠躁夜夜躁狠狠躁| 久9热在线精品视频| 中文字幕高清在线视频| 国产av一区二区精品久久| 精品一区二区三区四区五区乱码| 亚洲精品国产一区二区精华液| 日韩欧美国产一区二区入口| 国产成人一区二区三区免费视频网站| www.自偷自拍.com| 美女 人体艺术 gogo| ponron亚洲| 制服诱惑二区| 日韩欧美 国产精品| 男人的好看免费观看在线视频 | 日本 av在线| 久久精品国产99精品国产亚洲性色| 亚洲精品在线观看二区| 国产区一区二久久| 亚洲自拍偷在线| 精品无人区乱码1区二区| 一区二区三区高清视频在线| 亚洲人成电影免费在线| 一区二区三区高清视频在线| 黄色片一级片一级黄色片| 黄色 视频免费看| 久久性视频一级片| 麻豆久久精品国产亚洲av| 久久午夜亚洲精品久久| 日韩欧美 国产精品| 1024手机看黄色片| 一区二区三区高清视频在线| 欧美日韩福利视频一区二区| 久久精品人妻少妇| 日本撒尿小便嘘嘘汇集6| 每晚都被弄得嗷嗷叫到高潮| 欧美激情高清一区二区三区| 精品电影一区二区在线| 丝袜美腿诱惑在线| 99热这里只有精品一区 | 国产精品久久久久久精品电影 | 一边摸一边做爽爽视频免费| 老汉色av国产亚洲站长工具| 午夜福利成人在线免费观看| 国产爱豆传媒在线观看 | 在线观看免费日韩欧美大片| 国产aⅴ精品一区二区三区波| 一进一出抽搐gif免费好疼| 亚洲人成77777在线视频| 久久久久久亚洲精品国产蜜桃av| 亚洲午夜精品一区,二区,三区| 亚洲,欧美精品.| 精品一区二区三区四区五区乱码| 少妇熟女aⅴ在线视频| 丰满的人妻完整版| 18禁黄网站禁片午夜丰满| 老司机深夜福利视频在线观看| 他把我摸到了高潮在线观看| bbb黄色大片| 中文字幕精品免费在线观看视频| 成人三级黄色视频| 国产麻豆成人av免费视频| 久久婷婷成人综合色麻豆| 99国产综合亚洲精品| 亚洲男人的天堂狠狠| 精品电影一区二区在线| 男女视频在线观看网站免费 | 无限看片的www在线观看| 99在线人妻在线中文字幕| 伦理电影免费视频| 午夜a级毛片| 国产视频内射| 丝袜在线中文字幕| 制服丝袜大香蕉在线| 国产在线精品亚洲第一网站| 国产不卡一卡二| x7x7x7水蜜桃| 亚洲 欧美 日韩 在线 免费| 日韩av在线大香蕉| 亚洲专区字幕在线| 哪里可以看免费的av片| 性欧美人与动物交配| 精品国产超薄肉色丝袜足j| 免费女性裸体啪啪无遮挡网站| 亚洲精品av麻豆狂野| 久久99热这里只有精品18| 国产区一区二久久| 亚洲专区国产一区二区| 成在线人永久免费视频| 国产人伦9x9x在线观看| 久久精品人妻少妇| 夜夜爽天天搞| 日日摸夜夜添夜夜添小说| 日韩欧美三级三区| 午夜久久久在线观看| 神马国产精品三级电影在线观看 | 俄罗斯特黄特色一大片| 淫妇啪啪啪对白视频| 午夜a级毛片| 亚洲欧美激情综合另类| 欧美日韩黄片免| 最近最新中文字幕大全免费视频| 日日爽夜夜爽网站| 久久中文看片网| 国产成人啪精品午夜网站| 国产精品久久久av美女十八| 无人区码免费观看不卡| 国产伦一二天堂av在线观看| 天堂动漫精品| 法律面前人人平等表现在哪些方面| 午夜免费成人在线视频| 嫁个100分男人电影在线观看| 欧美 亚洲 国产 日韩一| 国产一卡二卡三卡精品| 国产精品 欧美亚洲| 国产男靠女视频免费网站| 欧美成人一区二区免费高清观看 | 视频在线观看一区二区三区| 一本大道久久a久久精品| 老汉色av国产亚洲站长工具| 伦理电影免费视频| 一区福利在线观看| av片东京热男人的天堂| 999精品在线视频| 亚洲黑人精品在线| 淫妇啪啪啪对白视频| 亚洲激情在线av| 亚洲成国产人片在线观看| 久久国产精品影院| 亚洲黑人精品在线| 看片在线看免费视频| 精品乱码久久久久久99久播| 免费在线观看黄色视频的| 国产又黄又爽又无遮挡在线| 国产免费av片在线观看野外av| www.精华液| 美女午夜性视频免费| 国内精品久久久久久久电影| 97碰自拍视频| 国产日本99.免费观看| 一进一出抽搐gif免费好疼| 好男人在线观看高清免费视频 | 男女之事视频高清在线观看| 亚洲国产欧美网| a级毛片a级免费在线| 丁香六月欧美| 久久香蕉国产精品| 最新美女视频免费是黄的| 丰满的人妻完整版| 欧美中文综合在线视频| 日韩欧美国产一区二区入口| 真人一进一出gif抽搐免费| 国产精品免费视频内射| 欧美zozozo另类| 黑人操中国人逼视频| 亚洲av成人av| 色av中文字幕| 成人三级黄色视频| 午夜激情福利司机影院| 少妇粗大呻吟视频| 欧美色视频一区免费| 不卡一级毛片| 成人手机av| 亚洲精品在线美女| 两性夫妻黄色片| 一区二区三区激情视频| 色精品久久人妻99蜜桃| 国产精品一区二区精品视频观看| 色播亚洲综合网| 国产乱人伦免费视频| 99久久无色码亚洲精品果冻| 国产精品国产高清国产av| 成人午夜高清在线视频 | 日韩欧美免费精品| 搡老熟女国产l中国老女人| 国产一区二区三区在线臀色熟女| 日日夜夜操网爽| 亚洲精品国产精品久久久不卡| 国产精品电影一区二区三区| 国产黄a三级三级三级人| 日日夜夜操网爽| 国产亚洲欧美在线一区二区| 久久国产亚洲av麻豆专区| 色综合站精品国产| 人人妻人人看人人澡| 90打野战视频偷拍视频| 亚洲国产欧美网| 久久中文字幕人妻熟女| 搞女人的毛片| 亚洲一码二码三码区别大吗| 国产黄片美女视频| 久久精品91无色码中文字幕| 精品少妇一区二区三区视频日本电影| 在线观看午夜福利视频| 日韩中文字幕欧美一区二区| 成人手机av| 老熟妇仑乱视频hdxx| 一进一出抽搐动态| 最好的美女福利视频网| 久久久国产成人精品二区| 啦啦啦免费观看视频1| 亚洲国产中文字幕在线视频| 男女做爰动态图高潮gif福利片| 午夜久久久在线观看| 国产主播在线观看一区二区| 最新美女视频免费是黄的| 国产成人精品久久二区二区免费| 色综合站精品国产| 搡老熟女国产l中国老女人| 狠狠狠狠99中文字幕| 亚洲色图av天堂| 日韩精品青青久久久久久| 99久久精品国产亚洲精品| 欧美精品啪啪一区二区三区| 18美女黄网站色大片免费观看| 久久精品91蜜桃| 国产欧美日韩一区二区精品| 嫩草影视91久久| 老司机午夜福利在线观看视频| 欧美黑人精品巨大| 久久天躁狠狠躁夜夜2o2o| 999久久久精品免费观看国产| 久久香蕉激情| 午夜影院日韩av| 可以免费在线观看a视频的电影网站| 欧美在线黄色| 亚洲第一电影网av| 少妇被粗大的猛进出69影院| 黄色a级毛片大全视频| www.999成人在线观看| 国产成人精品久久二区二区免费| 琪琪午夜伦伦电影理论片6080| netflix在线观看网站| 中文字幕另类日韩欧美亚洲嫩草| 亚洲专区字幕在线| 免费搜索国产男女视频| 成人特级黄色片久久久久久久| 国产真实乱freesex| 午夜福利高清视频| 久久久久久亚洲精品国产蜜桃av| 日韩欧美一区视频在线观看| 黄色a级毛片大全视频| 亚洲精品色激情综合| 亚洲av中文字字幕乱码综合 | 两个人看的免费小视频| 女生性感内裤真人,穿戴方法视频| av电影中文网址| 色综合站精品国产| 欧美乱色亚洲激情| 欧美zozozo另类| 国产亚洲av高清不卡| 亚洲五月婷婷丁香| 欧美一区二区精品小视频在线| 在线看三级毛片| 99re在线观看精品视频| 久久久久精品国产欧美久久久| 亚洲国产欧洲综合997久久, | 90打野战视频偷拍视频| 中文字幕精品免费在线观看视频| 老鸭窝网址在线观看| 欧美日韩黄片免| 亚洲人成伊人成综合网2020| 国产一区在线观看成人免费| www.熟女人妻精品国产| 亚洲国产欧洲综合997久久, | 黄色视频,在线免费观看| 成人国产综合亚洲| 一区二区三区精品91| 自线自在国产av| 99久久综合精品五月天人人| 丰满的人妻完整版| 一级毛片精品| 黄频高清免费视频| 亚洲五月色婷婷综合| 欧美人与性动交α欧美精品济南到| 亚洲专区中文字幕在线| 首页视频小说图片口味搜索| 久久精品aⅴ一区二区三区四区| 久久人妻av系列| a级毛片a级免费在线| 亚洲午夜精品一区,二区,三区| 久久香蕉激情| 欧美日本亚洲视频在线播放| 最新美女视频免费是黄的| 久久久精品欧美日韩精品| 国产精品98久久久久久宅男小说| 亚洲成av人片免费观看| 日韩精品青青久久久久久| 亚洲av电影不卡..在线观看| 亚洲成人国产一区在线观看| 在线国产一区二区在线| 欧美在线一区亚洲| 亚洲精品国产区一区二|