• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種基于集群的通用并行計算框架設(shè)計

    2016-02-13 07:03:19王寧
    現(xiàn)代計算機 2016年35期
    關(guān)鍵詞:任務(wù)調(diào)度消息框架

    王寧

    (四川大學(xué)計算機學(xué)院,成都610065)

    一種基于集群的通用并行計算框架設(shè)計

    王寧

    (四川大學(xué)計算機學(xué)院,成都610065)

    近年來各領(lǐng)域應(yīng)用的數(shù)據(jù)量和計算量需求都大幅增加,傳統(tǒng)單個計算設(shè)備往往無法勝任如此規(guī)模的計算量,因此越來越多的領(lǐng)域開始嘗試使用并行計算技術(shù),分布式并行計算是進行并行計算的一種主要方式,常見的框架為基于MapReduce的Hadoop。提出一種基于集群的通用并行計算框架,參考“管道過濾器”模式,對三個模塊“任務(wù)劃分”、“控制器節(jié)點”和“計算節(jié)點”都進行詳細設(shè)計描述,相對于Hadoop,對有向無環(huán)圖型任務(wù)由更好支持,并且支持迭代型任務(wù),另外增加緩存機制,減少系統(tǒng)耗時,一定程度支持實時性應(yīng)用。

    并行計算;集群;系統(tǒng)框架;有向無環(huán)圖;緩存

    0 引言

    并行計算[1](Parallel Computing)是指同時使用多種計算資源解決計算問題的過程,是提高計算機系統(tǒng)計算速度和處理能力的一種有效手段。它的基本思想是用多個處理器來協(xié)同求解同一問題,即將被求解的問題分解成若干個部分,各部分均由一個獨立的處理機來并行計算。并行計算系統(tǒng)既可以是專門設(shè)計的、含有多個處理器的超級計算機,也可以是以某種方式互連的若干臺的獨立計算機構(gòu)成的集群。通過并行計算集群完成數(shù)據(jù)的處理。

    目前應(yīng)用較為廣泛的并行計算模型為Jeffrey Dean等提出的MapReduce[2],MapReduce的基本思想是將所有任務(wù)的執(zhí)行看做兩個操作,分別是Map(映射)和Reduce(化簡),首先,Map會先對由很多獨立元素組成的邏輯列表中的每一個元素進行指定的操作,且原始列表不會被更改,會創(chuàng)建多個新的列表來保存Map的處理結(jié)果。也就意味著,Map操作是高度并行的。當(dāng)Map工作完成之后,系統(tǒng)會接著對新生成的多個列表進行清理(Shuffle)和排序,之后,會這些新創(chuàng)建的列表進行Reduce操作,也就是對一個列表中的元素根據(jù)Key值進行適當(dāng)?shù)暮喜ⅰ?/p>

    Hadoop作為最早的基于MapReduce的并行計算框架之一,目前得到了十分廣泛的使用,其以MapReduce為計算核心,添加了任務(wù)分配、負載均衡、網(wǎng)絡(luò)傳輸?shù)饶K。Hadoop的優(yōu)點在于對大數(shù)據(jù)問題的處理很方便,并且系統(tǒng)具有高可擴展性,即很容易將新的計算資源加入已有系統(tǒng)中,Hadoop對用戶隱藏了底層任務(wù)調(diào)度、負載均衡、網(wǎng)絡(luò)傳輸?shù)燃毠?jié),使用戶只需專心于MapReduce模塊的制定。

    如果用戶定義了多個Job,并指定了它們之間的先后關(guān)系,則多個Job會依次按照MapReduce的方式進行處理,最終用戶需要的結(jié)果就存儲在最后一個Reduce節(jié)點上,整個的任務(wù)調(diào)度、網(wǎng)絡(luò)通信、數(shù)據(jù)存儲、負載平衡等工作都是MapReduce框架底層完成的,不需要用戶關(guān)心。

    MapReduce框架的優(yōu)點在于對大數(shù)據(jù)問題處理很方便,并且具有很高的可擴展性,即很容易將新的計算節(jié)點加入到已有的系統(tǒng)中。另外MapReduce和Hadoop也有一些很明顯的缺點:

    ①所有Reduce任務(wù)必須等前一步的Map任務(wù)全部完成才可以執(zhí)行,這樣會大大降低可并行度;

    ②對DAG(有向無環(huán)圖)類型的任務(wù)支持不足,Hadoop雖然可以用多個Job來模擬出DAG圖,但是Job間的依賴需要開發(fā)者分別管理維護,并且不同層次的任務(wù)不能并行執(zhí)行;

    ③很難支持迭代類型任務(wù),迭代類型的任務(wù)通常無法預(yù)知迭代次數(shù),所以無法預(yù)先生成定量的Job;

    ④MapReduce強制定義了Map和Reduce兩個階段,但有時用戶并不需要兩個階段的處理;

    ⑤無法支持實時性應(yīng)用,Reduce操作生成的數(shù)據(jù),會被HDFS存入硬盤中,由于沒有相應(yīng)的緩存機制,所以存儲耗時導(dǎo)致系統(tǒng)時延過高,進而無法支持實時性應(yīng)用。

    本文提出的基于集群的并行計算框架在參考了MapReduce模型和Hadoop框架的基礎(chǔ)上,對于以上5點問題均得到了一定程度的解決,下面幾個小節(jié)將分別對此框架的整體架構(gòu)和各模塊做相應(yīng)說明。

    1 整體架構(gòu)描述

    系統(tǒng)整體架構(gòu)如圖1所示,整個框架大體分為TaskSplitter(任務(wù)分割)、Master(主控節(jié)點)和ComputeNode(計算節(jié)點)三部分。TaskSplitter部分負責(zé)任務(wù)劃分,本文設(shè)計了一種腳本語言,用戶使用腳本描述自己的應(yīng)用,TaskSplitter會根據(jù)腳本自動切分任務(wù),并生成任務(wù)間的依賴關(guān)系,很容易構(gòu)建DAG應(yīng)用,隨后將任務(wù)填充到TaskManager中。Master部分主要負責(zé)任務(wù)調(diào)度,分別從TaskManager和ComputeNodeManager獲取任務(wù)信息和計算節(jié)點信息后,再由Schedule負責(zé)調(diào)度分配,最終Master下發(fā)消息給ComputeNode。ComputeNode部分主要負責(zé)接收Master發(fā)送過來的消息,執(zhí)行具體的計算任務(wù),并且對計算產(chǎn)生的數(shù)據(jù)進行存儲。

    整個架構(gòu)參考了“Pipe-Filter”架構(gòu)模式[4],”Pipe-Filter”總體思想如圖1所示,將系統(tǒng)看做一系列對原始數(shù)據(jù)的加工動作,首先將原始數(shù)據(jù)經(jīng)過一次處理(即Filter一次),加工后的數(shù)據(jù)放到管道(Pipe)中,然后等待下一個Filter繼續(xù)對數(shù)據(jù)做加工處理,再放到一個Pipe里,如此持續(xù)進行下去直到所有Filter都完成了數(shù)據(jù)加工,那么最終數(shù)據(jù)就保存在最后一個Pipe里。

    對于并行框架來說,所有的任務(wù)都可以抽象成先從某處取得對輸入數(shù)據(jù),做一定的處理后輸出新的數(shù)據(jù),我們很自然而然的用Filter類來表示一次計算,為了充分利用起計算資源,使用ComputeNode這樣一個邏輯上的節(jié)點來管理多個Filter,每個ComputeNode本身也是Pipe(這樣設(shè)計的原因后面再做詳述),Master則做為一個創(chuàng)建Filter、將Filter和Pipe連接起來的角色,Master和ComputeNode在邏輯上是一對多的,在這樣的設(shè)計下,整個架構(gòu)流程為:首先TaskSplitter劃分得到任務(wù)(與此同時各個ComputeNode節(jié)點會通過線程自動向Master注冊信息以填充ComputeNodeManager),然后Master由調(diào)度模塊生成調(diào)度信息(調(diào)度信息包括計算任務(wù)信息和數(shù)據(jù)Pipe信息),發(fā)送給Com-puteNode,ComputeNode解析這些信息生成相應(yīng)Filter去執(zhí)行計算任務(wù),計算完成后,由Pipe存儲數(shù)據(jù),然后將任務(wù)完成的消息返回給Master,Master更新相應(yīng)任務(wù)狀態(tài)后繼續(xù)執(zhí)行下一次的任務(wù)調(diào)度,如此往復(fù)直到所有任務(wù)都執(zhí)行完畢。

    圖1 系統(tǒng)整體架構(gòu)

    圖2 Pipe-Filter

    2 TaskSplitter部分

    TaskSplitter部分的目的是給用戶提供一種方式(接口、腳本等)用以描述用戶的應(yīng)用需求,根據(jù)用戶的描述進行分析,生成任務(wù)為后面的調(diào)度做好準(zhǔn)備。因為此部分會直接和用戶交互,因此可理解性和可擴展性很重要,要盡可能讓用戶方便地去描述多類型的需求,為達到此目的,本文設(shè)計了一種簡便的腳本語言,腳本應(yīng)用舉例如下:

    以上所示是一個對圖片序列進行特征檢測的應(yīng)用,腳本共包含四部分,INPUT:預(yù)定義一些變量,用以協(xié)助控制任務(wù)流程,支持INT、STR、BOOL、DOUBLE類型;KERNEL:預(yù)聲明計算處理功能,對應(yīng)Filter的種類,用來創(chuàng)建不同F(xiàn)ilter,CPU和MEMORY表示任務(wù)代價(1 CPU表示5%,1 MEMPRY表示100M);DATA:預(yù)定義變量,可以是數(shù)組;PROCEDURE:描述應(yīng)用流程,整個應(yīng)用是從上到下串行處理的,對于同一層次可并行任務(wù),使用FOR或WHILE循環(huán)來描述。根據(jù)此腳本,TaskSplitter會自動生成任務(wù)并設(shè)置好它們之間的依賴關(guān)系。

    此腳本解決了2個問題:

    ①描述DAG任務(wù)很方便,用戶只需按照實際應(yīng)用思路編寫PROCEDURE,系統(tǒng)會自動生成滿足依賴關(guān)系的任務(wù)列表,并且不同層次的子任務(wù)只要沒有前置依賴項便可以并行執(zhí)行;

    ②支持迭代式任務(wù),用戶使用BOOL類型變量和WHILE循環(huán)便可以描述迭代式任務(wù),BOOL變量的值可以在用戶自定義的Filter中更改。

    在進行解析時,本文使用一個語句池(Statement-Pool)來存放解析得到的單條語句,TaskSplitter不斷從語句池中取得語句去生成新的任務(wù)(Task)并更新與其他任務(wù)間的依賴關(guān)系,生成的任務(wù)被不斷填充到任務(wù)管理器中(TaskManager)。使用語句池的目的在于,避免TaskSplitter解析大量循環(huán)時導(dǎo)致Master阻塞,Master沒有必要等待全部任務(wù)解析完成,任務(wù)解析和任務(wù)分配可以同時進行。

    3 Master部分

    Master負責(zé)任務(wù)管理、任務(wù)調(diào)度、計算節(jié)點管理等工作。Master的設(shè)計使用了組合模式,任務(wù)管理功能由TaskManager完成,計算節(jié)點管理由ComputeNodeManager完成,任務(wù)調(diào)度由Schedule完成,而Master本身只負責(zé)協(xié)調(diào)各方工作,這樣可以避免Master變得臃腫,并且各組件可以二次開發(fā),提高了系統(tǒng)可擴展性,用戶甚至可以自行定制各組件以滿足特殊需求。以下對消息機制、計算節(jié)點管理、任務(wù)調(diào)度和容錯機制做進一步的介紹。

    3.1 消息機制

    網(wǎng)絡(luò)中所有傳輸?shù)臄?shù)據(jù)都以Packet為基類,由Packet派生得到Message類,作為各種消息的基類,這些消息按照Master To ComputeNode、ComputeNode To Master和ComputeNode To ComputeNode分類如圖3所示:

    圖3 消息類型

    Master和ComputeNode均使用MessagePool來做消息緩沖池,收到的消息先壓入消息池,然后每次從中取一條消息進行處理,在消息處理方面使用了命令模式,即為每類消息創(chuàng)建一個Handle類,在處理消息時,根據(jù)消息類型由工廠模式[5]創(chuàng)建相應(yīng)的MessageHan dle,調(diào)用execute方法執(zhí)行處理,這樣方便對消息類型進行擴展。

    3.2 計算節(jié)點管理

    要對計算節(jié)點(ComputeNode)進行管理,首先要獲得計算節(jié)點的信息,而計算節(jié)點信息的獲取又分為兩個階段,第一個階段是初始化,當(dāng)一個計算節(jié)點啟動時,會自動開啟一個線程,向配置文件里配置的Master的IP和PORT發(fā)送注冊請求,Master收到注冊請求后便將此節(jié)點信息添加到ComputeNodeManager中,計算節(jié)點只有當(dāng)收到Master的SimpleMessage::RegisterConfirmed消息后,才會停止注冊請求;第二個階段是更新信息,當(dāng)注冊成功后,計算節(jié)點會開啟一個Keep-Alive線程,每隔固定時間K便向Master發(fā)送NodeStatusMessage消息更新ComputeNodeManager中相應(yīng)的計算節(jié)點信息,需注意K設(shè)置的太大會使任務(wù)調(diào)度時信息不準(zhǔn)確,K設(shè)置過小又會使得此線程開銷過大影響系統(tǒng)效率。

    3.3 任務(wù)調(diào)度

    任務(wù)調(diào)度有三個關(guān)鍵問題,分別是調(diào)度對象,調(diào)度時機和調(diào)度策略。

    對于本系統(tǒng),調(diào)度對象指的是任務(wù)和計算節(jié)點,根據(jù)前面的描述,我們知道當(dāng)執(zhí)行任務(wù)調(diào)度時,TaskManger和ComputeNodeManager中已有了用來調(diào)度的任務(wù)和計算資源。

    調(diào)度時機有兩個,首先當(dāng)有新的計算節(jié)點注冊時,在執(zhí)行完注冊相關(guān)操作后會進行任務(wù)調(diào)度,其次當(dāng)Master收到TaskStatusMessage后,會接著進行一次任務(wù)調(diào)度,因為Task的執(zhí)行狀態(tài)只有兩種,分部是成功和失敗,執(zhí)行成功意味著有計算資源處于空閑,可以進行新的任務(wù)分配,而執(zhí)行失敗表示有空閑的任務(wù)可被調(diào)度。

    在進行調(diào)度時,Schedule首先從TaskManager和ComputeNodeManager獲取所有可分配的任務(wù)和計算資源,先對可用計算節(jié)點分別按CPU和內(nèi)存排序,然后對每一個任務(wù),若CPU權(quán)值>=內(nèi)存權(quán)值,則優(yōu)先選CPU最大的節(jié)點分配此任務(wù),否則優(yōu)先按內(nèi)存大小尋找節(jié)點,然后此節(jié)點減去消耗值,將此任務(wù)加入此節(jié)點的待分配隊列,然后對下一個任務(wù)繼續(xù)如此分配,直到所有待分配任務(wù)分配完成或所有節(jié)點不滿足任何一個任務(wù)的分配,最后下發(fā)消息將待分配隊列的內(nèi)容分別發(fā)送給各個計算節(jié)點。

    3.4 容錯機制

    容錯機制指的是當(dāng)計算任務(wù)出現(xiàn)問題,或者計算節(jié)點出現(xiàn)問題時整個系統(tǒng)的應(yīng)對機制。首先當(dāng)任務(wù)執(zhí)行錯誤時,會由ComputeNode主動向Master報告此錯誤,然后Master會回滾此任務(wù)狀態(tài)重新分配執(zhí)行;而當(dāng)計算節(jié)點因為斷電、機械故障等原因無法和整個系統(tǒng)通信時,Master若超過3個Keep-Alive線程周期都沒有收到某ComputeNode的節(jié)點狀態(tài)信息,則認為此節(jié)點故障,此時Master會先檢查任務(wù)列表,查看此節(jié)點上哪些已完成任務(wù)還有后置任務(wù)(即有其余的尚未完成的任務(wù)依賴于此節(jié)點上已完成的任務(wù)),將這些任務(wù)和上一次分配分配給此節(jié)點的任務(wù)一起重新調(diào)度執(zhí)行,這樣便可使得整個系統(tǒng)的任務(wù)依賴和數(shù)據(jù)依賴重新修復(fù),但會因為任務(wù)重做造成一定的時間損耗。

    4 ComputeNode部分

    ComputeNode部分主要是完成Master分配的計算任務(wù),任務(wù)完成或失敗后返回消息給Master,并且通過Pipe對計算得到的數(shù)據(jù)進行存儲,接收到其他節(jié)點的數(shù)據(jù)請求時發(fā)送數(shù)據(jù)給對方。此部分的消息處理機制

    和Master部分是一樣的。當(dāng)收到Master發(fā)來的Filter-Message時,便對任務(wù)隊列的每一個任務(wù)單獨開啟一個線程,由工廠創(chuàng)建對應(yīng)的Filter執(zhí)行計算任務(wù)(如果所需數(shù)據(jù)不在本地,需要進行數(shù)據(jù)請求),執(zhí)行完成后,通過Pipe進行數(shù)據(jù)存儲。下面對數(shù)據(jù)存儲和請求數(shù)據(jù)兩部分做進一步說明。

    4.1 數(shù)據(jù)請求

    FilterMessage消息攜帶了每個任務(wù)所需數(shù)據(jù)存放的節(jié)點IP、名稱等信息,當(dāng)Filter執(zhí)行時,對每一個所需參數(shù)先檢查數(shù)據(jù)IP是否和本地IP一致,若一致則檢查下一個,若不一致則向此IP發(fā)送數(shù)據(jù)請求消息(RequsetDataMessage),目的ComputeNode接收此消息后,通過Pipe查找到數(shù)據(jù),發(fā)送給請求方的PipePool(使用Pool是為了避免多個數(shù)據(jù)傳輸阻塞),請求方獲取到數(shù)據(jù)后,再對下一個參數(shù)做同樣檢查或請求,直到所有參數(shù)都準(zhǔn)備就緒,便開始執(zhí)行計算。

    4.2 數(shù)據(jù)存儲

    當(dāng)Filter執(zhí)行完計算任務(wù)后,需要通過Pipe將數(shù)據(jù)存儲下來,Pipe本身不執(zhí)行存儲操作,它只負責(zé)對數(shù)據(jù)名稱、路徑等信息做記錄,真正的存儲操作交給更底層的Storage處理,本文在設(shè)計Storage時使用了緩存技術(shù),即以一定大小的內(nèi)存來緩存數(shù)據(jù)對象,避免寫到硬盤帶來的序列化和逆序列化時間消耗,使用的內(nèi)存大小由配置文件進行設(shè)置。內(nèi)存緩存策略為:新生成的數(shù)據(jù)會優(yōu)先存到內(nèi)存中,如果可用內(nèi)存超過了閾值的話,就將一部分數(shù)據(jù)置換到硬盤上,置換算法使用LRU[6]算法,即存儲中的每個數(shù)據(jù)對應(yīng)一個int,剛存入時置為0,每次存儲新數(shù)據(jù)時,以前的都加1,被訪問的數(shù)據(jù)重新置0,這樣當(dāng)置換時,優(yōu)先置換int值最大的數(shù)據(jù)。緩存技術(shù)加上底層Infiniband高速網(wǎng)絡(luò)[7-8]使得本文并框架對實時性應(yīng)用也有很好的支持。

    5 實驗結(jié)果

    本文通過一個實際的應(yīng)用來驗證并行計算框架的實用性和有效性,選取的應(yīng)用是“全景圖拼接”[9],其處理流程如圖4所示,包含多個步驟,該應(yīng)用是一個典型的DAG型應(yīng)用,如圖5所示,有的步驟可以切分成多個子任務(wù),有的步驟又需要全局的數(shù)據(jù),各步驟之間的任務(wù)存在較復(fù)雜的依賴關(guān)系,可以全面地檢驗本文并行系統(tǒng)的有效性。

    5.1 實驗平臺

    實驗環(huán)境中,每臺計算機配置相同,配置均為:處理器:Intel Xeon CPU E3-1230 v3@3.30GHz四核;內(nèi)存:16.0GB;操作系統(tǒng):Windows 7(64位)。

    5.2 結(jié)果分析

    為了證明本文并行計算框架的有效性,分別對不同計算節(jié)點數(shù)量、不同規(guī)模輸入數(shù)據(jù)情況下的計算耗時做測試,各情況下耗時如表1所示。

    可以看出,在數(shù)據(jù)量較小時,任務(wù)并行計算帶來的效率提升被數(shù)據(jù)傳輸?shù)膿p耗所抵消,在2臺計算節(jié)點、108張輸入圖片的情況下,多機并行的執(zhí)行速度已經(jīng)超過了單機串行的速度,并且隨著計算節(jié)點、輸入數(shù)據(jù)規(guī)模的增大,效率提升越來越明顯。當(dāng)計算節(jié)點為4個,輸入圖像數(shù)量為288張時,并行框架效率比串行時高了一倍。

    圖4 景圖拼接流程

    圖5 全景圖拼接子任務(wù)依賴

    表1 不同輸入圖像(張)和不同計算節(jié)點(個)下運算耗時

    通過此實驗可以驗證本文并行框架的有效性,但是效率提升并未達到1:1(即效率提升倍數(shù)等于同等配置計算節(jié)點個數(shù)),分析其原因主要有以下3點:(1)并行框架底層的消息傳輸、數(shù)據(jù)傳輸以及任務(wù)分配算法都會有一定耗時;(2)對于DAG型應(yīng)用,各任務(wù)間有依賴,有時需要等待任務(wù)同步;(3)全景圖拼接應(yīng)用中有一些“瓶頸”任務(wù)(例如相機標(biāo)定),這類任務(wù)依賴于上一步的所有數(shù)據(jù),因此無法進行并行。

    6 結(jié)語

    本文提出一種基于集群的通用并行計算框架,參考“管道過濾器”模型,由TaskSplitter解析自定義的任務(wù)描述腳本,自動劃分子任務(wù)和生成依賴關(guān)系,由Master進行計算資源管理和任務(wù)調(diào)度,由ComputeNode完成任務(wù)計算和數(shù)據(jù)存儲??蚣苤С秩魏蜠AG型應(yīng)用,并且支持迭代式應(yīng)用和實時性應(yīng)用,另外對于ComputeNode具有一定程度容錯備災(zāi)能力。

    本文框架目前無法解決Master節(jié)點單點故障,下一步計劃采用分布式共享存儲系統(tǒng)[9]重新對Master信息和計算數(shù)據(jù)做冗余備災(zāi)。

    [1]王磊.并行計算技術(shù)綜述[J].信息技術(shù),2012,10.

    [2]J.Dean,S.Ghemawat.MapReduce:Simplified Data Processing on Large Clusters[J].Communications of the ACM-50th Anniversary Issue:1958-2008.2008.51(1):107-113.

    [3]T.White.Hadoop:The Definitive Guide,Third Edtion[M].United States of America.O'Reilly Media,Inc.2012:3-12.

    [4]V.Ambriola.G.Tortora.Advances in Software Engineering and Knowledge Engineering[M].Farrer Road,Singapore 9128.World Scientific Publishing Co.Pte.Ltd.1993:95-109.

    [5]W.Pree.Design Patterns For Object-Oriented Software Development[M].Wokingham,England.Computing Machines(ACM)and Addison-Wesley Publishing Company,1994

    [6]E.J.O'Neil,P.E.O'Neil and G.Weikum.The LRU-K Page Replacement Algorithm for Database Disk Buffering.Proc.of the 1993 ACM SIGMOD International Conference on Management of Data,pp.297-306.

    [7][2]Pentakalos O I.An Introduction to the InfiniBand Architecture[M].High Performance Mass Storage and Parallel I/O:Technologies and Applications.Wiley-IEEE Press,2002:616.

    [8][4]Vivek D.Deshmukh.InfiniBand:A New Era in Networkint[C].Proceedings of National Conference on Innovative Paradigms in Engineering&Technology.New York,USA:Foundation of Computer Science,2012.

    [9][8]Pandey A,Pati U C.Panoramic Image Mosaicing:An Optimized Graph-Cut Approach[M].Proceedings of 3rd International Conference on Advanced Computing,Networking and Informatics.Springer India,2016:299.

    [10]K.Shvachko,H.Kuang,S.Radia,R.Chansler.The Hadoop Distributed File System[J].Mass Storage Systems and Technologies (MSST),2010 IEEE 26th Symposium on.IEEE,2010:1-10.

    Design of a General Parallel Computing Framework Based on Cluster

    WANG Ning

    (College of Computer Science,Sichuan University,Chengdu 610065)

    In recent years,the amount of data and computation requirements in various fields has increased significantly.Traditional single computing devices are often incapable of performing such computational tasks.More and more fields are beginning to use parallel computing. Distributed computation is one of the main parallel computing methods,Hadoop is a most common framework based on Map-Reduce in distributed computation.Proposes a general parallel computing framework based on cluster.Describes the"task splitter","master node" and"computing node"in details with reference to"pipeline filter"mode.Compared with Hadoop,directed acyclic graph task is better supported,iteration task is supported.In addition,caching mechanism is added to reduce system time-consuming and support real-time application to a certain extent.

    Parallel Computing;Cluster;System Framework;DAG;Cache

    1007-1423(2016)35-0020-07

    10.3969/j.issn.1007-1423.2016.35.004

    王寧(1992-),男,陜西咸陽人,碩士研究生,研究方向為計算機圖形學(xué)、并行計算

    2016-10-18

    2016-11-30

    猜你喜歡
    任務(wù)調(diào)度消息框架
    框架
    廣義框架的不相交性
    一張圖看5G消息
    基于改進NSGA-Ⅱ算法的協(xié)同制造任務(wù)調(diào)度研究
    基于時間負載均衡蟻群算法的云任務(wù)調(diào)度優(yōu)化
    WTO框架下
    法大研究生(2017年1期)2017-04-10 08:55:06
    云計算環(huán)境中任務(wù)調(diào)度策略
    云計算中基于進化算法的任務(wù)調(diào)度策略
    一種基于OpenStack的云應(yīng)用開發(fā)框架
    消息
    天堂俺去俺来也www色官网| 久久九九热精品免费| 夜夜夜夜夜久久久久| av国产精品久久久久影院| 欧美精品亚洲一区二区| 国产蜜桃级精品一区二区三区| 丝袜美腿诱惑在线| 99久久国产精品久久久| 人人妻人人添人人爽欧美一区卜| 动漫黄色视频在线观看| 精品国产美女av久久久久小说| 日本免费a在线| 久久久精品国产亚洲av高清涩受| 国产亚洲精品综合一区在线观看 | 夜夜夜夜夜久久久久| 热re99久久国产66热| 12—13女人毛片做爰片一| 久久精品国产亚洲av香蕉五月| 亚洲国产精品一区二区三区在线| 亚洲精品国产一区二区精华液| 一本大道久久a久久精品| 久久欧美精品欧美久久欧美| 国产精品日韩av在线免费观看 | 欧美最黄视频在线播放免费 | 国产精品 国内视频| 欧美一级毛片孕妇| 亚洲一区中文字幕在线| 精品国产一区二区三区四区第35| 一级片免费观看大全| 人妻久久中文字幕网| 两性午夜刺激爽爽歪歪视频在线观看 | 国产精品久久久久久人妻精品电影| 首页视频小说图片口味搜索| 又黄又爽又免费观看的视频| 免费少妇av软件| 少妇裸体淫交视频免费看高清 | 三上悠亚av全集在线观看| 国产精品二区激情视频| 午夜精品久久久久久毛片777| 两个人看的免费小视频| 午夜视频精品福利| 天天添夜夜摸| 精品日产1卡2卡| 欧美精品啪啪一区二区三区| 少妇被粗大的猛进出69影院| 亚洲精华国产精华精| 免费久久久久久久精品成人欧美视频| 女同久久另类99精品国产91| 一二三四社区在线视频社区8| 久久九九热精品免费| 人人澡人人妻人| 一区二区三区激情视频| 国产一区二区在线av高清观看| 69精品国产乱码久久久| 麻豆一二三区av精品| 日韩免费av在线播放| 国产一区二区在线av高清观看| av福利片在线| 国产熟女xx| 99国产极品粉嫩在线观看| 久久久久久大精品| 大码成人一级视频| 一二三四在线观看免费中文在| 精品一品国产午夜福利视频| 麻豆av在线久日| av天堂久久9| 亚洲精品成人av观看孕妇| 他把我摸到了高潮在线观看| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲午夜理论影院| 久久狼人影院| 国产精华一区二区三区| 亚洲精品久久午夜乱码| 日本五十路高清| 叶爱在线成人免费视频播放| 夫妻午夜视频| 身体一侧抽搐| 91av网站免费观看| 免费av中文字幕在线| 一边摸一边做爽爽视频免费| av有码第一页| 成人三级做爰电影| 动漫黄色视频在线观看| 日韩视频一区二区在线观看| 校园春色视频在线观看| 老司机在亚洲福利影院| 岛国视频午夜一区免费看| 午夜精品在线福利| 亚洲欧美一区二区三区久久| 精品一品国产午夜福利视频| 真人一进一出gif抽搐免费| 亚洲 欧美一区二区三区| 纯流量卡能插随身wifi吗| 久久久国产精品麻豆| 国产精品秋霞免费鲁丝片| 黄色怎么调成土黄色| 欧美亚洲日本最大视频资源| 色综合站精品国产| 人妻久久中文字幕网| 欧美精品亚洲一区二区| 啦啦啦 在线观看视频| 99久久国产精品久久久| 色老头精品视频在线观看| 久久精品aⅴ一区二区三区四区| 国产精品 国内视频| 国产日韩一区二区三区精品不卡| 97碰自拍视频| 欧美在线一区亚洲| 怎么达到女性高潮| 日韩成人在线观看一区二区三区| 99国产精品一区二区蜜桃av| 午夜成年电影在线免费观看| 12—13女人毛片做爰片一| 国产免费现黄频在线看| 一级片'在线观看视频| 亚洲欧美精品综合一区二区三区| 午夜福利欧美成人| 高清毛片免费观看视频网站 | 丰满的人妻完整版| 久99久视频精品免费| 乱人伦中国视频| 国产亚洲精品第一综合不卡| 国产精品久久视频播放| 男男h啪啪无遮挡| 日韩成人在线观看一区二区三区| 久久精品亚洲av国产电影网| 国产伦一二天堂av在线观看| 亚洲精品久久成人aⅴ小说| 久久精品成人免费网站| 久久青草综合色| 欧美日韩亚洲高清精品| 国产成人精品无人区| 男女高潮啪啪啪动态图| 大型黄色视频在线免费观看| 91av网站免费观看| 91老司机精品| 美女大奶头视频| 一级,二级,三级黄色视频| 久久人人爽av亚洲精品天堂| 亚洲欧美日韩无卡精品| 后天国语完整版免费观看| 久久久久久久久中文| 美女大奶头视频| 国产精品 国内视频| 人人妻人人添人人爽欧美一区卜| 巨乳人妻的诱惑在线观看| 最近最新免费中文字幕在线| 国产1区2区3区精品| 涩涩av久久男人的天堂| 18禁裸乳无遮挡免费网站照片 | 中文欧美无线码| 精品高清国产在线一区| 在线观看免费视频网站a站| a在线观看视频网站| 脱女人内裤的视频| avwww免费| 两性夫妻黄色片| 亚洲国产欧美网| 久久狼人影院| 国产国语露脸激情在线看| 国产成+人综合+亚洲专区| 在线视频色国产色| 两性夫妻黄色片| 日日夜夜操网爽| 亚洲成人免费av在线播放| 亚洲国产欧美一区二区综合| 久久久久久久久中文| 国产不卡一卡二| 成年人黄色毛片网站| 亚洲av成人一区二区三| 美女午夜性视频免费| 国产精品 国内视频| 国产99久久九九免费精品| 新久久久久国产一级毛片| 男女下面插进去视频免费观看| 国产aⅴ精品一区二区三区波| 91字幕亚洲| 最近最新中文字幕大全免费视频| 日日摸夜夜添夜夜添小说| 精品久久久久久,| 久久精品91无色码中文字幕| 亚洲av成人一区二区三| 亚洲男人天堂网一区| 日本撒尿小便嘘嘘汇集6| 亚洲精品一卡2卡三卡4卡5卡| 亚洲精品美女久久av网站| 欧美丝袜亚洲另类 | 久久天堂一区二区三区四区| 日本撒尿小便嘘嘘汇集6| 九色亚洲精品在线播放| 极品教师在线免费播放| 亚洲精品久久午夜乱码| 婷婷六月久久综合丁香| 国产国语露脸激情在线看| 一边摸一边抽搐一进一出视频| 美女高潮喷水抽搐中文字幕| 成熟少妇高潮喷水视频| 韩国精品一区二区三区| 超色免费av| 黑人操中国人逼视频| 久久亚洲精品不卡| 99久久精品国产亚洲精品| 亚洲精品一卡2卡三卡4卡5卡| 成人免费观看视频高清| 久久影院123| 婷婷精品国产亚洲av在线| 啪啪无遮挡十八禁网站| 欧美乱码精品一区二区三区| 一二三四社区在线视频社区8| 久久久久国产一级毛片高清牌| 成人特级黄色片久久久久久久| 天天添夜夜摸| av国产精品久久久久影院| 亚洲国产看品久久| 亚洲人成伊人成综合网2020| 国产99白浆流出| 国产亚洲精品久久久久5区| 久久热在线av| 亚洲片人在线观看| e午夜精品久久久久久久| 丰满饥渴人妻一区二区三| 91av网站免费观看| 精品高清国产在线一区| 十八禁网站免费在线| 精品午夜福利视频在线观看一区| 国产精品影院久久| 午夜精品在线福利| 亚洲精品成人av观看孕妇| 黄色视频,在线免费观看| 后天国语完整版免费观看| 欧美精品啪啪一区二区三区| 久久久水蜜桃国产精品网| 欧美另类亚洲清纯唯美| 久久人人精品亚洲av| 久久九九热精品免费| 在线十欧美十亚洲十日本专区| 老汉色av国产亚洲站长工具| 亚洲欧洲精品一区二区精品久久久| 免费看a级黄色片| 男人的好看免费观看在线视频 | 在线观看午夜福利视频| 久久精品亚洲精品国产色婷小说| 国产三级黄色录像| 午夜免费鲁丝| 亚洲第一青青草原| 午夜成年电影在线免费观看| 久久国产精品男人的天堂亚洲| 欧美日韩一级在线毛片| 久久精品91蜜桃| 高清黄色对白视频在线免费看| 一级毛片精品| 人人妻人人爽人人添夜夜欢视频| 欧洲精品卡2卡3卡4卡5卡区| 免费少妇av软件| 黄色片一级片一级黄色片| 在线观看66精品国产| 亚洲性夜色夜夜综合| 精品第一国产精品| av视频免费观看在线观看| 日本vs欧美在线观看视频| 妹子高潮喷水视频| 18美女黄网站色大片免费观看| 黑人操中国人逼视频| 人人妻人人爽人人添夜夜欢视频| 国产人伦9x9x在线观看| 欧美黑人精品巨大| 成人亚洲精品av一区二区 | 欧美中文综合在线视频| 美女大奶头视频| 一进一出抽搐动态| 亚洲成人久久性| 麻豆av在线久日| 高清欧美精品videossex| 久久精品影院6| 国产精品永久免费网站| av欧美777| 老司机午夜十八禁免费视频| 999久久久国产精品视频| 超色免费av| 欧美性长视频在线观看| 国产亚洲精品久久久久5区| 免费观看精品视频网站| 免费在线观看完整版高清| 亚洲avbb在线观看| 日韩 欧美 亚洲 中文字幕| 日本wwww免费看| 精品一区二区三区视频在线观看免费 | e午夜精品久久久久久久| 丝袜在线中文字幕| 一级,二级,三级黄色视频| 老司机深夜福利视频在线观看| 国产亚洲欧美在线一区二区| xxxhd国产人妻xxx| 黄片小视频在线播放| 亚洲男人的天堂狠狠| 亚洲自拍偷在线| 日本一区二区免费在线视频| 纯流量卡能插随身wifi吗| 91国产中文字幕| www日本在线高清视频| 视频区欧美日本亚洲| 搡老乐熟女国产| 99re在线观看精品视频| 女人被狂操c到高潮| 免费在线观看影片大全网站| 欧美色视频一区免费| 精品少妇一区二区三区视频日本电影| 18美女黄网站色大片免费观看| 免费在线观看视频国产中文字幕亚洲| 国产亚洲精品久久久久5区| 看免费av毛片| 成年人免费黄色播放视频| 国产日韩一区二区三区精品不卡| 国产蜜桃级精品一区二区三区| 欧美成人免费av一区二区三区| 波多野结衣高清无吗| tocl精华| 国产无遮挡羞羞视频在线观看| 视频在线观看一区二区三区| 国产精品99久久99久久久不卡| 18禁美女被吸乳视频| 午夜91福利影院| 黄色视频不卡| 亚洲精品av麻豆狂野| 91精品三级在线观看| 亚洲精品国产色婷婷电影| 欧美av亚洲av综合av国产av| 亚洲成a人片在线一区二区| 中文亚洲av片在线观看爽| 啪啪无遮挡十八禁网站| 成年版毛片免费区| 亚洲aⅴ乱码一区二区在线播放 | 欧美黑人欧美精品刺激| 精品第一国产精品| 99精品欧美一区二区三区四区| 丰满人妻熟妇乱又伦精品不卡| 男人舔女人下体高潮全视频| 美女扒开内裤让男人捅视频| av欧美777| av网站在线播放免费| 丁香欧美五月| 精品午夜福利视频在线观看一区| 久久狼人影院| 日本三级黄在线观看| av欧美777| 高清av免费在线| 在线观看一区二区三区激情| 中出人妻视频一区二区| 一级a爱片免费观看的视频| 国产97色在线日韩免费| 国产精品久久久av美女十八| 精品午夜福利视频在线观看一区| 日本欧美视频一区| 精品日产1卡2卡| 亚洲欧美日韩无卡精品| 成人三级做爰电影| 国产成人系列免费观看| 久久草成人影院| 午夜影院日韩av| 黄色片一级片一级黄色片| 999久久久国产精品视频| 欧美日韩一级在线毛片| 日韩欧美国产一区二区入口| 色婷婷av一区二区三区视频| 国产av在哪里看| x7x7x7水蜜桃| 99久久人妻综合| 欧美成狂野欧美在线观看| 国产精品亚洲一级av第二区| 嫁个100分男人电影在线观看| 热99国产精品久久久久久7| 日韩视频一区二区在线观看| 亚洲自偷自拍图片 自拍| 男女之事视频高清在线观看| 欧美 亚洲 国产 日韩一| 日本免费a在线| 两性午夜刺激爽爽歪歪视频在线观看 | 精品久久久久久久久久免费视频 | 欧洲精品卡2卡3卡4卡5卡区| 精品国产美女av久久久久小说| 久久久久精品国产欧美久久久| 一进一出好大好爽视频| 黑人欧美特级aaaaaa片| 亚洲精品粉嫩美女一区| 色综合婷婷激情| 嫩草影院精品99| 色播在线永久视频| 久久人妻熟女aⅴ| 国产精品乱码一区二三区的特点 | 亚洲精品国产一区二区精华液| 男人舔女人下体高潮全视频| 国产人伦9x9x在线观看| 一二三四社区在线视频社区8| 看免费av毛片| 亚洲人成77777在线视频| 色综合婷婷激情| 极品教师在线免费播放| 欧美日韩瑟瑟在线播放| 国产精品久久视频播放| 国产无遮挡羞羞视频在线观看| 波多野结衣一区麻豆| 一进一出抽搐gif免费好疼 | 精品人妻在线不人妻| 久久久久精品国产欧美久久久| 成人三级黄色视频| 欧美中文综合在线视频| 国产精品免费一区二区三区在线| 日韩大尺度精品在线看网址 | 国产熟女午夜一区二区三区| 久久人人97超碰香蕉20202| 精品无人区乱码1区二区| www.自偷自拍.com| 少妇的丰满在线观看| 久久狼人影院| 久久国产精品人妻蜜桃| 美女高潮到喷水免费观看| 亚洲av片天天在线观看| 久久精品国产亚洲av高清一级| 亚洲色图av天堂| 1024视频免费在线观看| 999精品在线视频| 久99久视频精品免费| 人人妻,人人澡人人爽秒播| 女人精品久久久久毛片| 亚洲精品久久成人aⅴ小说| 天堂影院成人在线观看| 久久精品影院6| 热re99久久国产66热| 日韩欧美免费精品| 亚洲精品一卡2卡三卡4卡5卡| 男人的好看免费观看在线视频 | 大码成人一级视频| 久久精品国产亚洲av香蕉五月| 精品第一国产精品| 欧美日韩中文字幕国产精品一区二区三区 | 人人澡人人妻人| 欧美午夜高清在线| 两个人看的免费小视频| 90打野战视频偷拍视频| 欧美性长视频在线观看| www.www免费av| 超碰97精品在线观看| 欧美日韩福利视频一区二区| 国产三级在线视频| 亚洲avbb在线观看| 人人妻人人爽人人添夜夜欢视频| 午夜日韩欧美国产| 狠狠狠狠99中文字幕| 在线观看66精品国产| tocl精华| 国产野战对白在线观看| svipshipincom国产片| 国产精品二区激情视频| 久久精品国产综合久久久| 天堂中文最新版在线下载| 亚洲欧美精品综合一区二区三区| 波多野结衣一区麻豆| 婷婷精品国产亚洲av在线| 亚洲欧美精品综合久久99| 国产欧美日韩一区二区三| 日韩大尺度精品在线看网址 | 亚洲一区高清亚洲精品| 日韩欧美一区二区三区在线观看| av国产精品久久久久影院| av在线天堂中文字幕 | 99国产综合亚洲精品| 亚洲一区中文字幕在线| 如日韩欧美国产精品一区二区三区| 日韩精品青青久久久久久| 国产单亲对白刺激| 国产一卡二卡三卡精品| 真人做人爱边吃奶动态| 亚洲av熟女| 成人特级黄色片久久久久久久| bbb黄色大片| 免费少妇av软件| 久久国产精品人妻蜜桃| 一个人免费在线观看的高清视频| 老司机在亚洲福利影院| 久9热在线精品视频| 免费看a级黄色片| √禁漫天堂资源中文www| 老汉色av国产亚洲站长工具| 欧美人与性动交α欧美软件| 男人的好看免费观看在线视频 | 国产成人啪精品午夜网站| 中文字幕人妻丝袜一区二区| 咕卡用的链子| 久久精品91无色码中文字幕| 91字幕亚洲| 人妻久久中文字幕网| 88av欧美| 无限看片的www在线观看| 国产黄色免费在线视频| 日韩精品青青久久久久久| 熟女少妇亚洲综合色aaa.| 亚洲成av片中文字幕在线观看| 亚洲欧美一区二区三区久久| 免费看十八禁软件| 韩国精品一区二区三区| 多毛熟女@视频| 国产一区二区在线av高清观看| 热99国产精品久久久久久7| 久久精品亚洲av国产电影网| 国产野战对白在线观看| 最新美女视频免费是黄的| 午夜福利在线免费观看网站| 欧美精品亚洲一区二区| 国产国语露脸激情在线看| 在线观看一区二区三区| 窝窝影院91人妻| 欧美成人性av电影在线观看| 999精品在线视频| 可以免费在线观看a视频的电影网站| 欧美激情 高清一区二区三区| 99久久99久久久精品蜜桃| 亚洲五月天丁香| 18禁观看日本| 国产精品 欧美亚洲| 成人免费观看视频高清| 九色亚洲精品在线播放| 99久久国产精品久久久| 80岁老熟妇乱子伦牲交| 色综合婷婷激情| 中国美女看黄片| 乱人伦中国视频| 在线播放国产精品三级| 天天添夜夜摸| 中文亚洲av片在线观看爽| 亚洲成a人片在线一区二区| 1024香蕉在线观看| 国产亚洲精品一区二区www| 视频在线观看一区二区三区| av中文乱码字幕在线| 中文字幕最新亚洲高清| 国产有黄有色有爽视频| 精品国产超薄肉色丝袜足j| 色婷婷av一区二区三区视频| 欧美激情 高清一区二区三区| 美国免费a级毛片| 超色免费av| 亚洲自拍偷在线| 精品一区二区三区av网在线观看| 免费女性裸体啪啪无遮挡网站| 精品国产超薄肉色丝袜足j| 国产成人欧美在线观看| 国产成年人精品一区二区 | 在线观看免费日韩欧美大片| 亚洲成人精品中文字幕电影 | 精品人妻在线不人妻| 亚洲中文日韩欧美视频| 视频在线观看一区二区三区| 亚洲精品一区av在线观看| 久久人妻av系列| 欧美激情高清一区二区三区| 亚洲精品国产区一区二| 国产亚洲欧美精品永久| 视频区欧美日本亚洲| 亚洲五月色婷婷综合| 亚洲成a人片在线一区二区| 日韩欧美三级三区| 欧美乱色亚洲激情| 久久久国产成人免费| 亚洲精品久久成人aⅴ小说| 一区二区三区国产精品乱码| 亚洲一区二区三区欧美精品| av天堂在线播放| 精品第一国产精品| 亚洲欧美一区二区三区黑人| ponron亚洲| 国产精品 欧美亚洲| 成在线人永久免费视频| 久久久久久免费高清国产稀缺| 自拍欧美九色日韩亚洲蝌蚪91| 国产午夜精品久久久久久| 亚洲av五月六月丁香网| 久久这里只有精品19| 在线免费观看的www视频| 久久精品亚洲熟妇少妇任你| 99热国产这里只有精品6| 他把我摸到了高潮在线观看| 欧美乱色亚洲激情| 欧美人与性动交α欧美精品济南到| 日本 av在线| 在线观看舔阴道视频| 香蕉国产在线看| avwww免费| 91在线观看av| 男人操女人黄网站| 精品人妻在线不人妻| 香蕉久久夜色| 午夜精品久久久久久毛片777| 国产av一区二区精品久久| 亚洲一区二区三区不卡视频| 18禁裸乳无遮挡免费网站照片 | 亚洲av五月六月丁香网| 免费在线观看亚洲国产| 中文字幕人妻丝袜一区二区| 老司机在亚洲福利影院| 两人在一起打扑克的视频| 久久精品影院6| 在线观看66精品国产| 可以免费在线观看a视频的电影网站| 女生性感内裤真人,穿戴方法视频| 黑人巨大精品欧美一区二区mp4| 成年女人毛片免费观看观看9| 日韩三级视频一区二区三区| 在线观看免费视频日本深夜| 欧美一级毛片孕妇| 露出奶头的视频| 久久精品91蜜桃| 亚洲国产中文字幕在线视频| 国内毛片毛片毛片毛片毛片| 国产欧美日韩一区二区三区在线| 亚洲精品国产色婷婷电影|