云計算數(shù)據(jù)中心網(wǎng)絡(luò)中資源分配與調(diào)度研究

公誠管理咨詢有限公司 陳欲科

在互聯(lián)網(wǎng)發(fā)展的過程中，云計算可以實現(xiàn)通過網(wǎng)絡(luò)將軟硬件資源和信息整合共享，按照要求把不同的信息提供給不同計算機的終端和其他設(shè)備。提供設(shè)備的時候，要用到數(shù)據(jù)中心作為云計算的支撐設(shè)施，所以數(shù)據(jù)中心的資源分配和調(diào)度問題是非常重要的，相關(guān)人員需要對其進行深入研究。本篇文章將對云計算數(shù)據(jù)中心進行結(jié)構(gòu)和特征的詳細介紹，通過研究負載均衡對云計算數(shù)據(jù)中心網(wǎng)絡(luò)資源分配的問題，解決數(shù)據(jù)中心資源分配和調(diào)度的問題。

云計算服務(wù)的基礎(chǔ)是數(shù)據(jù)中心，云計算的特點是低成本和高效率。人們可以使用它對數(shù)據(jù)進行大規(guī)模的處理和儲存，云計算數(shù)據(jù)中心隨著互聯(lián)網(wǎng)時代的不斷發(fā)展和進步，規(guī)模也不得不繼續(xù)擴張，云數(shù)據(jù)中心的資源分配和調(diào)度問題受到了多方面的重視和關(guān)注，面對大量的工作和用戶，負載過多，必須要盡快解決資源的分配和調(diào)度問題。不僅在學術(shù)界，在工業(yè)界希望能夠深入的研究這個問題。

1 云計算數(shù)據(jù)中心結(jié)構(gòu)

網(wǎng)絡(luò)交換機、機架、冷卻系統(tǒng)、主機四個部分構(gòu)成一個云計算數(shù)據(jù)中心，這是十分典型的組成結(jié)構(gòu)。

2 云計算數(shù)據(jù)中心網(wǎng)絡(luò)特征

2.1 服務(wù)器和中間設(shè)備的資源多樣性

云計算數(shù)據(jù)中心具有差異性，才能準確精準地為客戶提供服務(wù)，以數(shù)據(jù)多樣性的特點，這也是云計算數(shù)據(jù)中心網(wǎng)絡(luò)的顯著特征。從大的方面來說，一般可以將網(wǎng)絡(luò)資源分為兩類，一類是通信資源，另一類是計算資源。Hadoop，YARN和Mesos等等都是在數(shù)據(jù)中心中廣泛使用的主流大數(shù)據(jù)框架，可以支持多種資源的調(diào)度與分配。這也就是說，云計算數(shù)據(jù)中心可以提供很多計算或者資源的類型，例如CPU、GPU，內(nèi)存、存儲、鏈路帶寬等，通常來說，不同種類資源，使用的數(shù)量也不一樣。

相關(guān)學者在Facebook上對一個2000節(jié)點的集群進行調(diào)查，研究多資源分配的必要性，在一個月內(nèi)對資源的使用情況做出記錄，并依據(jù)記錄的數(shù)據(jù)繪制圖，這充分證明了多資源分配的必要性。圓圈的大小與圓圈內(nèi)區(qū)域中的任務(wù)數(shù)量呈對數(shù)關(guān)系，相對應(yīng)被用戶任務(wù)消耗的內(nèi)存和CPU資源由圖中的圓圈代表。大數(shù)據(jù)中心的任務(wù)，尤其是reduce，需要消耗很多CPU資源和內(nèi)存。

在入侵檢測時會消耗更多CPU的資源。也就是說，在NFV環(huán)境中，不同的中間設(shè)備處理不同的資源，消耗的功能也不同，所以要根據(jù)要求來處理數(shù)據(jù)流，同時根據(jù)需求讓一個中間設(shè)備做出調(diào)度的決策，協(xié)調(diào)多種資源。在處理小型數(shù)據(jù)包的時候與處理大型數(shù)據(jù)包時的消耗是不同的，第一種情況瓶頸資源是內(nèi)存帶寬，而第二種則是鏈路帶寬。隨著信息時代的不斷發(fā)展，中間設(shè)備的異構(gòu)化也越來越受到人們的重視。

圖1 四種在Click中執(zhí)行的功能模塊的歸一化的資源使用率

相關(guān)學者測量了在Click中執(zhí)行的四種主要網(wǎng)絡(luò)功能應(yīng)用的資源痕跡。這四種網(wǎng)絡(luò)功能分別為：基礎(chǔ)轉(zhuǎn)發(fā)功能（basicforwarding，流量監(jiān)控功能（flowmonitoring，冗余消除功能（redundancyelimination）以及IP安全加密功能（IPSecencryption）。這次的研究證明了在NFV中進行多資源流調(diào)度的必要性，這四種網(wǎng)絡(luò)功能資源占用情況在圖1明確體現(xiàn)了。每種網(wǎng)絡(luò)功能的最大資源消耗歸一化為1。從圖中可以看到：主要消耗鏈路帶寬的是基礎(chǔ)轉(zhuǎn)發(fā)功能與流量監(jiān)測功能，而占用更多的內(nèi)存空間卻是冗余消除功能，同時主要占用CPU資源的是IP安全加密功能。

2.2 分層級的工作負載結(jié)構(gòu)

云計算數(shù)據(jù)中心的客戶很多，不僅有大型小型的公司，還有很多的組織、機構(gòu)和私人用戶，在這些單位的內(nèi)部還有許多不同的部門和團體。這就要求云計算數(shù)據(jù)中心的工作負載必須要有明顯的分層級結(jié)構(gòu)，這樣，在用戶想云計算中心發(fā)送請求鏈接時，云計算數(shù)據(jù)中心會根據(jù)用戶提供不同的服務(wù)。

多租戶（multi-tenant）環(huán)境也是云計算數(shù)據(jù)中心經(jīng)常會涉及到的環(huán)境，每個租戶都是一個反復(fù)的數(shù)據(jù)流，然而各個租戶中間又存在著資源競爭的關(guān)系。搜索引擎是時延敏感型的應(yīng)用，而視頻應(yīng)用和批處理應(yīng)用卻是吞吐量敏感型的。由于每個租戶使用的應(yīng)用軟件不同，云計算數(shù)據(jù)中心使用的中間設(shè)備也必須要采用分層的結(jié)構(gòu)才能滿足用戶的需求。

2.3 用戶請求的異構(gòu)性

用戶的需求是各種各樣的，有時候不只是不同用戶間需要的服務(wù)不一樣，就連同一個用戶的不同部門之間需要的服務(wù)都不一樣，這就是用戶的異構(gòu)性。為了優(yōu)化處理性能，對用戶提供針對性的服務(wù)，云數(shù)據(jù)處理中心可以對世界各地不同的用戶發(fā)出的請求進行處理，向不同的用戶提供不同的服務(wù)，由于愿意投入的預(yù)算不同，這些用戶得到的體驗和服務(wù)也大不相同。

用戶的資源需要分配隔離，這就需要用到云計算數(shù)據(jù)中心的調(diào)度器，針對不同用戶的需求進行處理，保證每個用戶的基本資源，這就要求不管其他的用戶中是否有人面對著占用的服務(wù)器服務(wù)中斷的問題，都要保證每一個用戶都能夠獲得屬于自己的資源分配，保證資源隔離和資源保障，這樣公平的資源分配方案是保證每個用戶相應(yīng)資源的基本方法。

數(shù)據(jù)中心的部分工作負載是被約束的，只能被部署在某些服務(wù)器上，所以用戶的請求是具有放置約束（placementconstraints）的。Google的數(shù)據(jù)報告顯示，50%以上的工作都在Google服務(wù)器上只能在哪些服務(wù)器上運行的限制，這個限制是非常明確和嚴格的，這就導(dǎo)致了服務(wù)只能在這個局限里進行。這就是說CUPA的流量只能穿過GPUs的服務(wù)器，但是DNS的服務(wù)卻只能部署在擁有IP地址的服務(wù)器上。

2.4 高速調(diào)度資源的必要性

在HPC和網(wǎng)絡(luò)這樣的傳統(tǒng)網(wǎng)絡(luò)環(huán)境中，經(jīng)常會采用離線（offline）的方式對資源進行調(diào)度分配。在此之中，用戶的資源請求需要占用某些服務(wù)器，并且持續(xù)的時間很長，這就稱為用戶資源請求的粗粒度（coarse-grained），提前通知調(diào)度器執(zhí)行時間的上限，這樣就可以保證調(diào)度器可以為每一個用戶進行相應(yīng)的資源調(diào)配。

在云計算數(shù)據(jù)中心里，對調(diào)度器的要求很高，一般來說，調(diào)度器需要對資源合理的進行分配，并且做出合理科學的調(diào)度決策，同時，這些工作是需要在線進行（online）的，這個代表著在用戶進行請求或者是離開時都要迅速的反應(yīng)，對用戶的需求進行合理的調(diào)度調(diào)配。MapReduce和Dryad會將用戶的資源請求分割成一個接著一個的細粒度（fine-grained）的任務(wù)。作為數(shù)據(jù)密集型的計算環(huán)境，HadoopFairScheduler和Mesos是經(jīng)常使用的數(shù)據(jù)中心調(diào)度器，在成千上萬個用戶不斷的到達和離開中進行在線決策。一段時間內(nèi)，每個任務(wù)都會占用一定的服務(wù)器資源，同時無法確定占用的時長。所以在分配和調(diào)度數(shù)據(jù)中心的資源時，數(shù)據(jù)中心調(diào)度器需要根據(jù)實際情況進行迅速的決策，保證算法的復(fù)雜性和可實施性。

3 云計算數(shù)據(jù)中心網(wǎng)絡(luò)中資源分配與調(diào)度——基于負載均衡的資源分配改進

負載均衡器可以均衡資源問題。經(jīng)常使用的負載均衡技術(shù)有很多種，包括硬件負載均衡、軟件負載均衡和本地負載均衡。硬件均衡器是在服務(wù)器集群間安裝的，使用效果得到了顯著提高，但是成本也隨之增加了。一般的軟件均衡器是在服務(wù)器上安裝的，這樣的均衡器成本低，但是十分簡單，使用的效果也不好。本地負載均衡是把外部用戶的請求平均到許多個服務(wù)器，中和服務(wù)器可以解決單個服務(wù)器的單點問題。使用負載均衡技術(shù)可以綜合服務(wù)器的資源分配，是因為用戶的使用時間和占用資源的大小都是不確定的，具有異構(gòu)性，所以會造成服務(wù)器過閑或者是過重的問題。

投票算法俗稱“多選一”，資源分配的負載均衡與投票算法類似，本質(zhì)是從多個資源中選擇一個資源進行分配。投票算法需要滿足幾個基本原則。多個備選資源在本質(zhì)上平等，就算不同的權(quán)重，各資源之間也沒有根本區(qū)別，都是平等的按照不同的權(quán)重進行選擇。初期準備過程中，多準備備選資源，再從中選擇最優(yōu)資源。傳統(tǒng)的投票算法在搜索過程中易陷入局部最優(yōu)，所以需要大量準備備選資源。為了實現(xiàn)資源分配的負載均衡，本文對傳統(tǒng)的投票算法進行了改進。

組內(nèi)討論和組間討論組成了傳統(tǒng)投票法，每個資源數(shù)量占資源總數(shù)的比例不同。資源類中隨機選擇一個資源個體，對這個資源個體加入一個隨機的擾動，就能形成一個新的資源個體，這就是資源的更新。

結(jié)語：總的來說，用戶使用時長的不確定性和占用資源情況的不確定性，導(dǎo)致數(shù)據(jù)中心需要用調(diào)度器進行統(tǒng)一的決策和處理。由于用戶請求的多樣性，云計算的消耗是很多的，它需要消耗大量的資源進行查找，保證云計算數(shù)據(jù)中心的公平問題，也就保證了云計算數(shù)據(jù)中心的運行效果。要解決這個問題，要發(fā)展調(diào)度器的決策性，讓它在短時間內(nèi)迅速作出正確的決策。