Web服務(wù)器集群系統(tǒng)的自適應(yīng)負(fù)載均衡調(diào)度

嵇小飛

摘 要：基于LVS的Web服務(wù)器集群負(fù)載均衡默認(rèn)的加權(quán)最小連接調(diào)度算法，提出后端服務(wù)器主動(dòng)反饋負(fù)載，負(fù)載均衡器基于任務(wù)的權(quán)值分配調(diào)度的策略。針對(duì)Web服務(wù)器集群系統(tǒng)內(nèi)部的動(dòng)態(tài)自適應(yīng)負(fù)載任務(wù)均衡調(diào)度策略，能夠有效加速Web服務(wù)器響應(yīng)速度、提升集群系統(tǒng)性能，簡化調(diào)度過程，提高吞吐率。

關(guān)鍵詞：服務(wù)器集群；負(fù)載均衡；自適應(yīng)

中圖分類號(hào)： TP393.09 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)： 1673-1069（2016）17-153-2

0 引言

通常情況下，服務(wù)器集群中的網(wǎng)頁查詢?nèi)蝿?wù)采用的手段是動(dòng)態(tài)嵌入對(duì)象，面對(duì)不同量或者類型的任務(wù)，服務(wù)器的負(fù)載量存在10-100倍的差異，對(duì)分布式系統(tǒng)的處理能力的有效利用能夠保證多臺(tái)服務(wù)器聯(lián)合工作時(shí)負(fù)載的均衡。而一個(gè)良好的負(fù)載均衡手段能夠最大程度的減少執(zhí)行時(shí)間，計(jì)算機(jī)傳輸數(shù)據(jù)的開銷，并根據(jù)服務(wù)器處理能力的不同分配相應(yīng)的任務(wù)，使各個(gè)服務(wù)器的處理能力能夠最大化的得到利用。

1 LVS集群負(fù)載均衡策略

國防科技大學(xué)的章文嵩率先提出了一種有效的負(fù)載均衡策略——LVS，通過后來不斷地改進(jìn)，該負(fù)載策略已經(jīng)被廣泛地運(yùn)用在高性能的負(fù)載均衡系統(tǒng)中。隨著網(wǎng)絡(luò)技術(shù)的發(fā)展，客戶端的任務(wù)請(qǐng)求數(shù)量逐漸增大，服務(wù)器端將會(huì)出現(xiàn)大小不一的負(fù)載量，傳統(tǒng)的服務(wù)器技術(shù)難以及時(shí)地對(duì)客戶的請(qǐng)求做出響應(yīng)。搭建CentOS操作系統(tǒng)的LVS（LinuxVirtualServer）集群，Linux系統(tǒng)中自帶有負(fù)載均衡策略，因此能夠均衡不同用戶的不同類型或者不同量的任務(wù)。集群技術(shù)的運(yùn)用在一定程度上提高了數(shù)據(jù)檢索的效率，減少了系統(tǒng)響應(yīng)用戶請(qǐng)求的時(shí)間。實(shí)際開發(fā)過程中，對(duì)服務(wù)器使用最小連接策略進(jìn)行加權(quán)，依靠IPVS來實(shí)現(xiàn)負(fù)載均衡調(diào)度的實(shí)現(xiàn)，進(jìn)而完成基于數(shù)據(jù)檢索的Linux集群系統(tǒng)。不同服務(wù)器端的權(quán)值是其任務(wù)處理能力的衡量指標(biāo)，一般情況下將權(quán)值定義為服務(wù)器端的性能與當(dāng)前系統(tǒng)任務(wù)數(shù)的比值。該均衡調(diào)度對(duì)服務(wù)器分配任務(wù)主要依靠的是服務(wù)的任務(wù)處理能力和其連接的任務(wù)數(shù)，如果任務(wù)分配過于密集將會(huì)導(dǎo)致負(fù)載均衡器過載，出現(xiàn)阻礙系統(tǒng)運(yùn)行的瓶頸。

LVS算法只將當(dāng)前服務(wù)器鏈接的任務(wù)數(shù)量，但是僅僅用服務(wù)器當(dāng)前的任務(wù)數(shù)量反映服務(wù)器的真實(shí)負(fù)載狀況。因此為了更加準(zhǔn)確地對(duì)服務(wù)器的負(fù)載情況進(jìn)行分析，還需要對(duì)系統(tǒng)的性能、相應(yīng)時(shí)間、開發(fā)費(fèi)用等參數(shù)進(jìn)行剖析，真正做到將服務(wù)器集群的運(yùn)行效率提高。負(fù)載均衡器對(duì)服務(wù)器節(jié)點(diǎn)的任務(wù)處理能力以及各個(gè)服務(wù)器的負(fù)載狀況的獲取過程將對(duì)后續(xù)任務(wù)的均衡分配產(chǎn)生十分重要的影響。新興的調(diào)度算法描述服務(wù)器的負(fù)載狀況使用了兩個(gè)指標(biāo)，一是CPU的占有率；二是內(nèi)存的空閑率。在進(jìn)行任務(wù)分配前，不但要考慮服務(wù)器的處理能力不同，還需要考慮服務(wù)器的性能，進(jìn)而保證集群服務(wù)器整體的效率最大化；為了更好地處理任務(wù)，服務(wù)器系統(tǒng)應(yīng)當(dāng)具有一定的伸縮性，當(dāng)實(shí)際任務(wù)過多時(shí)，集群系統(tǒng)應(yīng)該根據(jù)實(shí)際情況適量地增加服務(wù)器；此外，集群系統(tǒng)還應(yīng)當(dāng)具備負(fù)載的轉(zhuǎn)移能力，當(dāng)服務(wù)器連接的任務(wù)過多時(shí)，可以按照某種規(guī)則轉(zhuǎn)給較閑的服務(wù)器。

2 動(dòng)態(tài)自適應(yīng)反饋的負(fù)載均衡策略

具有動(dòng)態(tài)自適應(yīng)的負(fù)載調(diào)度需要綜合考慮服務(wù)器自身處理任務(wù)的性能和服務(wù)器節(jié)點(diǎn)鏈接的任務(wù)量兩個(gè)指標(biāo)。每個(gè)服務(wù)器葉子點(diǎn)能夠根據(jù)已有的規(guī)則對(duì)自身的負(fù)載信息進(jìn)行收集，并及時(shí)地將所收集的信息發(fā)送到負(fù)載均衡器上。使用動(dòng)態(tài)的推送信息搜集服務(wù)器的負(fù)載信息，相對(duì)于負(fù)載均衡器主動(dòng)去收集的方式而言，能夠有效降低通信的開銷，為負(fù)載均衡器減少負(fù)擔(dān)。

分層負(fù)載均衡能夠保證葉子節(jié)點(diǎn)同時(shí)并行處理，同時(shí)還能夠保證真實(shí)事務(wù)服務(wù)器完全分布。另外，分層負(fù)載均衡為更高層次的負(fù)載均衡器提供使用聚合信息，對(duì)所連接的負(fù)載的改變能夠及時(shí)做出應(yīng)答。為了使集群系統(tǒng)中的信息流量減少，防止出現(xiàn)調(diào)度瓶頸，對(duì)處理器中的信息進(jìn)行分組（簇），并把每簇中涉及到的服務(wù)器進(jìn)行平行分層處理。此處理方法的主要目的是將主服務(wù)器的任務(wù)轉(zhuǎn)移給一簇服務(wù)器，使該簇服務(wù)器成為“監(jiān)督員”。 “監(jiān)督員將對(duì)自己所獲得的任務(wù)進(jìn)行進(jìn)一步的劃分，并將劃分的子任務(wù)分配給相應(yīng)的葉節(jié)點(diǎn)，并對(duì)葉節(jié)點(diǎn)的處理結(jié)果進(jìn)行收集。但是需要注意的是，分層方法雖然被廣泛運(yùn)用于線性陣列和樹形拓?fù)浣Y(jié)構(gòu)，但若拓?fù)浣Y(jié)構(gòu)相對(duì)復(fù)雜，則分層方法將會(huì)失敗。

2.1 自適應(yīng)負(fù)載均衡

同一集群系統(tǒng)中的不同人物需求所需要的計(jì)算機(jī)的開銷不同，由于不同用戶對(duì)計(jì)算機(jī)的性能要求不同，并且所需要完成的任務(wù)也有所不同，因此常將用戶任務(wù)分為兩類：實(shí)時(shí)輸入輸出任務(wù)和實(shí)時(shí)CPU消耗型任務(wù)；使得最小連接調(diào)度算法進(jìn)一步減小，產(chǎn)生均衡負(fù)載的新算法。

2.2 負(fù)載均衡流程

①二叉樹排序算法主要是對(duì)負(fù)載的冗余值進(jìn)行排序。如各個(gè)服務(wù)器的負(fù)載冗余值將會(huì)被負(fù)載均衡器收集并循環(huán)遍歷，當(dāng)某個(gè)服務(wù)器的負(fù)載冗余值超過最低限度時(shí)，便將此服務(wù)器入樹，并構(gòu)建二插排序樹。②二叉排序樹遍歷。對(duì)二叉排序樹進(jìn)行中序遍歷，形成一個(gè)遞增的數(shù)列，服務(wù)器性能衡量指標(biāo)（權(quán)值）將形成一個(gè)大小依次排列的序列。③任務(wù)分配。對(duì)服務(wù)器節(jié)點(diǎn)中序遍歷后，按照服務(wù)器的現(xiàn)狀和性能進(jìn)行任務(wù)的分配，完成任務(wù)分配之后，各個(gè)服務(wù)器的負(fù)載值及其冗余值將會(huì)發(fā)生改變。

2.3 動(dòng)態(tài)自適應(yīng)反饋的負(fù)載均衡策略性能分析與評(píng)估

面向集群系統(tǒng)的負(fù)載均衡技術(shù)能夠在整體上提升系統(tǒng)的性能，減少任務(wù)的響應(yīng)時(shí)間，單個(gè)服務(wù)器的工作效率有所提高，整個(gè)系統(tǒng)的任務(wù)響應(yīng)時(shí)間也將會(huì)提高。對(duì)于單片機(jī)系統(tǒng)而言，緩存方法是最好的改進(jìn)系統(tǒng)性能的移植方法，結(jié)合緩存和傳統(tǒng)的算法進(jìn)行緩存結(jié)構(gòu)的設(shè)計(jì)和實(shí)現(xiàn)，能夠很好地改善服務(wù)器的運(yùn)行時(shí)間。為測試系統(tǒng)效率，搭建3臺(tái)服務(wù)器節(jié)點(diǎn)，采用基于直接路由方式構(gòu)建Linux虛擬服務(wù)器集群，采用WAS（MicrosoftWebAp-plicationStressTool）作為模擬用戶壓力的測試工具，選擇加權(quán)最小連接調(diào)度（wlc）算法作為對(duì)比其系統(tǒng)響應(yīng)時(shí)間。實(shí)驗(yàn)依次以100、200到700的用戶請(qǐng)求分7組進(jìn)行模擬測試。

3 結(jié)束語

由于傳統(tǒng)的Web集群負(fù)載均衡算法使用的是加權(quán)最小鏈接調(diào)度算法，因此可能出現(xiàn)負(fù)載不均衡的現(xiàn)象。為此在傳統(tǒng)的加權(quán)調(diào)度算法的基礎(chǔ)上，對(duì)原有的LVS算法進(jìn)行了改進(jìn)和優(yōu)化。本文首先對(duì)傳統(tǒng)的負(fù)載均衡算法的權(quán)值進(jìn)行了重新分配，負(fù)載均衡器對(duì)各個(gè)服務(wù)器的CPU利用率和內(nèi)存空閑率進(jìn)行收集，確定新權(quán)值并傳送到均衡器中，均衡器將根據(jù)新的權(quán)值進(jìn)行任務(wù)的分配。其次，本文提出了動(dòng)態(tài)自適應(yīng)反饋的策略，為了減少均衡器的負(fù)擔(dān)，采用的是服務(wù)器主動(dòng)向均衡器主動(dòng)反饋負(fù)載信息的方法。

參 考 文 獻(xiàn)

[1] 鄧珍榮，唐興興，黃文明，李寅威.一種Web服務(wù)器集群負(fù)載均衡調(diào)度算法[J].計(jì)算機(jī)應(yīng)用與軟件，2013（3010）：

53-56+101.

[2] 楊越，閆連山，張志勇，李賽飛.面向集群服務(wù)器大規(guī)模并發(fā)的改進(jìn)負(fù)載均衡調(diào)度系統(tǒng)[J].微電子學(xué)與計(jì)算機(jī)，

2013，30（35512）：54-56+60.

[3] 任俠.基于動(dòng)態(tài)自適應(yīng)負(fù)載均衡的服務(wù)器集群優(yōu)化策略[J].工業(yè)控制計(jì)算機(jī)，2015（2812）：38-39+41.

[4] 單志廣，林闖，魏丫丫.廣域Web集群的隨機(jī)高級(jí)Petri網(wǎng)模型及性能分析[J].系統(tǒng)仿真學(xué)報(bào)，2003，S1：93-98.