Web服務(wù)器集群系統(tǒng)的自適應(yīng)負(fù)載均衡調(diào)度策略研究

毛成宇

長(zhǎng)春理工大學(xué)，吉林 長(zhǎng)春 130000

Web服務(wù)器集群系統(tǒng)的自適應(yīng)負(fù)載均衡調(diào)度策略研究

毛成宇

長(zhǎng)春理工大學(xué)，吉林 長(zhǎng)春 130000

基于LVS的Web服務(wù)器集群負(fù)載均衡的默認(rèn)加權(quán)最小連接調(diào)度算法，提出了基于任務(wù)權(quán)重分配調(diào)度的后端服務(wù)器主動(dòng)反饋負(fù)載策略、負(fù)載均衡器。Web服務(wù)器集群系統(tǒng)中的動(dòng)態(tài)自適應(yīng)負(fù)載均衡調(diào)度策略，可以加快Web服務(wù)器響應(yīng)速度，提高集群系統(tǒng)性能，簡(jiǎn)化調(diào)度過(guò)程，提高吞吐率。

服務(wù)器集群；負(fù)載均衡；自適應(yīng)

引言

有效利用分布式系統(tǒng)的處理能力可以保證聯(lián)合工作多個(gè)服務(wù)器負(fù)載平衡。良好的負(fù)載平衡意味著最小化執(zhí)行時(shí)間及計(jì)算機(jī)數(shù)據(jù)傳輸開(kāi)銷，并根據(jù)服務(wù)器處理能力的不同分配完成相應(yīng)的任務(wù)，可以最大限度利用每個(gè)服務(wù)器的處理能力。

1 負(fù)載均衡目標(biāo)

應(yīng)用程序的負(fù)載平衡直接影響加速和并行系統(tǒng)的性能[1]。負(fù)載平衡的主要目標(biāo)是通過(guò)平衡任務(wù)來(lái)重新分配工作負(fù)載，優(yōu)化任務(wù)的資源利用率和響應(yīng)時(shí)間，以最小化進(jìn)程之間的通信開(kāi)銷。因此，以平衡每個(gè)處理器節(jié)點(diǎn)的工作負(fù)載為目標(biāo)來(lái)提高并行計(jì)算的性能。

負(fù)載平衡算法的主要目標(biāo)如下：

（1）性能改進(jìn)：在合理的成本范圍內(nèi)，在整個(gè)系統(tǒng)中實(shí)現(xiàn)更高的性能改進(jìn)，例如在可接受的延遲條件下減少任務(wù)的響應(yīng)時(shí)間；（2）任務(wù)平衡：系統(tǒng)中每個(gè)節(jié)點(diǎn)的任務(wù)平衡；（3）容錯(cuò)能力：系統(tǒng)的某些部分有錯(cuò)誤，系統(tǒng)應(yīng)具有容錯(cuò)性能；（4）可變性：根據(jù)分布式系統(tǒng)的參數(shù)配置進(jìn)行自適應(yīng)性能修改和擴(kuò)展；（5）系統(tǒng)穩(wěn)定性：系統(tǒng)應(yīng)具備應(yīng)對(duì)突發(fā)大量流量的能力。

負(fù)載平衡可以帶來(lái)以下優(yōu)點(diǎn)：（1）負(fù)載均衡可以提高每個(gè)節(jié)點(diǎn)的性能，提高整個(gè)系統(tǒng)的性能；（2）負(fù)載平衡減少了任務(wù)的空閑時(shí)間；（3）避免對(duì)小任務(wù)的長(zhǎng)期積壓；（4）最大限度利用系統(tǒng)資源；（5）縮短整個(gè)系統(tǒng)對(duì)用戶的響應(yīng)時(shí)間；（6）提高系統(tǒng)的吞吐量；（7）提高系統(tǒng)的可靠性；（8）使系統(tǒng)實(shí)現(xiàn)低成本、高收入；（9）增加系統(tǒng)的可擴(kuò)展性或流量的增量增長(zhǎng)。鑒于上述優(yōu)點(diǎn)，負(fù)載均衡策略已成為一個(gè)熱點(diǎn)研究領(lǐng)域。在過(guò)去幾年中，已經(jīng)有了大量的負(fù)載平衡算法，但并不適用于所有的應(yīng)用。選擇適當(dāng)?shù)呢?fù)載平衡取決于應(yīng)用參數(shù)（如平衡特性）、負(fù)載生成模式和硬件參數(shù)（如通信開(kāi)銷）[2]。一般來(lái)說(shuō)，負(fù)載均衡算法分為兩類：一是靜態(tài)負(fù)載均衡；二是動(dòng)態(tài)負(fù)載均衡。

2 動(dòng)態(tài)自適應(yīng)反饋負(fù)載均衡策略

2.1 負(fù)載均衡最優(yōu)化思想

負(fù)載平衡器從客戶端接收請(qǐng)求任務(wù)，并根據(jù)接收到的子節(jié)點(diǎn)的當(dāng)前負(fù)載信息分配任務(wù)。在任何時(shí)間段t中，如果有多個(gè)任務(wù)調(diào)度請(qǐng)求到達(dá)負(fù)載均衡器，負(fù)載平衡器記錄的后端服務(wù)器的性能值p和負(fù)載值不會(huì)及時(shí)更新，負(fù)載平衡器將根據(jù)正在記錄的每個(gè)服務(wù)器的舊信息進(jìn)行選擇，然后將請(qǐng)求任務(wù)分配給后端服務(wù)器，這可能會(huì)導(dǎo)致單個(gè)節(jié)點(diǎn)超載。因此，在時(shí)間段t中，負(fù)載均衡策略需要實(shí)時(shí)考慮后端服務(wù)器的性能和負(fù)載。此外還要考慮以下幾個(gè)方面：（1）在一定時(shí)間段t內(nèi)，終端服務(wù)器節(jié)點(diǎn)只是服務(wù)器分布的一部分。因此，該節(jié)點(diǎn)負(fù)載可能會(huì)減少或空閑，每個(gè)子服務(wù)器節(jié)點(diǎn)的性能、負(fù)載狀態(tài)變化與當(dāng)前負(fù)載信息相互關(guān)聯(lián)。對(duì)于后端實(shí)際服務(wù)器，由于機(jī)器的硬件存在配置、性能差異，因此服務(wù)器節(jié)點(diǎn)處理請(qǐng)求任務(wù)的能力不同[3]。（2）在時(shí)間段t中，發(fā)送到集群系統(tǒng)的客戶端請(qǐng)求任務(wù)發(fā)送到負(fù)載均衡器。此時(shí)，不更新每個(gè)服務(wù)器節(jié)點(diǎn)的負(fù)載信息，并且服務(wù)器分配的任務(wù)可能導(dǎo)致服務(wù)器過(guò)載。

2.2 負(fù)載均衡流程

（1）二叉樹(shù)排序算法主要是對(duì)負(fù)載的冗余值進(jìn)行排序。如果每個(gè)服務(wù)器的負(fù)載冗余值通過(guò)負(fù)載均衡器收集和循環(huán)，則服務(wù)器插入樹(shù)中，當(dāng)服務(wù)器的負(fù)載冗余值超過(guò)最小值時(shí)構(gòu)建二進(jìn)制排序樹(shù)。（2）遍歷二進(jìn)制排序樹(shù)。遍歷二進(jìn)制排序樹(shù)已形成升序，服務(wù)器性能指標(biāo)（權(quán)重）將形成一個(gè)序列[4]。（3）任務(wù)分配。在服務(wù)器節(jié)點(diǎn)順序遍歷后，根據(jù)服務(wù)器的狀態(tài)和性能分配任務(wù)。分配任務(wù)后，每個(gè)服務(wù)器的負(fù)載值和冗余值將發(fā)生變化。

2.3 動(dòng)態(tài)負(fù)載均衡算法

對(duì)于分布式系統(tǒng)，如何在分布式系統(tǒng)中分配和調(diào)度用戶之間的請(qǐng)求將直接影響分布式系統(tǒng)的性能[5]。因此，為了充分利用分布式系統(tǒng)中每個(gè)服務(wù)器節(jié)點(diǎn)的資源，我們引入動(dòng)態(tài)負(fù)載均衡技術(shù)來(lái)優(yōu)化分布式系統(tǒng)的整體性能。對(duì)于客戶端的用戶請(qǐng)求任務(wù)，考慮用戶請(qǐng)求任務(wù)的不同類型，以及用戶對(duì)資源類型和實(shí)時(shí)需求的需求程度，用戶請(qǐng)求分配給實(shí)時(shí)I/O消費(fèi)任務(wù)和實(shí)時(shí)任務(wù)的任務(wù)，CPU類型任務(wù)的時(shí)間消耗，進(jìn)一步優(yōu)化最少的連接調(diào)度算法。本文提出了一種創(chuàng)新的動(dòng)態(tài)負(fù)載平衡算法。該算法被稱為基于任務(wù)分區(qū)的動(dòng)態(tài)負(fù)載均衡算法。用于分區(qū)任務(wù)的動(dòng)態(tài)負(fù)載均衡算法的低吞吐量問(wèn)題是基于系統(tǒng)的良好解決方案，可以解決節(jié)點(diǎn)資源不能充分利用的問(wèn)題。最后，通過(guò)仿真驗(yàn)證驗(yàn)證了算法的可行性和有效性。與最小連接調(diào)度算法相比，基于改進(jìn)的系統(tǒng)響應(yīng)時(shí)間，使用節(jié)點(diǎn)資源的動(dòng)態(tài)任務(wù)劃分算法比最小連接調(diào)度算法更加充分。

3 結(jié)束語(yǔ)

由于傳統(tǒng)的網(wǎng)絡(luò)集群負(fù)載均衡算法使用加權(quán)最小鏈路調(diào)度算法，可能存在負(fù)載不平衡現(xiàn)象。為此，在傳統(tǒng)的加權(quán)調(diào)度算法的基礎(chǔ)上，對(duì)原有的LVS算法進(jìn)行了改進(jìn)和優(yōu)化。在本文中，傳統(tǒng)負(fù)載均衡算法的權(quán)重重新分配，負(fù)載均衡器收集每個(gè)服務(wù)器的CPU利用率和內(nèi)存空閑率，確定新的權(quán)重值，并將其傳輸?shù)骄馄?，均衡器得到新的?quán)重。最后，提出了動(dòng)態(tài)自適應(yīng)反饋策略。為了減輕均衡器的負(fù)擔(dān)，采用了向均衡器提供主動(dòng)反饋負(fù)載信息的方法。

[1]雷迎春.可擴(kuò)展、高性能Web服務(wù)器系統(tǒng)的研究[D].北京：中國(guó)科學(xué)院研究生院（計(jì)算技術(shù)研究所），2002.

[2]任俠.基于動(dòng)態(tài)自適應(yīng)負(fù)載均衡的服務(wù)器集群優(yōu)化策略[J].工業(yè)控制計(jì)算機(jī)，2015，28（12）：38-39.

[3]何增輝.基于預(yù)測(cè)機(jī)制的負(fù)載均衡模型研究[D].鄭州：鄭州大學(xué)，2010.

[4]張維勇.基于遺傳算法的服務(wù)器端動(dòng)態(tài)負(fù)載均衡系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D].濟(jì)南：山東大學(xué)，2005.

[5]王媛媛.基于服務(wù)器集群的Web QoS控制研究[D].保定：華北電力大學(xué)（保定），2007.

Research on Adaptive Load Balancing Scheduling Strategy for Web Server Cluster System

Mao Chengyu
Changchun University of Science and Technology, Jilin Changchun 130000

Based on LVS Web server cluster load balanced default weighted minimum connection scheduling algorithm,an active feedback load strategy and load balancer for back-end server based on task weight allocation scheduling are proposed. The dynamic adaptive load task balancing scheduling strategy for Web server cluster system can effectively accelerate the response speed of Web server, improve the performance of cluster system, simplify the scheduling process and improve throughput.

server cluster; load balancing; self-adaptation

TP393.09

A

1009-6434（2017）7-0087-02