基于分布式機(jī)器學(xué)習(xí)的節(jié)點(diǎn)資源負(fù)載均衡方法

吳爭(zhēng)光 宋明康 柯騰輝 戴鵬 李衛(wèi)東

摘要：目前，隨著短視頻、大數(shù)據(jù)技術(shù)的快速發(fā)展，區(qū)域內(nèi)網(wǎng)絡(luò)資源的負(fù)載均衡對(duì)于區(qū)域網(wǎng)絡(luò)性能的影響越來(lái)越大。其中，網(wǎng)絡(luò)鏈路、網(wǎng)絡(luò)節(jié)點(diǎn)對(duì)于數(shù)據(jù)的分發(fā)、處理所需要時(shí)間的不均衡是影響網(wǎng)絡(luò)資源不均衡的主要原因之一。本文提出了一種面向分布式機(jī)器學(xué)習(xí)的節(jié)點(diǎn)資源負(fù)載均衡方法，建立基于時(shí)間序列的節(jié)點(diǎn)空閑時(shí)長(zhǎng)預(yù)測(cè)模型，通過(guò)空閑節(jié)點(diǎn)的當(dāng)前運(yùn)行數(shù)據(jù)預(yù)測(cè)空閑節(jié)點(diǎn)在未來(lái)時(shí)刻的空閑時(shí)長(zhǎng)和節(jié)點(diǎn)的最大可利用資源。區(qū)域核心服務(wù)器可將區(qū)域內(nèi)的待處理數(shù)據(jù)資源進(jìn)行分布式分發(fā)，實(shí)現(xiàn)區(qū)域網(wǎng)絡(luò)資源的負(fù)載均衡

關(guān)鍵詞：分布式機(jī)器學(xué)習(xí);負(fù)載均衡

一、引言

算力的傳送和使用，需要高品質(zhì)的網(wǎng)絡(luò)支撐。算力網(wǎng)絡(luò)成為2021年通信行業(yè)最高頻的詞匯之一。2020年11月，中國(guó)電信發(fā)布的《云網(wǎng)融合2030技術(shù)白皮書(shū)》，明確提出從云網(wǎng)協(xié)同、云網(wǎng)融合到云網(wǎng)一體的三個(gè)發(fā)展階段。2021年3月，中國(guó)聯(lián)通發(fā)布了CUBE-Net 3.0網(wǎng)絡(luò)創(chuàng)新體系白皮書(shū)，旨在推動(dòng)網(wǎng)絡(luò)與計(jì)算深度融合，構(gòu)建面向未來(lái)的算力新格局。2021年11月，中國(guó)移動(dòng)發(fā)布《中國(guó)移動(dòng)算力網(wǎng)絡(luò)白皮書(shū)》給出了算力網(wǎng)絡(luò)的清晰定義。隨著算力網(wǎng)絡(luò)的發(fā)展，新產(chǎn)業(yè)和新應(yīng)用迅速崛起，面對(duì)海量的數(shù)據(jù)傳送和巨大的算力要求，算力資源分布和負(fù)載均衡等新問(wèn)題亟待解決。因此本文提出一種基于分布式機(jī)器學(xué)習(xí)的節(jié)點(diǎn)資源負(fù)載均衡方法，基于多策略機(jī)制設(shè)計(jì)面向大規(guī)模分布式機(jī)器學(xué)習(xí)網(wǎng)絡(luò)的負(fù)載均衡方法，設(shè)計(jì)策略申請(qǐng)機(jī)制建立端到端的預(yù)分配來(lái)保證流量均衡，提高網(wǎng)絡(luò)吞吐率和可靠性。

二、節(jié)點(diǎn)資源負(fù)載均衡模型構(gòu)建

網(wǎng)絡(luò)鏈路一般為網(wǎng)絡(luò)中兩個(gè)節(jié)點(diǎn)之間的物理通道，包括雙絞線、光纖和微波等;而網(wǎng)絡(luò)節(jié)點(diǎn)則為具有獨(dú)立地址和傳送或接收數(shù)據(jù)功能的設(shè)備，包括工作站﹑服務(wù)器、 終端設(shè)備 、網(wǎng)絡(luò)設(shè)備等。當(dāng)區(qū)域核心服務(wù)器對(duì)海量數(shù)據(jù)進(jìn)行處理時(shí)，首先會(huì)將該數(shù)據(jù)集分成同一大小的數(shù)據(jù)塊，然后通過(guò)網(wǎng)絡(luò)鏈路分發(fā)給不同的網(wǎng)絡(luò)節(jié)點(diǎn)，網(wǎng)絡(luò)節(jié)點(diǎn)對(duì)數(shù)據(jù)塊進(jìn)行訓(xùn)練和處理后，最后將處理結(jié)果回傳給區(qū)域核心服務(wù)器，由區(qū)域核心服務(wù)器進(jìn)行整理和二次訓(xùn)練確定最終的數(shù)據(jù)結(jié)果。在上述過(guò)程中，影響網(wǎng)絡(luò)性能的主要因素是網(wǎng)絡(luò)鏈路的狀態(tài)和網(wǎng)絡(luò)節(jié)點(diǎn)的狀態(tài)。

其中，網(wǎng)絡(luò)鏈路的狀態(tài)是影響網(wǎng)絡(luò)性能的第一因素，當(dāng)用于進(jìn)行網(wǎng)絡(luò)數(shù)據(jù)分發(fā)的網(wǎng)絡(luò)鏈路處于繁忙狀態(tài)時(shí)，會(huì)造成網(wǎng)絡(luò)擁塞;同理，當(dāng)用于進(jìn)行數(shù)據(jù)塊訓(xùn)練的網(wǎng)絡(luò)節(jié)點(diǎn)處于繁忙狀態(tài)時(shí)，導(dǎo)致網(wǎng)絡(luò)節(jié)點(diǎn)無(wú)法及時(shí)進(jìn)行數(shù)據(jù)訓(xùn)練，另外，不同性能網(wǎng)絡(luò)節(jié)點(diǎn)對(duì)于同一大小的數(shù)據(jù)量進(jìn)行訓(xùn)練，所需要的訓(xùn)練時(shí)間也不盡相同。所以，在節(jié)點(diǎn)將訓(xùn)練結(jié)果回傳給核心服務(wù)器時(shí)，由于上述兩個(gè)階段需要消耗的時(shí)不一致，從而導(dǎo)致核心服務(wù)器的擁塞。

（一）基于時(shí)間序列的節(jié)點(diǎn)空閑時(shí)長(zhǎng)預(yù)測(cè)模型

本試驗(yàn)方法能夠根據(jù)區(qū)域內(nèi)網(wǎng)絡(luò)鏈路和節(jié)點(diǎn)的歷史運(yùn)行數(shù)據(jù)，通過(guò)預(yù)測(cè)空閑節(jié)點(diǎn)的空閑時(shí)長(zhǎng)，確定空閑節(jié)點(diǎn)在空閑時(shí)段內(nèi)的最大可利用資源，從而在區(qū)域核心服務(wù)器進(jìn)行待處理數(shù)據(jù)資源分配的時(shí)候，將對(duì)應(yīng)大小的網(wǎng)絡(luò)數(shù)據(jù)包以分布式的形式分發(fā)給對(duì)應(yīng)網(wǎng)絡(luò)節(jié)點(diǎn)，從而達(dá)到區(qū)域內(nèi)數(shù)據(jù)資源的合理分配，實(shí)現(xiàn)區(qū)域內(nèi)網(wǎng)絡(luò)資源的負(fù)載均衡。

步驟1：確定鏈路和節(jié)點(diǎn)的歷史運(yùn)行數(shù)據(jù)

根據(jù)一定時(shí)期區(qū)域內(nèi)網(wǎng)絡(luò)鏈路中的所有鏈路及鏈路對(duì)端的網(wǎng)絡(luò)節(jié)點(diǎn)，確定鏈路和節(jié)點(diǎn)的歷史運(yùn)行數(shù)據(jù)。對(duì)當(dāng)前已使用資源、可使用資源、已處理資源、待處理資源、鏈路/節(jié)點(diǎn)對(duì)于數(shù)據(jù)資源處理速率等歷史運(yùn)行數(shù)據(jù)進(jìn)行采集，數(shù)據(jù)采集間隔為10秒，即對(duì)應(yīng)的時(shí)間間隔可為10秒，或根據(jù)數(shù)據(jù)采樣點(diǎn)進(jìn)行匯總確定的時(shí)間間隔。

步驟2：確定當(dāng)前時(shí)刻的空閑鏈路

根據(jù)鏈路的當(dāng)前運(yùn)行數(shù)據(jù)，設(shè)定鏈路空閑資源閾值A(chǔ)1，當(dāng)鏈路的當(dāng)前使用資源小于閾值A(chǔ)1，則表示鏈路當(dāng)前為空閑狀態(tài)，即為空閑鏈路。其中，鏈路空閑資源閾值A(chǔ)1為自定義值，可根據(jù)區(qū)域內(nèi)網(wǎng)絡(luò)鏈路的實(shí)際資源情況進(jìn)行設(shè)定。

步驟3：確定空閑鏈路下的空閑節(jié)點(diǎn)

根據(jù)空閑鏈路對(duì)端的網(wǎng)絡(luò)節(jié)點(diǎn)，設(shè)定網(wǎng)絡(luò)節(jié)點(diǎn)空閑資源閾值A(chǔ)2，當(dāng)節(jié)點(diǎn)的當(dāng)前使用資源小于閾值A(chǔ)2，則表示網(wǎng)絡(luò)節(jié)點(diǎn)當(dāng)前為空閑狀態(tài)，即為的空閑節(jié)點(diǎn)。其中，網(wǎng)絡(luò)節(jié)點(diǎn)空閑資源閾值A(chǔ)2為自定義值，可根據(jù)區(qū)域內(nèi)網(wǎng)絡(luò)節(jié)點(diǎn)的實(shí)際資源情況進(jìn)行設(shè)定。

步驟4：建立基于時(shí)間序列的節(jié)點(diǎn)空閑時(shí)長(zhǎng)預(yù)測(cè)模型

通過(guò)對(duì)空閑節(jié)點(diǎn)的歷史運(yùn)行數(shù)據(jù)采集，建立基于時(shí)間序列的節(jié)點(diǎn)空閑時(shí)長(zhǎng)預(yù)測(cè)模型，實(shí)現(xiàn)對(duì)空閑節(jié)點(diǎn)在未來(lái)時(shí)刻的空閑時(shí)長(zhǎng)的預(yù)測(cè)。時(shí)間序列模型為目前機(jī)器學(xué)習(xí)領(lǐng)域普遍適用的有監(jiān)督算法。通過(guò)對(duì)鏈路歷史交互數(shù)據(jù)進(jìn)行處理，抽取到近3個(gè)月的試驗(yàn)區(qū)域內(nèi)所有網(wǎng)絡(luò)節(jié)點(diǎn)歷史資源數(shù)據(jù)。綜合分析后采用LSTM（Long Short-Term Memory）時(shí)間序列模型，按照時(shí)序特征將空閑節(jié)點(diǎn)的每個(gè)時(shí)刻的資源使用情況輸入到模型的單元中去，通過(guò)每個(gè)單元對(duì)時(shí)序數(shù)據(jù)特征的提取和記憶信息的融合，最終得到整個(gè)時(shí)間段內(nèi)每個(gè)空閑節(jié)點(diǎn)預(yù)測(cè)的資源使用情況，根據(jù)網(wǎng)絡(luò)空閑節(jié)點(diǎn)資源閾值A(chǔ)2確定網(wǎng)絡(luò)空閑節(jié)點(diǎn)的空閑狀態(tài)，選取在連續(xù)時(shí)間段內(nèi)都為空閑狀態(tài)的時(shí)間間隔，即為預(yù)測(cè)的空閑節(jié)點(diǎn)在未來(lái)時(shí)刻的空閑時(shí)長(zhǎng)。

LSTM（Long Short-Term Memory）模型算法步驟如下：

1.首先，設(shè)置隱狀態(tài)和當(dāng)前輸入級(jí)聯(lián)，組合成一個(gè) combine;

2.將 combine 送入遺忘層，并在這一層去掉無(wú)關(guān)數(shù)據(jù);

3.使用 combine 在候選層取得候選列表，列表將記錄所有可能會(huì)加入單元狀態(tài)中的值;

4.將combine送入輸入層，由輸入層決定候選列表內(nèi)的哪些數(shù)據(jù)要加入新單元狀態(tài)內(nèi);

5.計(jì)算遺忘層，候選層和輸入層的輸出向量，結(jié)合之前的單元狀態(tài)計(jì)算新的單元狀態(tài);

6.計(jì)算輸出;

7.將輸出與新單元狀態(tài)作點(diǎn)積得到新隱態(tài)。

對(duì)應(yīng)的算法偽代碼如下：

def LSTMCELL（prev_ct， prev_ht， input）：

combine = prev_ht + input

ft = forget_layer（combine）

candidate = candidate_layer（combine）

it = input_layer（combine）

Ct = prev_ct * ft + candidate * it

ot = output_layer（combine）

ht = ot * tanh（Ct）

return ht， Ct

ct = [0， 0， 0]

ht = [0， 0， 0]

for input in inputs：

ct， ht = LSTMCELL（ct， ht， input）

在算法中，按照時(shí)序特征將空閑節(jié)點(diǎn)的每個(gè)時(shí)刻的資源使用情況輸入到模型的單元中去，通過(guò)每個(gè)單元對(duì)時(shí)序數(shù)據(jù)特征的提取和記憶信息的融合，最終得到整個(gè)時(shí)間段內(nèi)每個(gè)空閑節(jié)點(diǎn)預(yù)測(cè)的資源使用情況。

步驟5：確定在空閑時(shí)間段內(nèi)該節(jié)點(diǎn)的最大可利用資源

通過(guò)對(duì)該區(qū)域內(nèi)空閑節(jié)點(diǎn)的空閑時(shí)長(zhǎng)和空閑節(jié)點(diǎn)的當(dāng)前運(yùn)行數(shù)據(jù)的采集，計(jì)算空閑節(jié)點(diǎn)在空閑時(shí)間段內(nèi)的最大可利用資源。計(jì)算公式如下：

最大可利用資源=當(dāng)前節(jié)點(diǎn)空閑時(shí)長(zhǎng)*當(dāng)前節(jié)點(diǎn)數(shù)據(jù)處理速率

其中，當(dāng)前節(jié)點(diǎn)處理速率為S101中獲取到的節(jié)點(diǎn)在當(dāng)前狀態(tài)下對(duì)于數(shù)據(jù)資源的處理速率。

實(shí)現(xiàn)：資源進(jìn)行分布式分發(fā)，區(qū)域網(wǎng)絡(luò)資源負(fù)載均衡

根據(jù)節(jié)點(diǎn)的最大可利用資源，區(qū)域核心服務(wù)器可將區(qū)域內(nèi)的待處理數(shù)據(jù)資源進(jìn)行分布式分發(fā)，實(shí)現(xiàn)區(qū)域網(wǎng)絡(luò)資源的負(fù)載均衡。區(qū)域核心服務(wù)器在進(jìn)行待處理數(shù)據(jù)資源分配的時(shí)候，可將對(duì)應(yīng)大小的網(wǎng)絡(luò)數(shù)據(jù)包分發(fā)給對(duì)應(yīng)的網(wǎng)絡(luò)節(jié)點(diǎn)，綜合該區(qū)域內(nèi)核心服務(wù)器對(duì)多個(gè)空閑節(jié)點(diǎn)執(zhí)行上述操作，從而達(dá)到區(qū)域內(nèi)數(shù)據(jù)資源的合理分配，實(shí)現(xiàn)區(qū)域內(nèi)網(wǎng)絡(luò)資源的負(fù)載均衡。

通過(guò)上述過(guò)程，能夠根據(jù)區(qū)域內(nèi)網(wǎng)絡(luò)鏈路和節(jié)點(diǎn)的歷史運(yùn)行數(shù)據(jù)，通過(guò)預(yù)測(cè)空閑節(jié)點(diǎn)的空閑時(shí)長(zhǎng)，確定空閑節(jié)點(diǎn)在空閑時(shí)段內(nèi)的最大可利用資源，從而在區(qū)域核心服務(wù)器進(jìn)行待處理數(shù)據(jù)資源分配的時(shí)候，將對(duì)應(yīng)大小的網(wǎng)絡(luò)數(shù)據(jù)包以分布式的形式分發(fā)給對(duì)應(yīng)網(wǎng)絡(luò)節(jié)點(diǎn)，從而達(dá)到區(qū)域內(nèi)數(shù)據(jù)資源的合理分配，實(shí)現(xiàn)區(qū)域內(nèi)網(wǎng)絡(luò)資源的負(fù)載均衡。

三、效果驗(yàn)證

確定模型方案后，取到近6個(gè)月的試驗(yàn)區(qū)域內(nèi)所有網(wǎng)絡(luò)節(jié)點(diǎn)歷史資源數(shù)據(jù)進(jìn)行效果驗(yàn)證。利用LSTM模型與各網(wǎng)絡(luò)節(jié)點(diǎn)歷史資源數(shù)據(jù)進(jìn)行建模，預(yù)測(cè)各網(wǎng)絡(luò)節(jié)點(diǎn)的空閑時(shí)長(zhǎng)及對(duì)應(yīng)應(yīng)分發(fā)的數(shù)據(jù)包大小，在各網(wǎng)絡(luò)節(jié)點(diǎn)將計(jì)算結(jié)果回傳給核心服務(wù)器后，計(jì)算整個(gè)過(guò)程的時(shí)長(zhǎng)

為了方便本方案的效果驗(yàn)證，采用的對(duì)照實(shí)驗(yàn)組為核心服務(wù)器直接分發(fā)相同大小的數(shù)據(jù)包至各網(wǎng)絡(luò)節(jié)點(diǎn)，統(tǒng)計(jì)此過(guò)程需要用到的時(shí)長(zhǎng)，下表中用普通方案表示。

在實(shí)驗(yàn)中發(fā)現(xiàn)，由于不同時(shí)刻各網(wǎng)絡(luò)節(jié)點(diǎn)的資源使用的不同，導(dǎo)致在不同時(shí)刻兩種方案對(duì)同一大小的數(shù)據(jù)包處理的過(guò)程中，所需的處理時(shí)長(zhǎng)出現(xiàn)了波動(dòng)。為了最小化上述波動(dòng)對(duì)實(shí)驗(yàn)結(jié)果的影響， 本文選取同一天的4點(diǎn)、13點(diǎn)和21點(diǎn)分別運(yùn)行兩種方案，并對(duì)兩種模型的處理時(shí)長(zhǎng)取平均值。其中，選取4點(diǎn)作為模型運(yùn)行的起始時(shí)間，通過(guò)對(duì)比兩種方案在不同大小的數(shù)據(jù)包所需要的處理時(shí)長(zhǎng)，最終效果如表1所示：

選取13點(diǎn)作為模型運(yùn)行的起始時(shí)間，通過(guò)對(duì)比兩種方案在不同大小的數(shù)據(jù)包所需要的處理時(shí)長(zhǎng)，最終效果如表2所示：

選取21點(diǎn)作為模型運(yùn)行的起始時(shí)間，通過(guò)對(duì)比兩種方案在不同大小的數(shù)據(jù)包所需要的處理時(shí)長(zhǎng)，最終效果如表3所示：

對(duì)上述三次實(shí)驗(yàn)的處理時(shí)長(zhǎng)取平均值，通過(guò)對(duì)比兩種方案在不同大小的數(shù)據(jù)包所需要的平均處理時(shí)長(zhǎng)，最終效果如表4所示：

通過(guò)對(duì)照實(shí)驗(yàn)可以發(fā)現(xiàn)，模型方案對(duì)于數(shù)據(jù)包的處理時(shí)長(zhǎng)較普通方案效率提升超60%，平均處理時(shí)長(zhǎng)縮短了近3倍。在實(shí)際的數(shù)據(jù)包處理過(guò)程中，將對(duì)應(yīng)大小的網(wǎng)絡(luò)數(shù)據(jù)包以分布式的形式分發(fā)給對(duì)應(yīng)網(wǎng)絡(luò)節(jié)點(diǎn)，可達(dá)到區(qū)域內(nèi)數(shù)據(jù)資源的合理分配，實(shí)現(xiàn)區(qū)域內(nèi)網(wǎng)絡(luò)資源的負(fù)載均衡。

四、結(jié)束語(yǔ)

利用分布式機(jī)器學(xué)期和時(shí)間序列模型算法以及對(duì)網(wǎng)絡(luò)節(jié)點(diǎn)的歷史交互數(shù)據(jù)的采集，本文構(gòu)建了基于分布式機(jī)器學(xué)習(xí)的節(jié)點(diǎn)資源負(fù)載均衡方法，提供了一種在算網(wǎng)一體新型網(wǎng)絡(luò)發(fā)展進(jìn)程下的節(jié)點(diǎn)算力資源的負(fù)載均衡方法，從而實(shí)現(xiàn)增加吞吐量、加強(qiáng)網(wǎng)絡(luò)數(shù)據(jù)處理能力、提高網(wǎng)絡(luò)的靈活性和可用性。

本研究著眼于對(duì)未來(lái)網(wǎng)絡(luò)和算力結(jié)合發(fā)展的背景下算力網(wǎng)絡(luò)的研究，積極融合以機(jī)器學(xué)習(xí)為代表的前沿技術(shù)及思想，展望了分布式架構(gòu)下的算力網(wǎng)絡(luò)開(kāi)放新生態(tài)，積極推動(dòng)以分布式新型算力網(wǎng)絡(luò)為基礎(chǔ)的研究與發(fā)展。

作者單位：吳爭(zhēng)光? ?宋明康? ?柯騰輝? ?戴鵬? ?李衛(wèi)東

中國(guó)聯(lián)合通信網(wǎng)絡(luò)集團(tuán)有限公司深圳市分公司

參? 考? 文? 獻(xiàn)

[1]曹暢， 唐雄燕. 算力網(wǎng)絡(luò)關(guān)鍵技術(shù)及發(fā)展挑戰(zhàn)分析[J]. 信息通信技術(shù)與政策， 2021，47（3）： 6-11.

[2]雷波， 劉增義， 王旭亮， 等. 基于云， 網(wǎng)， 邊融合的邊緣計(jì)算新方案： 算力網(wǎng)絡(luò)[J]. 電信科學(xué)， 2019， 35（9）： 44-51.

[3]呂廷杰， 劉峰. 數(shù)字經(jīng)濟(jì)背景下的算力網(wǎng)絡(luò)研究[J]. 北京交通大學(xué)學(xué)報(bào) （社會(huì)科學(xué)版）， 2021， 20（01）： 11.

[4]呂廷杰， 劉峰. 數(shù)字經(jīng)濟(jì)背景下的算力網(wǎng)絡(luò)研究[J]. 北京交通大學(xué)學(xué)報(bào) （社會(huì)科學(xué)版）， 2021， 20（01）： 11.

[5]邊緣計(jì)算網(wǎng)絡(luò)產(chǎn)業(yè)聯(lián)盟（ ECNI） . 運(yùn)營(yíng)商邊緣計(jì)算網(wǎng)絡(luò)技術(shù)白皮書(shū)[R]， 2019.

[6]舒娜， 劉波， 林偉偉， 等. 分布式機(jī)器學(xué)習(xí)平臺(tái)與算法綜述[J]. 計(jì)算機(jī)科學(xué)， 2019， 46（3）： 9-18.

[7]杜海舟， 黃晟. 分布式機(jī)器學(xué)習(xí)中的通信機(jī)制研究綜述[J]. 上海電力大學(xué)學(xué)報(bào)， 2021.

[8]何清， 李寧， 羅文娟， 等. 大數(shù)據(jù)下的機(jī)器學(xué)習(xí)算法綜述[J]. 模式識(shí)別與人工智能， 2014， 27（4）： 327-336.

[9]中國(guó)聯(lián)合網(wǎng)絡(luò)通信集團(tuán)有限公司 . 算力網(wǎng)絡(luò)架構(gòu)與技術(shù)體系白皮書(shū)[R]，2020.

[10]亢良伊， 王建飛， 劉杰， 等. 可擴(kuò)展機(jī)器學(xué)習(xí)的并行與分布式優(yōu)化算法綜述[J]. Journal of Software， 2018， 29（1）.

[11]孟彬彬， 吳艷. 面向云計(jì)算的分布式機(jī)器學(xué)習(xí)任務(wù)調(diào)度算法研究[J]. 西安文理學(xué)院學(xué)報(bào) （自然科學(xué)版）， 2020.