基于GRU-LSTM模型的云計算資源負(fù)載預(yù)測方法

摘要：為解決傳統(tǒng)負(fù)載預(yù)測模型存在的精確度差、預(yù)測效率低等問題，提高負(fù)載預(yù)測的高效性和精確性，本文運(yùn)用門控循環(huán)單元（Gated Recurrent Unit，GRU）和長短期記憶（Long-Short Term Memory，LSTM）網(wǎng)絡(luò)，設(shè)計了一種基于GRU-LSTM組合預(yù)測模型的云計算資源負(fù)載預(yù)測方法。首先，分析了云計算資源負(fù)載時間系列預(yù)測問題。其次，根據(jù)GRU、LSTM相關(guān)概念，完成了對基于GRU-LSTM的組合預(yù)測方法設(shè)計。最后，確定數(shù)據(jù)來源與處理，介紹了模型評價指標(biāo)，并采用實驗分析的方式驗證了本文所提出的負(fù)載預(yù)測方法的有效性和可靠性。結(jié)果表明：本文所提出的負(fù)載預(yù)測方法具有均方誤差低、預(yù)測時間短等優(yōu)勢，符合實際應(yīng)用需求，可為后期類似預(yù)測方法的進(jìn)一步優(yōu)化提供有效依據(jù)和有益參考。

關(guān)鍵詞：GRU-LSTM模型；云計算；資源負(fù)載；預(yù)測方法

一、引言

云計算作為一種新型計算技術(shù)，綜合運(yùn)用了參照虛擬化技術(shù)、網(wǎng)絡(luò)計算技術(shù)，增加了計算任務(wù)復(fù)雜度 [1]。這種云計算模式在具體應(yīng)用中，需采用服務(wù)方式，借助互聯(lián)網(wǎng)向用戶提供數(shù)據(jù)資源、IT資源等，一定程度上降低了用戶的使用體驗。最近幾年，大量公司應(yīng)用云計算模式完成云端部署和應(yīng)用，從而增加了云數(shù)據(jù)中心的功耗波動幅度，不利于平衡后期云數(shù)據(jù)中心的資源利用率[2]。為解決以上問題，本文基于GRU-LSTM模型，設(shè)計一種新型的、先進(jìn)的云計算資源負(fù)載預(yù)測方法。該方法有效繼承和發(fā)揚(yáng)了GRU預(yù)測時間短、LSTM預(yù)測精確度高的優(yōu)勢，可實現(xiàn)對云數(shù)據(jù)中心資源的最大化、平衡化利用。

二、云計算資源負(fù)載時間系列預(yù)測問題分析

（一）基于機(jī)器學(xué)習(xí)的時間序列預(yù)測方法

在基于機(jī)器學(xué)習(xí)的時間序列預(yù)測方法中，Khairalla等學(xué)者提出一種基于自回歸移動平均模型（Auto-Regression and Moving Average Model，ARIMA）與支持向量機(jī)（Support Vector Machine，SVM）的混合模型，運(yùn)用該混合模型，可以有效預(yù)測金融時間序列，并將小波分解為若干個分量，從而實現(xiàn)對最終預(yù)測結(jié)果的重構(gòu)。但是，該模型的預(yù)測精確度相對較低，需選用更好的數(shù)據(jù)平滑算法，對預(yù)測流程進(jìn)行優(yōu)化，以不斷提高最終預(yù)測結(jié)果的精確度。

三、基于GRU-LSTM模型的云計算資源負(fù)載預(yù)測方法設(shè)計

（一）LSTM模型

LSTM（長短期記憶網(wǎng)絡(luò)）是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN），通過引入遺忘門、輸入門和輸出門三個控制單元，有效解決了傳統(tǒng)RNN在處理長序列數(shù)據(jù)時遇到的梯度消失和梯度爆炸問題。LSTM能夠捕捉序列數(shù)據(jù)中的長期依賴關(guān)系，適用于時間序列預(yù)測等任務(wù)[3]。在云計算資源負(fù)載預(yù)測中，LSTM模型憑借其強(qiáng)大的長期依賴捕捉能力，能夠準(zhǔn)確分析歷史負(fù)載數(shù)據(jù)中的復(fù)雜模式和趨勢，從而提高預(yù)測的精確度。這對于資源調(diào)度和優(yōu)化至關(guān)重要，有助于確保云計算服務(wù)的穩(wěn)定性和高效性[4]。然而，LSTM模型也存在一些局限性。其復(fù)雜的結(jié)構(gòu)導(dǎo)致參數(shù)數(shù)量較多，訓(xùn)練過程相對耗時，對計算資源的要求較高。此外，當(dāng)輸入序列過長或數(shù)據(jù)噪聲較大時，LSTM模型可能難以有效捕捉關(guān)鍵信息，影響預(yù)測效果。

（二）GRU模型

GRU（門控循環(huán)單元）模型是循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）的一種變體，旨在解決傳統(tǒng)RNN在處理長序列數(shù)據(jù)時出現(xiàn)的梯度消失和梯度爆炸問題。GRU通過引入更新門和重置門兩個控制單元，有效地控制了信息的流動，使得模型能夠更好地捕捉序列數(shù)據(jù)中的長期依賴關(guān)系。同時，該模型憑借其簡潔的門控結(jié)構(gòu)和較少的參數(shù)數(shù)量，顯著降低了模型的計算復(fù)雜度。這一特點使得GRU模型在預(yù)測時能夠迅速響應(yīng)，提供近乎實時的預(yù)測結(jié)果，有效縮短預(yù)測時間。這對于需要快速調(diào)整資源分配以應(yīng)對突發(fā)負(fù)載變化的云計算環(huán)境來說，具有極高的實用價值。盡管GRU模型在預(yù)測時間短方面表現(xiàn)出色，但其簡潔的結(jié)構(gòu)也可能導(dǎo)致在捕捉復(fù)雜數(shù)據(jù)特征，尤其是長期依賴關(guān)系上存在一定的局限性。當(dāng)云計算資源負(fù)載受到多種因素共同影響，且這些因素之間的時間滯后效應(yīng)較長時，GRU模型可能難以準(zhǔn)確捕捉這些長期依賴關(guān)系，從而影響預(yù)測的準(zhǔn)確性[5]。

（三）GRU-LSTM組合預(yù)測模型

在基于GRU-LSTM模型的云計算資源負(fù)載預(yù)測方法中，GRU-LSTM組合預(yù)測模型結(jié)構(gòu)設(shè)計采用了三層結(jié)構(gòu)，旨在結(jié)合GRU與LSTM各自的優(yōu)勢，以提高預(yù)測精度并縮短預(yù)測時間。具體來說，第一層采用GRU（門控循環(huán)單元）。GRU通過精簡的門控機(jī)制（更新門和重置門），有效減少了模型參數(shù)，使得訓(xùn)練過程更加高效且易于收斂。這一層主要負(fù)責(zé)捕捉數(shù)據(jù)中的短期依賴關(guān)系，為后續(xù)層提供初步的特征提取。第二層和第三層則采用LSTM（長短期記憶網(wǎng)絡(luò)）。LSTM通過引入遺忘門、輸入門和輸出門，能夠更有效地捕捉數(shù)據(jù)中的長期依賴關(guān)系，緩解傳統(tǒng)RNN在長序列預(yù)測中容易出現(xiàn)的梯度消失或爆炸問題。這兩層結(jié)合LSTM參數(shù)多的優(yōu)勢，進(jìn)一步提升了模型的預(yù)測精度。在模型參數(shù)設(shè)置與優(yōu)化策略方面，首先需要對數(shù)據(jù)集進(jìn)行充分的預(yù)處理，包括缺失值處理、標(biāo)準(zhǔn)化等，以確保輸入數(shù)據(jù)的質(zhì)量。隨后，通過隨機(jī)森林算法進(jìn)行特征選擇，提取對預(yù)測結(jié)果影響顯著的特征，作為模型的輸入。在模型訓(xùn)練過程中，需要調(diào)整多個超參數(shù)，如學(xué)習(xí)率、批大小、隱藏層大小等，以找到最優(yōu)的參數(shù)組合。這通常可以通過交叉驗證、網(wǎng)格搜索或隨機(jī)搜索等方法來實現(xiàn)。此外，還可以引入正則化技術(shù)來防止模型過擬合，提高模型的泛化能力。最后，為了進(jìn)一步提升模型的預(yù)測性能，可以考慮采用集成學(xué)習(xí)方法，將多個GRU-LSTM組合預(yù)測模型的預(yù)測結(jié)果進(jìn)行組合，以獲得更加穩(wěn)定和準(zhǔn)確的預(yù)測結(jié)果。

四、基于GRU-LSTM模型的云計算資源負(fù)載預(yù)測方法驗證

（一）數(shù)據(jù)來源預(yù)處理

為驗證本文負(fù)載預(yù)測方法的有效性和可靠性，本文將阿里云平臺所公開的數(shù)據(jù)集“Cluster-trace-v2019”設(shè)置為本次實驗數(shù)據(jù)來源。該數(shù)據(jù)集真實有效地反映出5000臺機(jī)器在最近一周內(nèi)的資源使用情況，數(shù)據(jù)記錄共3400條[7]。本次實驗將整個數(shù)據(jù)集劃分為兩類，一類是訓(xùn)練集。訓(xùn)練集中的數(shù)據(jù)占總數(shù)據(jù)量的70%；另一類是測試集。測試集中的數(shù)據(jù)占總數(shù)據(jù)量的30%。本研究從以下幾個方面入手，對數(shù)據(jù)集進(jìn)行處理：1.缺失值處理。實驗人員運(yùn)用均值填充法，結(jié)合原始數(shù)據(jù)集缺失率，對數(shù)據(jù)集進(jìn)行缺失值舍棄或者填充。2.利用高效化收斂神經(jīng)網(wǎng)絡(luò)，提高預(yù)測精確度。本研究運(yùn)用歸一化方法，標(biāo)準(zhǔn)化處理3400個數(shù)據(jù)。3.特征選擇。在進(jìn)行數(shù)據(jù)集特征選擇時，需從原始數(shù)據(jù)集特征中選出具有典型特征的數(shù)據(jù)子集，將數(shù)據(jù)維度降到最低，并進(jìn)一步提高回歸模型構(gòu)建性能。同時，運(yùn)用隨機(jī)森林算法，深入分析數(shù)據(jù)集特征置換前后所對應(yīng)的誤差值，并對各個數(shù)據(jù)庫所對應(yīng)的特征重要程度進(jìn)行打分。數(shù)據(jù)集特征重要程度得分越高，說明該數(shù)據(jù)集的特征重要程度越高。運(yùn)用隨機(jī)森林算法，不僅可以確保各個數(shù)據(jù)集特征之間建立緊密的聯(lián)系，還能提高最終分析結(jié)果的精確度。所以，在進(jìn)行數(shù)據(jù)集特征選擇時，實驗人員要優(yōu)先選用森林隨機(jī)算法，在整個樣本數(shù)據(jù)的特征值中，CPU利用率和mem利用率的特征值得分最高，實驗樣本數(shù)據(jù)量所對應(yīng)的負(fù)載值計算公式如下：

（三）實驗過程

在本次實驗中，將GRU-LSTM模型設(shè)置為實驗組，將ARIMA模型、GRU模型、LSTM模型、Refined-LSTM模型、Stacked-LSTM模型、ARIMA-LSTM模型設(shè)置為對照組。不同模型預(yù)測流程如圖1所示。首先，獲取需要處理的原始數(shù)據(jù)，然后，結(jié)合原始數(shù)據(jù)缺失率對原始數(shù)據(jù)的缺失值進(jìn)行補(bǔ)充和刪除。其次，運(yùn)用隨機(jī)森林算法，從標(biāo)準(zhǔn)化處理后的大量數(shù)據(jù)特征中選出典型的特征。最后，運(yùn)用以上五個評價指標(biāo)，對模型最終預(yù)測結(jié)果進(jìn)行評價[8]。

（四）實驗結(jié)果分析

本次實驗中，通過本文模型與ARIMA模型、GRU模型、LSTM模型等傳統(tǒng)模型進(jìn)行實驗對比，獲得如圖2所示的不同模型負(fù)載預(yù)測結(jié)果及表1所示的模型指標(biāo)評價結(jié)果。本文模型所獲得的預(yù)測結(jié)果均方誤差顯著降低（降低了6-9），同時，預(yù)測時間大幅縮短（縮短了10%左右），因此，本文模型具有預(yù)測精確度高、預(yù)測高效等特點，符合預(yù)期設(shè)計標(biāo)準(zhǔn)和要求。

五、結(jié)束語

綜上所述，本文基于GRU-LSTM模型，提出一套行之有效的云計算資源負(fù)載預(yù)測方法。運(yùn)用GRU-LSTM模型，并采用實驗的方式，借助阿里云平臺公開的數(shù)據(jù)集，驗證GRU-LSTM模型的有效性和可靠性。

作者單位：周璇 廣州軟件學(xué)院

參考文獻(xiàn)

[1]胡應(yīng)鋼，郭翔，趙海燕，等.基于粒子群優(yōu)化GRU-RNN組合模型的云計算資源負(fù)載預(yù)測[J].內(nèi)蒙古民族大學(xué)學(xué)報（自然科學(xué)版），2023，38（04）：315-321.

[2]劉惠，董錫耀，楊志涵.融合Stacking框架的BiGRU-LGB云負(fù)載預(yù)測模型[J].西安電子科技大學(xué)學(xué)報（自然科學(xué)版）， 2023，50（03）：83-94，104.

[3]林濤，馮競凱，郝章肖，等.基于組合預(yù)測模型的云計算資源負(fù)載預(yù)測研究[J].計算機(jī)工程與科學(xué)，2020，42（07）：1168-1173.

[4]徐達(dá)宇，丁帥.改進(jìn)GWO優(yōu)化SVM的云計算資源負(fù)載短期預(yù)測研究[J].計算機(jī)工程與應(yīng)用，2017，53（07）：68-73.

[5]楊哲興，謝曉蘭，李水旺.基于VDM-ISSA-LSSVM的云資源短期負(fù)載預(yù)測模型[J].實驗室研究與探索，2023，42（06）：117-124.

[6]李英豪，郭昊龔，劉盼盼，等.基于時間卷積網(wǎng)絡(luò)的云平臺負(fù)載預(yù)測方法[J].計算機(jī)科學(xué)，2023，50（07）：254-260.

[7]李浩陽，賀小偉，王賓，等.基于改進(jìn)Informer的云計算資源負(fù)載預(yù)測[J].計算機(jī)工程，2024，50（02）：43-50.

[8]王萍，付曉聰，許海洋.云計算中基于負(fù)載預(yù)測的虛擬資源調(diào)度策略[J].青島農(nóng)業(yè)大學(xué)學(xué)報（自然科學(xué)版），2020，37（01）：73-78.