面向數(shù)據(jù)中心網(wǎng)絡的緩沖區(qū)優(yōu)化策略研究

王剛

(安徽電子信息職業(yè)技術學院 教學科研處,安徽 蚌埠233030)

交換機設備的緩沖區(qū)能在網(wǎng)絡擁塞或流量突發(fā)時避免丟包的現(xiàn)象發(fā)生。為降低硬件成本和最大限度地提高緩沖區(qū)利用率,交換機的多個隊列將共享同一個片上緩沖區(qū)。這種共享自然會導致各種問題。具體來說,一個隊列的過度增長可能會損害另一個隊列的性能,可能會出現(xiàn)饑餓、吞吐量不足等問題。這種有害干擾可能發(fā)生在看似獨立的隊列之間,例如映射到不同端口的隊列或由獨立應用程序形成的隊列。網(wǎng)絡設備通常采用分層數(shù)據(jù)包準入控制來協(xié)調共享空間的使用。緩沖區(qū)管理算法在隊列之間動態(tài)分割緩沖區(qū)空間[1-3],主動隊列管理算法選擇性地接納傳入的數(shù)據(jù)包,為每個單獨隊列分配緩沖區(qū)切片[4-5]。

但是,緩沖區(qū)大小跟不上交換機容量的增加,緩沖區(qū)不足使緩沖區(qū)管理算法無法為每個隊列提供隔離[6-7]。另外,由于數(shù)據(jù)中心網(wǎng)絡存在突發(fā)流量和網(wǎng)絡擁塞incast現(xiàn)象,緩沖區(qū)的瞬態(tài)需要在設備級別進行控制。緩沖區(qū)共享方案需要提供隔離、有限的消耗時間和高突發(fā)容忍度[8]。因此,本文提出了基于主動管理的緩沖區(qū)優(yōu)化策略——DCBOpti(Data Center Network Buffer OPtimization)策略。DCBOpti是一種主動緩沖區(qū)管理算法,在不犧牲吞吐量的情況下減緩突發(fā)流量的影響。具體來說,DCBOpti同時利用了設備級別的總緩沖區(qū)占用率和單個隊列排空時間。

1 緩沖區(qū)優(yōu)化策略設計

通過緩沖區(qū)管理和主動隊列管理之間的協(xié)作,片上緩沖區(qū)空間能得到充分利用?？紤]一個輸出隊列共享內存分組交換芯片,緩沖區(qū)管理方法動態(tài)決定每個隊列的最大長度,主動隊列管理方法決定傳入的數(shù)據(jù)包是否將被排隊、標記、修剪或丟棄。數(shù)據(jù)包的優(yōu)先級記為p,屬于同一優(yōu)先級的數(shù)據(jù)會被分配到同一個隊列。

1.1 設計關鍵屬性

為了最大化共享緩沖區(qū)的好處,緩沖區(qū)共享方案需要滿足三個關鍵屬性,即隔離、有限的排空時間和可預測的突發(fā)容忍度。

1.1.1 隔離 由于緩沖區(qū)被多個隊列共享,因此某一個隊列過度使用緩沖區(qū)可能會干擾交換機中其他隊列使用共享緩沖區(qū)的能力。為了避免跨隊列的干擾,必須隔離不同流量的優(yōu)先級。每個優(yōu)先級在任何給定時間占用可配置的最小緩沖區(qū)量。

1.1.2 有限的排空時間 排隊延遲是造成短流完成時間高的根本原因。諸如基于ECN(Explicit Congestion Notification)的AQM(Active Queue Management)方法能用于減少隊列長度。排隊延遲也會影響緩沖區(qū)的排空時間,即被占用的緩沖區(qū)可以多快用于傳入流量。由于多個隊列可以共享一個端口的帶寬,因此具有相同隊列長度的兩個隊列可能會遇到不同的排隊延遲。

為了避免高排隊延遲的有害后果,緩沖區(qū)共享方案需要限制每個隊列的消耗時間。具體來說,緩沖區(qū)共享方案需要通過配置來限制服務速率為μ(t)的隊列的占用緩沖區(qū)q(t)。

1.1.3 可預測的突發(fā)容忍度 突發(fā)容忍度的定義為緩沖區(qū)共享方法可以存儲在緩沖區(qū)中的數(shù)據(jù)包的最大突發(fā)。當緩沖區(qū)具有足夠的容量承載突發(fā)流量,或者緩沖區(qū)中的數(shù)據(jù)包可以足夠快地被轉發(fā),則緩沖區(qū)共享方法能夠吸收傳入的突發(fā)流量。但是,始終保持突發(fā)大小的空緩沖區(qū)量會剝奪隊列中寶貴的緩沖區(qū),從而導致潛在的吞吐量損失。

1.2 優(yōu)化策略

(1)

DCBOpti提供跨優(yōu)先級的隔離。具體來說,DCBOpti限定了每個優(yōu)先級占用的總緩沖區(qū),為每個優(yōu)先級提供最低緩沖保證。DCBOpti 通過在計算每個隊列閾值時考慮每個優(yōu)先級的擁塞隊列數(shù),因此,沒有任何優(yōu)先級可以獨占緩沖區(qū)并餓死其他緩沖區(qū)。給定優(yōu)先級的每個隊列閾值會隨著該優(yōu)先級的更多隊列擁塞而降低。

(2)

(3)

(4)

結合公式(3),能得到如下關系:

(5)

同理,可以推導出優(yōu)先級 可用的緩沖區(qū)總量的上限 ,即:

(6)

DCBOpti通過根據(jù)每個隊列的排空率按比例分配緩沖區(qū)空間來限制排空時間。DCBOpti 分配的閾值上限為任何優(yōu)先級隊列p的排空時間由Γ下式給出,即:

(7)

結合公式(3),可得如下所示的不等式關系:

(8)

(9)

DCBOpti的突發(fā)容忍度與其他優(yōu)先級的擁塞隊列數(shù)量無關。相反,突發(fā)容忍度只會減少相同優(yōu)先級的擁塞隊列的數(shù)量。

如果到達率 使得每個隊列在t=0 時的閾值以大于相應隊列的排空率的速度降低,則聚合緩沖區(qū)無法根據(jù)閾值的變化進行排空。在這種情況下,DCBOpti的突發(fā)容忍度如公式(10)所示。

(10)

在t=0時,初始的緩沖區(qū)占用情況如下所示:

(11)

(12)

根據(jù)公式(1),閾值和隊列長度變化率如下所示:

(13)

(14)

通過求解公式(13)和(14),能得到:

(15)

通過整理公式(15),得到隊列中流量的到達率如下所示:

(16)

2 實驗評估

本研究使用網(wǎng)絡模擬器NS3進行實驗評估[9]。實驗所使用的拓撲由16個交換機和 256 個服務器組成,每個鏈路的容量為10 Gbps,每個鏈接都有10 μs傳播延遲。實驗使用兩種流量負載,即網(wǎng)絡搜索流量和incast流量。

將DCBOpti與現(xiàn)有的緩沖區(qū)管理策略進行比較,分別是動態(tài)閾值策略(DynaTh)、流量感知策略(Flow-aware)、完全共享策略(TotalS)和智能緩沖區(qū)策略(IB)。其中,DynaTh按比例分配緩沖區(qū);Flow-aware是基于DynaTh的策略,并優(yōu)先考慮短流;TotalS允許每個隊列共享剩余緩沖區(qū);IB同樣是基于DynaTh策略,并使用了近似公平丟棄策略。

不同網(wǎng)絡負載下緩沖區(qū)策略的對比結果如圖1所示。由結果可知,DCBOpti 大大降低了流完成時間。圖1展示了不同負載的數(shù)據(jù)流完成時間的減緩度,其中固定請求大小為緩沖區(qū)大小的30%。在低負載下,與DynaTh、Flow-aware、TotalS和 IB 相比,DCBOpti 將數(shù)據(jù)流完成時間的減緩度平均降低了10%。隨著負載的增加,DCBOpti在40%負載下的數(shù)據(jù)流完成時間的減緩度相比其他策略平均下降了90%。

圖1 不同網(wǎng)絡負載下緩沖區(qū)策略的對比 圖2 不同請求大小緩沖區(qū)策略的對比

圖 2 中展示了不同請求大小的數(shù)據(jù)流完成時間的減緩度。即使請求大小只有緩沖區(qū)大小的15%,與 DynaTh和IB 相比,DCBOpti 平均將數(shù)據(jù)流完成時間的減緩度降低了將近40%,與 Flow-aware相比 降低了約30%,與 TotalS相比降低了超過50%。隨著請求規(guī)模的增加,DCBOpti 的優(yōu)勢更加明顯。在請求大小為緩沖區(qū)大小的 50% 時,與 DynaTh、Flow-aware、TotalS和 IB 相比,DCBOpti的數(shù)據(jù)流完成時間的減緩度平均降低了70%。

DCBOpti 不會犧牲吞吐量來服務短流或者突發(fā)流量。在圖 3和圖4中觀察到,與其他策略相比,DCBOpti 實現(xiàn)了同等吞吐量。

圖3 不同網(wǎng)絡負載下的平均吞吐量 圖4 不同請求大小下的平均吞吐量

3 結論

本研究提出數(shù)據(jù)中心網(wǎng)絡緩存區(qū)優(yōu)化策略(記為DCBOpti),以實現(xiàn)緩沖區(qū)共享,提供隔離、有限的排空時間和高突發(fā)容忍度。DCBOpti只使用內存管理單元可用的統(tǒng)計數(shù)據(jù),具有可用性且易于實現(xiàn)。使用實驗驗證DCBOpti策略的有效性,結果顯示DCBOpti能夠有效降低流完成時間的減緩度,同時確保了吞吐量性能。后續(xù)的工作將對本研究提出的DCBOpti策略進行理論分析,并通過擴充實驗以進一步評估所提出策略的性能。