摘要:QSFP-DD模塊的熱力性能已針對高性能數(shù)據(jù)中心環(huán)境下的使用進(jìn)行了廣泛評估。提交并分析了15WQSFP-DD模塊的熱工測試數(shù)據(jù)及可行性研究結(jié)果,對溫升和氣流進(jìn)行了對比。
關(guān)鍵詞:QSFP一DD;模塊;數(shù)據(jù)中心;熱;測試
1QSFP-DD模塊概覽
QSFP-DD是業(yè)界尺寸最小而又可以提供最高端口帶寬密度的400GbE模塊。QSFP-DD是與四分之一小形狀系數(shù)可插拔雙密度(QSFP-DD)多源協(xié)議(MSA)集團(tuán)協(xié)作開發(fā)的成果,滿足了市場對下一代高密度、高速可插拔模塊的需求。
QSFP-DD形狀系數(shù)的開發(fā)過程充分利用了行業(yè)強大的制造能力與成本結(jié)構(gòu),從而為40GbE和100GbE使用的QSFP+和QSFP28實際標(biāo)準(zhǔn)提供了大力支持。這一形狀系數(shù)在一個機架單位(RU)上即可啟用36個400GbE端口,提供超過14Tbps的帶寬(參見圖1)
QSFP-DD模塊向下兼容從40Gbps到200Gbps的所有基于QSFP的收發(fā)機,并且可以支持一系列的產(chǎn)品,包括:
·3m長的無源銅纜;
·在并行多模光纖上支持100m的距離;
·在并行單模光纖上支持500m的距離;
·在雙工單模光纖上支持2km和10km的距離;
·WDM和連貫設(shè)計。
2熱需求與熱工測試
在含有可插拔模塊的設(shè)備的設(shè)計過程中,其中的一項挑戰(zhàn)是每個插座必須能夠承載最大的熱負(fù)荷。一項對預(yù)期的全部光學(xué)模塊的類型與傳輸距離的調(diào)研結(jié)果顯示,需要至少15W的冷卻功率才可以支持QSFP-DD的最大傳輸距離(如圖2)。
幸運的是,行業(yè)對于小形狀系數(shù)模塊產(chǎn)品族的構(gòu)建(以及冷卻)具有著豐富的經(jīng)驗。其中包括尺寸較小的SFP單通道模塊以及向下兼容的QSFP4通道模塊。這兩種模塊都已大量用于當(dāng)今的網(wǎng)絡(luò)交換機當(dāng)中。這些過去的經(jīng)驗可以應(yīng)用到QSFP-DD可插拔模塊中,而且通過進(jìn)一步的創(chuàng)新,現(xiàn)在認(rèn)為在400GbE產(chǎn)品中可以很容易就達(dá)到15W的功率(參見圖3)。
系統(tǒng)設(shè)計在對降溫進(jìn)行優(yōu)化上的靈活性是QSFP-DD的一項主要優(yōu)勢。平頂?shù)脑O(shè)計通過在熱工方面眾多可行的創(chuàng)新,可以對頂部的散熱器和/或熱管:進(jìn)行優(yōu)化。這種靈活性上的范例包括一系列的端口入口、端口排氣口以及邊對邊的冷卻選項。
高密度系統(tǒng)采用的是各不相同的印刷電路板(PCB)布局、風(fēng)扇放置方式以及氣流控制方案,從而允許對路由、模塊布局和氣流進(jìn)行優(yōu)化。前部對前部的布局可以將QSFP-DD模塊置于印刷電路板上相對的兩側(cè)。在這種設(shè)計中,流過印刷電路板兩側(cè)的氣流為模塊的冷卻帶來一定的優(yōu)勢。與堆疊式的卡籠相比,這樣還可為進(jìn)入模塊內(nèi)部的高速走線實現(xiàn)更好的信號完整性。前部對前部布局的一個缺點就是印刷電路板上組件的高度受到限制,并且高功率交換芯片上散熱器的高度需要減小。
另一個方案,即堆疊布局,可以將QSFP-DD模塊安放到印刷電路板的同一側(cè),從而氣流只會在一側(cè)流動。通過將散熱器的高度提升到最大程度,這種布局可以為交換芯片的冷卻帶來優(yōu)勢。采用這種堆疊設(shè)計的主要挑戰(zhàn)在于向上方堆疊卡籠進(jìn)行高速走線時的信號完整性,以及下方卡籠模塊的冷卻問題(如圖4)。
開展了熱工測試以描述在指定工作范圍內(nèi)QSFP-DD模塊和卡籠的熱力性能,并且確保產(chǎn)品操作過程中耐受極端溫度時QSFP-DD解決方案的穩(wěn)健性。這些廣泛測試的結(jié)果詳細(xì)記錄下了氣流和熱:工測試的結(jié)果,其中使用了溫升作為系統(tǒng)設(shè)計的主要參數(shù)。在每個測試用例中,目標(biāo)熱力性能是使從環(huán)境溫度到模塊外殼的溫升保持在30°C以下。
3熱工測試1:堆疊卡籠測試用例
在上下插槽中同時對模塊進(jìn)行冷卻的能力要求將散熱器集成到2x1的卡籠中。開展了測試以確定模塊-卡籠-散熱器與高功率光學(xué)模塊這-組合的熱力性能。使用了邊對邊的2x1卡籠來代表1RU的交換機,從而開展了模塊熱工測試。
熱工測試的主要關(guān)注點在于固定的1RU系統(tǒng)設(shè)計,原因在于,從熱設(shè)計的角度來說,這種設(shè)計通常最具挑戰(zhàn)性。對風(fēng)扇空間進(jìn)行了限制,這一形狀系數(shù)代表了最復(fù)雜的模塊熱設(shè)計。線卡向外拉出的模塊化系統(tǒng)設(shè)計通常配有尺寸更大的風(fēng)扇,在各組件之間能夠提供更大的氣流。通常情況下,與固定設(shè)計相比,模塊化系統(tǒng)中的溫升要低5~7°C。
每次測試中,將兩個2x1的QSFP-DD卡籠以邊對邊的方式進(jìn)行設(shè)置。全部熱工測試都在海平面上,在20°C到22°C的室溫范圍內(nèi)進(jìn)行。氣流方向為從前到后,并且測試中使用的氣流范圍視為是系統(tǒng)設(shè)計的一個典型范圍。在某些測試用例中,使用了測力計/測力傳感器來將散熱器的下壓力設(shè)為一個指定值,以便達(dá)到一致的測試結(jié)果。
在堆疊卡籠的熱工測試中,在預(yù)設(shè)為低壓力或預(yù)設(shè)為高壓力的情況下,使用夾具造成溫度升高。這樣就產(chǎn)生了非常接近的溫度結(jié)果,表明夾具設(shè)計獲得的緊固力較為適宜。當(dāng)每個2x1的卡籠中的氣流約為7CFM時,模塊外殼的平均溫升在21到22°C。溫升圖表明,如果每個2x1卡籠上的氣流超過8CFM,則模塊外殼的溫升可以小于20°C。大多數(shù)情況下,在經(jīng)測試的CFM范圍內(nèi),2x1卡籠中的底部模塊運行時可以比頂部模塊的溫度高出2到4°C。溫升與功率圖確認(rèn)了QSFP-DD模塊/卡籠的組合在小于30°C溫升情況下為所需的15W功率提供支持的能力(如圖5)。
前部對前部的設(shè)計中采用的散熱器安裝在表面安裝卡籠的頂部。這種設(shè)計在1U的交換機設(shè)計中應(yīng)當(dāng)提供最優(yōu)的模塊氣流。這是-項組件級別的測試,采用了兩個1x2的QSFP-DD卡籠,設(shè)置在測試板的兩側(cè)。全部熱工測試都在40°C的溫度下開展。氣流方向為從前到后,并且測試中使用的氣流范圍視為是系統(tǒng)設(shè)計的一個典型范圍。前部對前部的熱工測試同時采用了14W和15W的模塊功耗。結(jié)果顯示,模塊中心/后部的功耗偏置可帶來熱力性能上的顯著改善。
在氣流從前向后流動的前部對前部系統(tǒng)中,當(dāng)每個模塊的氣流為6.4CFM時,在46°C的環(huán)境溫度下,15W模塊的外殼溫度可以保持在70°C以下。在40°C的環(huán)境氣溫下,模塊的最大功耗增至18W。對熱環(huán)境和/或定制散熱器(更高的散熱片高度和/或更大的散熱片密度)進(jìn)行優(yōu)化,可以將模塊的最大功耗提升至18W以上。需要6.5CFM的氣流才能達(dá)到所需的熱力性能。在2.5英寸水柱的壓降下使風(fēng)扇反向旋轉(zhuǎn)即可做到這一點。
4靈活性與經(jīng)濟(jì)性
QSFP-DD模塊的熱力性能已針對高性能數(shù)據(jù)中心環(huán)境下的使用進(jìn)行了廣泛評估。獲得的數(shù)據(jù)清楚的表明,溫升與氣流的對比充分驗證了15WQSFP-DD模塊在現(xiàn)實的數(shù)據(jù)中心環(huán)境下的可行性。
作為一種靈活的低成本解決方案,QSFP-DD模塊充分利用了在系統(tǒng)、模塊和卡籠的熱設(shè)計以及策略上的豐富經(jīng)驗。熱工測試確認(rèn)了該形狀系數(shù)可在產(chǎn)品的定制方面為行業(yè)提供最大的靈活性。在堆疊卡籠和前部對前部的配置中,QSFP-DD模塊都可為所需的熱負(fù)荷提供支持,滿足對于下一代高帶寬應(yīng)用的需求。