文|中國電子工程設計院 王鐵楠
隨著數(shù)據中心數(shù)量不斷的增多、規(guī)模日趨龐大,其對能源尤其是電能的需求缺口問題也日益顯現(xiàn)出來。如何更有效地降低能耗成為數(shù)據中心從業(yè)人員最為關心的一個問題,綠色數(shù)據中心的概念也是在這樣的背景下被人們所重視起來。
綜合來說,我們可以從建筑節(jié)能、運營管理、能源效率等方面來衡量一個數(shù)據中心是否為“綠色”,而要想實現(xiàn)“綠色數(shù)據中心”就必須從整體的設計規(guī)劃、工藝布局、暖通空調、電氣工程等方面綜合考慮。
經過多年的實踐和理論證明,在一個設計不合理的數(shù)據中心中,60%的空調機冷送風由于氣流組織的不合理而被浪費。傳統(tǒng)的開放式熱通道結構數(shù)據中心面臨著兩大氣流管理難題:冷熱空氣相混合現(xiàn)象和空調冷送風的浪費現(xiàn)象,這兩種現(xiàn)象大大降低了空調制冷的效率。其中,冷熱空氣相混合現(xiàn)象指的是由設備產生的熱空氣和空調機的冷送風相混合,從而提高了設備的進風溫度;空調冷送風的浪費現(xiàn)象指的是空調機的冷送風并未進入設備,并未對設備冷卻而直接回流到空調機的現(xiàn)象。冷熱空氣混合現(xiàn)象也是導致數(shù)據中心溫度不一致的主要原因,并且這種現(xiàn)象也大大降低了數(shù)據中心空調的制冷效率和制冷能力。如何解決這兩種現(xiàn)象,最簡單的方式就是機柜面對面擺放,形成冷風通道,背靠背擺放形成熱風通道,這樣會有效地降低冷熱空氣混流,提高空調使用效率。如圖1所示。
圖1 冷熱通道完全隔離
隔離冷通道或隔離熱通道哪種方式更好呢?
這兩種方式都將空調的冷送風和熱回風隔離開來,并使空調機回風溫度提高,以此來提高空調的制冷效率,區(qū)別主要是可擴展性、散熱管理和工作環(huán)境的適宜性。
隔離冷通道的可擴展性主要是受地板下送風和如何將地板下冷風送入多個隔離冷通道的制約。很多人認為空調機的出風量能滿足設備的散熱風量即可,但是他們忽略了高架地板下冷送風對于多個隔離通道的壓力降和空間的限制。相反的隔離熱通道則是使用整個數(shù)據中心作為冷風區(qū)域來解決這個問題。正因為這樣擴大冷通道的空間,隔離熱通道相比于隔離冷通道有著更多的空調冗余性能,多出的熱通道空間將會在空調系統(tǒng)出現(xiàn)故障時,能夠給予更多的寶貴維修時間。而且隨著服務器設備的散熱能力的提高,服務器所需的散熱風量將會大大的減少?,F(xiàn)在很多服務器的熱風出風溫度可以達到55℃。隔離冷通道的未被隔離部分空間的溫度將會比傳統(tǒng)數(shù)據中心大大的提高,這增加了數(shù)據中心工作人員的舒適度和減少了數(shù)據中心其他設備的使用壽命。
綜上所述,雖然這兩種方法都可以提高空調使用效率,但是相比較起來,隔離熱通道比隔離冷通道的效率更高、適用性更好。
統(tǒng)計數(shù)據表明,數(shù)據中心的制冷系統(tǒng)占機房總功耗的40%左右。機房中的制冷主要是由機房空調負責,所以降低機房空調的耗電量可以有效的降低機房的PUE值。數(shù)據中心中較為常用的節(jié)能制冷系統(tǒng)有以下四種:
(1)水冷冷凍水機組+自由冷卻系統(tǒng)
本方案組成設備包含:水冷冷水機組、板式換熱器、冷卻水泵、冷卻塔、冷凍水泵、定壓補水裝置、加藥裝置、蓄冷水罐、末端空調機組等組成。整個系統(tǒng)由冷凍水系統(tǒng)和冷卻水系統(tǒng)組成,系統(tǒng)分三種工作模式:正常制冷、部分自由冷卻、完全自由冷卻。
(2)風冷冷凍水機組+自由冷卻系統(tǒng)
本方案組成設備包含:風冷冷水機組、干盤管、冷凍水泵、定壓補水裝置、加藥裝置、蓄冷水罐、末端空調機組等組成。本系統(tǒng)自由冷卻用的干盤管可集成于風冷冷水機組內,系統(tǒng)分三種工作模式:正常制冷、部分自由冷卻、完全自由冷卻。
(3)自帶冷源式風冷空調機組+自由冷卻
自帶冷源式風冷空調機組系統(tǒng)屬于分散式空調系統(tǒng),空調機組由室內機、室外機、干盤管組成。室外機內置壓縮機,干盤管集中布置于室外,母管連接由水泵分配至各室內空調機,系統(tǒng)分三種工作模式:正常制冷、部分自由冷卻、完全自由冷卻。
(4)模塊末端全空氣空調機組水冷冷凍水
本方案組成設備包含:水冷冷水機組、冷卻水泵、冷卻塔、冷凍水泵、定壓補水裝置、加藥裝置、蓄冷水罐、全空氣循環(huán)風機組等組成。過渡季及冬季直接把室外冷空氣經全空氣循環(huán)風機組處理后送至機房內,以減少冷源部分的能耗,系統(tǒng)分三種工作模式:正常制冷、部分自由冷卻、完全自由冷卻。
數(shù)據中心到底使用哪種制冷系統(tǒng),需要根據項目所在地的各項條件綜合考慮。在我國長江以北地區(qū),如果有條件建議采用水冷冷凍水機組+自由冷卻系統(tǒng)的方式設計制冷系統(tǒng),這樣在冬季氣溫7℃~12℃時可以采用預冷的方式,使用部分冷凍機組。在室外溫度小于7℃時,可以不啟動冷凍水機組,完全用自由冷卻系統(tǒng)對機房降溫,大大減少了能源的消耗。
空調系統(tǒng)的制冷能力和環(huán)境密切相關,夏天室外溫度越高,制冷能力越低,因此大型數(shù)據中心空調系統(tǒng)的制冷量都是按最差(夏天最熱)工況設計的(空調的制冷量一般要比其在理想工況下的額定值低,這時建筑物本身不但不散熱,反而吸熱),這樣,全年絕大部分時間空調系統(tǒng)運行在負荷不飽滿狀態(tài)。另外,大型數(shù)據中心的IT負荷從零到滿載也需要相當長的時間,一般也在一到三年之間。還有,IT負載的能耗和網絡訪問量或運行狀態(tài)相關,根據其應用的特點,每天24小時的能耗都在變化,一年365天的能耗也都在變化。比如,游戲服務器在早上的負載和能耗都比較低,但在晚上就比較高;視頻服務器在遇到重大事件時的負載和能耗就比較高。
因此,在水冷系統(tǒng)中所有電機采用變頻系統(tǒng),這樣可以節(jié)約大量的能量,其增加的投資一般在一年內節(jié)省的電費中就可以收回(基本滿負荷情況下)。對于風機和水泵,輸入功率和這些設備的轉速的三次方成正比。例如,如果風機或水泵的轉速為正常轉速的50%,僅需要同一設備運行在100%額定轉速時理論功率的12.5%。因此,當設備運行在部分負荷時,變速裝置的節(jié)能潛力十分明顯。
冷水機組標準的冷凍水溫度為7℃~12℃,水冷空調的標準工況也是7℃~12℃。但是這個溫度范圍對于數(shù)據中心來說有點低,將帶來兩個不利因素:
(1)這個溫度大大低于數(shù)據中心正常運行在40%左右的相對濕度的露點溫度,將在風機盤管上形成大量的冷凝水,需要進一步加濕才能保持機房的環(huán)境濕度。這個除濕和加濕過程都是非常消耗能量的過程。
(2)冷凍水的溫度和冷水機組的效率成正比關系,也就是說冷凍水的溫度越高,冷水機組的效率也就越高。根據YORK公司在網絡上公布的材料,冷凍水溫度每提高一度,冷水機組的效率就可以提高大約3%。
目前,在集裝箱數(shù)據中心和高功率密度的冷水背板制冷技術中,都把冷凍水的溫度設計為12℃~18℃,已經高于露點溫度,完全不會除濕,也就不需要加濕。冷凍水的溫度提高后,水冷精密空調的制冷能力會下降,實際的制冷能力需要廠家提供的電腦選型軟件來確定,一般會下降10%~15%。但是由于冷凍水溫度提高后,很少或基本不除濕和加濕,再加上采用EC調速風機,使電機產生的熱量減少,導致整個水冷精密空調的實際制冷能力(顯冷)下降并不多。
使用用電管理軟件正確計算用電功率和智能化控制系統(tǒng)用電,提高電源利用率。為機房建設規(guī)劃提供正確的數(shù)據,智能控制整體用電量。
主要是配電電壓深入負荷中心、配電變壓器的正確選擇和經濟運行、配電線路的合理選擇和經濟運行、電壓調節(jié)和無功補償?shù)燃夹g和方法的采用。配電系統(tǒng)的降損節(jié)能技術措施如下:
(1)合理使用變壓器
根據用電特點選擇較為靈活的結線方式,并能隨各變壓器的負載率及時進行負荷調整,以確保變壓器運行在最佳負載狀態(tài)。變壓器的三相負載力求平衡,不平衡運行不僅降低出力,而且增加損耗。
(2)重視和合理進行無功補償
合理地選擇無功補償方式、補償點及補償容量,能有效地穩(wěn)定系統(tǒng)的電壓水平,避免因大量的無功通過線路遠距離傳輸而造成有功網損。對配電網的電容器無功補償,通常采取集中、分散、就地相結合的方式;電容器自動投切的方式可按母線電壓的高低、無功功率的方向、功率因數(shù)大小、負載電流的大小、晝夜時間劃分進行。
(3)對低壓配電線路改造,擴大導線的載流水平
按導線截面選擇的原則,可以確定滿足要求的最小截面導線;但從長遠來看,選用最小截面導線并不經濟。如果把理論最小截面導線加大一到二級,線損下降所節(jié)省的費用,足以在較短時間內把增加的投資收回。
(4)減少接點數(shù)量,降低接觸電阻
在配電系統(tǒng)中,導體之間的連接普遍存在,連接點數(shù)量眾多,不僅成為系統(tǒng)中的安全薄弱環(huán)節(jié),而且還是造成線損增加的重要因素。必須重視搭接處的施工工藝,保證導體緊密接觸,并可采用降阻劑,進一步降低接觸電阻。不同材料間的搭接尤其要注意。
(5)采用節(jié)能型照明電器
根據建筑布局和照明場所,合理布置光源、選擇照明方式、光源類型是降損節(jié)能的有效方法。推廣高效節(jié)能電光源,以電子鎮(zhèn)流器取代電感鎮(zhèn)流器;應用電子調光器、延時開關、光控開關、聲控開關、感應式開關取代蹺板式開關,將大幅降低照明能耗和線損。
UPS的節(jié)能必需從方案、UPS、電池、配電等方面全方位進行。
目前,數(shù)據中心大多是分期分模塊的進行建設??紤]未來幾年的擴容,在設計時UPS容量一般都考慮容量比較大些。一次安裝幾套大功率的UPS并機,初期負載量只有規(guī)劃容量的10%~20%,導致UPS的利用率很低,造成電能的浪費,為了避免這種情況的發(fā)生,需要采用模塊化的UPS,逐步擴容。
目前UPS均為在線式雙變換構架,在其工作時整流器、逆變器均存在功率損耗。提高UPS的工作效率,可以為數(shù)據中心節(jié)省一大筆電費,可見提高UPS效率是降低整個機房能耗的最直接方法。因此在采購UPS時,應盡量采購效率更高的UPS。
當然UPS效率高不僅僅是滿載時的效率高,同時也必須具備一個較高的效率曲線,特別是在“1+1”并機系統(tǒng)時,根據系統(tǒng)規(guī)劃,每臺UPS容量不得大于50%。如果此次效率僅為90%,就算滿載效率達到95%以上,也是沒有實際意義。所以要求UPS必須采取措施優(yōu)化效率曲線,使UPS效率在較低負載時也能達到較高的效率。
諧波產生的根本原因是由于電力線路呈現(xiàn)一定阻抗,等效為電阻、電感和電容構成的無源網絡,由于非線性負載產生的非正弦電流,造成電路中電流和電壓畸變,稱為諧波。諧波的危害包括:引起電氣組件附加損耗和發(fā)熱(如電容、變壓器、電機等);電氣組件溫度升高、效率低、加速絕緣老化、降低使用壽命;干擾設備正常工作;無功功率增加,電力設備有功容量降低(如變壓器、電纜、配電設備);供電效率低;出現(xiàn)諧振,特別是柴油發(fā)電機發(fā)電時更為嚴重;空開跳閘、熔絲熔斷、設備無故損壞。解決方法主要有以下四種:
◆采用12脈沖整流器;
◆采用無源濾波器;
◆采用有源濾波器;
◆采用高頻IGBT整流及PFC功率因數(shù)校正電路設計整流器。
與傳統(tǒng)48V供電系統(tǒng)類似,高壓直流供電系統(tǒng)是由多個并聯(lián)冗余整流器和蓄電池組成。在正常情況下,整流器將市電交流電源變換為270V、350V或420V等直流電源,供給電信設備,同時給蓄電池充電。電信設備需要其他電壓等級的直流電源,采用DC/DC變換器變換得到。市電停電時,由蓄電池放電為電信設備供電;長時間市電停電時,由備用發(fā)電機組替代市電,提供交流輸入電源。高壓直流供電的優(yōu)勢有以下幾點。
直流電源模塊化輸出和電池直接并聯(lián)給負載供電,后備電池與電源后段并聯(lián)給服務器構成兩路冗余供電,可靠性高,真正做到不間斷;如果UPS后備電池只是與電源前段并聯(lián)給DC/DC供電,整個系統(tǒng)供電對數(shù)據設備不是冗余供電模式。在某種原因下UPS系統(tǒng)崩潰,電池不能直接應用,導致后端設備斷電,而采用直流供電,將杜絕系統(tǒng)崩潰帶來的斷電風險。
并機容易,并且可以做成系統(tǒng)解決方案,做到安全不間斷割接,功率部分采用模塊化,支持帶電熱插拔,可快速更換,功率部分和監(jiān)控功能模塊CSU之間正常工作受監(jiān)控單元CSU控制,故障時各自獨立控制,避免故障擴散。更換模塊和監(jiān)控單元CSU互不影響,便于維護。
計算機等開關電源內部的橋式整流變?yōu)橹绷麟娬摌O防接反電路,即使計算機輸入電源的正負極接反,也不影響計算機的正常工作。影響設備壽命和故障的一個重要因素是電容元件的失效問題,交流電經過整流橋之后是一個脈動直流電,使后面的電容元件不停的充放電,壽命縮短。采用直流供電,元器件的壽命延長。延長了負載設備的壽命,提高了其可靠性。
直流高壓開關電源系統(tǒng)與傳統(tǒng)48V直流電源系統(tǒng)一樣,可以方便的對電池進行全面的智能化管理,具有完備的電池管理系統(tǒng),有效延長了電池的使用壽命,降低了運營成本,提高了供電的可靠性;UPS電池管理簡單、不全面,電池容量損耗速度快。
對于計算機和服務器來說,采用直流輸入,避免了相位和頻率的問題,多機并聯(lián)變得簡單易行。無諧波干擾,UPS存在輸出功率因數(shù),一般在0.6~0.8。
直流高壓電源系統(tǒng)是標準的電氣柜,安全性高,并且對分路輸出和母線的絕緣狀況進行實時監(jiān)控,對人身傷害預警大大提高;UPS非標準一體柜,安全性低。
由于省掉了逆變部分,直流開關系統(tǒng)經過兩次變流,電源效率達到92%以上,UPS系統(tǒng)經過四次變流,效率達到70%左右,這樣大大節(jié)省能源,降低運營成本。
根據中華人民共和國國家標準《電子信息系統(tǒng)機房設計規(guī)范》(GB 50174-2008),A類和B類機房的主機房溫度要求保持在23±1℃,也就是22℃~24℃。ANSI/TIA 942-2005《Telecommunications Infrastructure Standard for Data Centers》中規(guī)定冷通道溫度為華氏68~77度,也就是20℃~25℃。美國采暖制冷與空調工程師學會(ASHRAE)對2008年新建的機房冷通道溫度從2004年的20℃~25℃提高到18℃~27℃。由于國家標準中規(guī)定的主機房溫度沒有指定是機柜前的進風溫度,導致傳統(tǒng)機房存在兩方面不足:
◆由于沒有冷通道或熱通道封閉,機房溫度特別低,設備內部的溫度并不低,大量的冷氣短路自循環(huán);
◆機房溫度往往低于24℃,處于過度制冷狀態(tài)。
現(xiàn)代服務器和網絡設備等并非傳統(tǒng)觀念(10年或20年前)中認為的那么嬌貴,大部分服務器在溫度10℃~35℃,相對濕度20%~80%都可以正常運行(ASHRAE認為的設備環(huán)境要求,也是絕大部分商用服務器的工作環(huán)境要求范圍)。因此可以提高空調送風溫度,保證IT設備的運行溫度即可。當空調系統(tǒng)的送風和回風溫度提高1℃時,空調系統(tǒng)節(jié)電約2.5%,同時空調系統(tǒng)的制冷能力提高約5%。
因此,在用戶認可的條件下,提高機房的溫度是節(jié)約能源的措施之一。建議數(shù)據中心冷通道的溫度(ASHRAE標準要求在冷通道中間對準機柜中間1.5m高度測量,每4個機柜至少一個測試點)最低為24℃或25℃。
◆人走關燈和關閉大屏幕顯示器,減少照明產生的能耗以及相應增加的制冷量;
◆盡量減少運行新風系統(tǒng),在機房無人時關閉相應區(qū)域的新風系統(tǒng);
◆建議冷通道的溫度不低于25℃,定期檢查冷通道的溫度以免過度制冷造成能源浪費;
◆定期檢查地板,防止各種方式的漏風;
◆冷通道必須完全封閉,機柜上沒有設備的區(qū)域必須安裝盲板,沒有負荷的機柜區(qū)域不能安裝通風地板。每次設備變更,都要進行檢查;
◆在滿足制冷的條件下盡可能的提高冷凍水的溫度,最高為12℃~18℃;
◆在氣象環(huán)境滿足的條件下,盡量使用全自然或半自然來免費制冷;
◆定期核對數(shù)字采集數(shù)據和模擬顯示儀表的數(shù)據是否一致,若發(fā)現(xiàn)數(shù)據存在誤差,立即更換有關采集設備或儀表;
◆對于還沒有使用的獨立機房區(qū)域,關閉所有機電設備,包括冷凍水管道的閥門;
◆定期檢修和清洗冷凍機組內的銅管和冷卻塔,確保其工作在最佳狀態(tài);
◆對于低負荷的機房,如果精密空調沒有EC風機,就要關閉相應的空調,如果是EC風機,要通過實踐摸索出更加節(jié)能的空調運行方式。
隨著我國信息技術的不斷發(fā)展, 數(shù)據業(yè)務不斷增長,數(shù)據中心會越來越多,而且也會越來越重要,對于數(shù)據中心節(jié)能技術的研究也會越來越多。我們有理由相信, 隨著國家標準、規(guī)范的陸續(xù)制定, 各大運營商、設備供應商以及其他研究機構的不懈努力, 數(shù)據中心的節(jié)能手段將會越來越先進、越來越可靠,而本文所研究的各項節(jié)能技術將會在機房中得到廣泛應用,并為我國數(shù)據中心的發(fā)展做出貢獻。
1 鐘景華,朱利偉,曹播.新一代綠色數(shù)據中心的規(guī)劃與設計.電子工業(yè)出版社.
2 Douglas Alger(作者), 陳實(合著者),譚立勃(合著者),陳寶國(譯者),曾少寧(譯者), 蘇寶龍(譯者).思科綠色數(shù)據中心建設與管理.人民郵電出版社.
3 顧大偉,郭建兵,黃偉.數(shù)據中心建設與管理.電子工業(yè)出版社.
4 Energy Logic: A roadmap for reducing energy consumption in the data center.Emerson Network Power.
5 UPS 應用,2008.06.
6 王其英,何春花.UPS 供電系統(tǒng)綜合解決方案.電子工業(yè)出版社.
7 孫成寶.配電技術手冊(低壓部分).中國電力出版社.