高速緩存設(shè)備應(yīng)用及其性能分析

文 /王石 董琰 楊貴福 李向龍

高速緩存設(shè)備（Cache）可以緩存互聯(lián)網(wǎng)資源，縮短用戶對內(nèi)容的訪問距離，將互聯(lián)網(wǎng)內(nèi)容本地化，大大提升用戶用網(wǎng)體驗(yàn)，因而逐漸成為網(wǎng)絡(luò)應(yīng)用熱點(diǎn)。

校園網(wǎng)用戶的與日俱增，校園網(wǎng)面臨的壓力越來越大。體現(xiàn)為帶寬日趨緊張，尤其BT、P2P下載、在線視頻、音樂、網(wǎng)絡(luò)游戲等網(wǎng)絡(luò)應(yīng)用占用大量帶寬，嚴(yán)重影響教學(xué)、科研、辦公活動，導(dǎo)致用戶用網(wǎng)體驗(yàn)下降。

多數(shù)高校采取限應(yīng)用、限速、限連接數(shù)等手段加以調(diào)控，雖有效果但配置不夠靈活，同時(shí)網(wǎng)絡(luò)用戶反響也相對激烈。本文從新的角度闡述這種問題，通過布置高速緩存設(shè)備（Cache）以疏導(dǎo)的方式緩解帶寬壓力，并提出Cache性能分析方法以證明這種方案對用戶用網(wǎng)體驗(yàn)有較大提升。

Cache工作原理

Cache設(shè)備能實(shí)現(xiàn)自動按需緩存內(nèi)容，在網(wǎng)絡(luò)使用高峰期減少HTTP下載，視頻下載和P2P下載等對互聯(lián)網(wǎng)骨干的流量壓力，幫助用戶獲得更高的網(wǎng)絡(luò)帶寬使用效率。系統(tǒng)還有效地改進(jìn)對HTTP、視頻、P2P和非P2P等應(yīng)用的網(wǎng)絡(luò)響應(yīng)速度，增加了用戶體驗(yàn)。

對于經(jīng)常使用P2P下載和在線視頻的用戶，他們可以用更快的速度透明地從系統(tǒng)中訪問到已緩存的內(nèi)容，而無需占用互聯(lián)網(wǎng)骨干帶寬。系統(tǒng)通過疏導(dǎo)的方式而不只通過限制和禁止等手段來控制HTTP下載視頻觀看和P2P下載對網(wǎng)絡(luò)的影響。Cache把占用大量帶寬的HTTP、視頻和P2P流量限制在寬帶網(wǎng)絡(luò)內(nèi)部，幫助用戶優(yōu)化網(wǎng)絡(luò)流量，為提供更多更好的服務(wù)創(chuàng)造更好條件。

Cache提供HTTP與流媒體加速服務(wù)的整個(gè)業(yè)務(wù)流程可以通過圖1描述：

1.客戶端發(fā)起HTTP請求到原始網(wǎng)站下載文件或視頻；

2.交換機(jī)將HTTP請求鏡像到Cache監(jiān)聽網(wǎng)卡，Cache截獲了用戶的訪問請求；

3.如果Cache已經(jīng)緩存有該用戶請求的資源，Cache通過通信網(wǎng)卡向客戶端發(fā)出HTTP302重定向，客戶端執(zhí)行重定向動作，發(fā)起新的HTTP請求到Cache下載；如果Cache上沒有緩存該用戶請求的資源，則執(zhí)行第4步；

4.如果Cache尚未緩存該用戶請求的資源，屬于訪問未命中，Cache不會給用戶發(fā)送任何報(bào)文，也不影響用戶從外網(wǎng)正常下載，而是在系統(tǒng)中增加一次訪問請求記錄；Cache上有一個(gè)觸發(fā)緩存的閾值，默認(rèn)2次（可以在界面修改），當(dāng)Cache監(jiān)測到不同的兩個(gè)用戶請求同一個(gè)資源時(shí)，會觸發(fā)Cache對資源進(jìn)行緩存，緩存后如果再有用戶請求，就進(jìn)行第3步，引導(dǎo)用戶將直接從Cache下載資源。

圖1 Cache業(yè)務(wù)流程

圖2 部署Cache后的網(wǎng)絡(luò)拓?fù)?/p>

圖3 緩存效益比例隨時(shí)間變化

基于校園網(wǎng)的Cache應(yīng)用

布置方案

如圖2所示，CNC是校區(qū)1某運(yùn)營商網(wǎng)絡(luò)出口，TEL是校區(qū)2另一運(yùn)營商網(wǎng)絡(luò)出口。Switch1和Switch2分別是兩個(gè)校區(qū)核心交換機(jī)。設(shè)備Cache1和Cache2分別代表校區(qū)1和校區(qū)2待測Cache。s1和s2分別代表Cache1和Cache2的服務(wù)流量，即從Cache流向校園網(wǎng)的流量；d1和d2分別代表Cache1和Cache2從因特網(wǎng)下載的流量；g1和g2分別代表校區(qū)1和校區(qū)2的用戶訪問因特網(wǎng)的上行流量；在兩臺核心交換機(jī)上分別設(shè)置mir1和mir2鏡像g1和g2流量。

當(dāng)測試進(jìn)行時(shí)，因?yàn)閙ir1鏡像了g1，所以Cache1獲得了校區(qū)1用戶的下載請求，如果符合策略的匹配條件，Cache1也向因特網(wǎng)提交一次該下載請求，并因此產(chǎn)生流量d1。當(dāng)相同的下載請求再次在mir1/g1偵測到，Cache1代替因特網(wǎng)回應(yīng)該次請求，并產(chǎn)生流量s1。流量d1對校園網(wǎng)對外出口產(chǎn)生負(fù)面作用，s1起到正面作用。因此，使用Cache1產(chǎn)生的效益為：

由于mir1鏡像g1，所以Cache1只監(jiān)測連接到Switch1上的用戶的請求。同理，mir2只監(jiān)測連接到Switch2上的用戶的請求。Switch1和Swithch2由萬兆光纖鏈路連接。校區(qū)2用戶訪問CNC，數(shù)據(jù)經(jīng)過萬兆光纖，由Cache2緩存；校區(qū)1用戶訪問TEL，數(shù)據(jù)經(jīng)過萬兆光纖，由Cache1緩存。

使用SNMP協(xié)議分別獲取Switch1和Switch2的流量數(shù)據(jù)，每小時(shí)采集一次，通過用戶實(shí)際下載流量、待測Cache為用戶提供的流量s1+s2、待測Cache設(shè)備從因特網(wǎng)下載流量d1+d2計(jì)算采用待測Cache設(shè)備后產(chǎn)生的效益。

緩存策略

針對優(yōu)酷、百度、土豆、搜狐、迅雷、樂視六個(gè)視頻網(wǎng)站所有文件進(jìn)行緩存測試。單個(gè)資源存在兩個(gè)以上校內(nèi)用戶訪問即開始下載，對內(nèi)網(wǎng)提供緩存服務(wù)。

Cache設(shè)備性能分析方法

如圖3緩存效益比例隨時(shí)間變化所示，橫坐標(biāo)是時(shí)間，以小時(shí)為單位，每24小時(shí)標(biāo)注一個(gè)刻度，共14天（14*24小時(shí)）；縱坐標(biāo)是效益比例，按公式3計(jì)算。

緩存效益比例隨時(shí)間周期變化，約每天一個(gè)周期，效益比例大致在0%至約35%間波動。在用戶活動較頻繁的白天和前半夜，效益比例較高，在用戶活動稀少的后半夜，效益比例較低。

極個(gè)別時(shí)，約第217小時(shí)，有效益尖峰達(dá)到約48.08%。此時(shí)可能有在短時(shí)間內(nèi)若干用戶集中訪問同一校外資源。

如圖4所示，橫坐標(biāo)是時(shí)間，以小時(shí)為單位，每24小時(shí)標(biāo)注一個(gè)刻度，共14天（14*24小時(shí)）；縱坐標(biāo)是流量，單位KB。其中橙色虛線是用戶流量，藍(lán)色實(shí)線是緩存效益。

效益和用戶流量呈周期變化，周期約一天。在用戶活動較頻繁的白天和前半夜，緩存效益較高，用戶流量較大；在用戶活動稀少的后半夜，緩存效益較低，用戶流量較小。緩存效益及效益比例（參見圖3緩存效益比例隨時(shí)間變化）隨用戶流量變化而變化，成正相關(guān)。

大多數(shù)每日高峰，總流量達(dá)到我校出口帶寬（TEL+CNC）上限。第7天是周日，總流量下降，相對其他的周一至周五表現(xiàn)異常。

Cache下載占總流量比例隨時(shí)間變化

Cache根據(jù)監(jiān)聽用戶請求而從互聯(lián)網(wǎng)下載的流量，是Cache所產(chǎn)生的負(fù)面效果。這一效果已納入對緩存的效益計(jì)算中，圖5顯示Cache下載隨時(shí)間變化的情況。

下載數(shù)據(jù)峰值約35%，去除特異數(shù)據(jù)以后，大多數(shù)日周期的峰值約20%，此時(shí)學(xué)校下載總流量中有約20%是由Cache導(dǎo)致的。

如圖6所示，橙色虛線代表緩存效益比例，藍(lán)色實(shí)線代表下載比例?？芍б娲笥谙螺d，Cache總體帶來正面效果。下載約為緩存效益的一半。

如果Cache調(diào)整下載策略，即僅在或多在用戶使用出口的低峰期下載數(shù)據(jù)，而在高峰期少下載或不下載數(shù)據(jù)，負(fù)面作用可望降低，效益及效益比例可以提高。

平均效益

平均效益約占總流量的18.17%。

緩存效益隨時(shí)間以每天為周期變化，與用戶流量正相關(guān)，平均占總流量的18.17%。

圖4 效益比例與用戶流量隨時(shí)間變化

圖5 Cache下載占總流量比例隨時(shí)間變化

圖6 下載與緩存效益的比例

Cache下載的流量帶來負(fù)面效果。下載的流量總體低于服務(wù)流量，起正面效果。效益計(jì)算已考慮到Cache下載帶來的負(fù)面影響。如果適當(dāng)調(diào)整Cahce下載及資源站點(diǎn)構(gòu)成等策略，Cache帶來的正面效果可望提升而負(fù)面效果可望降低，可進(jìn)一步提高設(shè)備利用率及服務(wù)性能。

流量高峰時(shí)刻Cache提供的下載速度為校園網(wǎng)內(nèi)網(wǎng)所提供的速度，僅受千兆網(wǎng)卡和校園網(wǎng)流控策略限制，用戶體驗(yàn)比直接從因特網(wǎng)下載更好。流量低谷時(shí)，雖然效益較低，但是此時(shí)段出口帶寬空閑足夠大，不會由于出口帶寬受限而導(dǎo)致用戶體驗(yàn)降低（受目標(biāo)文件的站點(diǎn)及路徑的限制）。

Cache測試期間，用戶在訪問設(shè)備已經(jīng)緩存的資源時(shí)，幾乎能達(dá)到理論上的最大值。