基于PhantomJS的校園網(wǎng)質(zhì)量分析及優(yōu)化

文/周曜 周立聘 謝銳

對(duì)于互聯(lián)網(wǎng)建設(shè)來(lái)說(shuō)，提升終端用戶的訪問(wèn)質(zhì)量是重要目標(biāo)。根據(jù)國(guó)際通用的寬帶網(wǎng)速衡量標(biāo)準(zhǔn)，反映寬帶網(wǎng)絡(luò)速率及接入質(zhì)量的指標(biāo)主要有兩種：

一是網(wǎng)絡(luò)接入速率，即運(yùn)營(yíng)商與用戶合同約定的，從用戶終端到運(yùn)營(yíng)商網(wǎng)絡(luò)接入設(shè)備的可使用的最高速率，比如我們通常所說(shuō)的運(yùn)營(yíng)商提供的20Mbps、50Mbps寬帶，主要反映的是寬帶網(wǎng)絡(luò)運(yùn)營(yíng)企業(yè)為用戶提供的網(wǎng)絡(luò)能力。

二是用戶實(shí)際體驗(yàn)速率，是指用戶從互聯(lián)網(wǎng)上下載文件，訪問(wèn)互聯(lián)網(wǎng)視頻、購(gòu)物等各類應(yīng)用時(shí)實(shí)際感受到的速率，主要反映了用戶訪問(wèn)網(wǎng)絡(luò)應(yīng)用“端到端”的實(shí)際體驗(yàn)。

包括中間網(wǎng)絡(luò)、國(guó)際互聯(lián)網(wǎng)出入口帶寬、被訪問(wèn)網(wǎng)站的服務(wù)能力、網(wǎng)絡(luò)忙閑時(shí)、用戶上網(wǎng)行為及用戶使用的智能終端等在內(nèi)的多種因素會(huì)影響用戶實(shí)際體驗(yàn)速率。

對(duì)于高校校園網(wǎng)絡(luò)，在訪問(wèn)外網(wǎng)時(shí)同樣存在著提升用戶體驗(yàn)的需求。如何合理利用現(xiàn)有資源，最大限度地為廣大師生提供優(yōu)良的上網(wǎng)體驗(yàn)，是目前迫切需要解決的問(wèn)題。目前上海交通大學(xué)校園網(wǎng)出口除教育網(wǎng)外，還存在多家運(yùn)營(yíng)商線路，其帶寬和利用率各不相同。為了提升學(xué)校校園網(wǎng)內(nèi)部訪問(wèn)外網(wǎng)質(zhì)量，基于師生通過(guò)校園網(wǎng)訪問(wèn)的最常用網(wǎng)站，我們利用PhantomJS自動(dòng)測(cè)試腳本做了大量訪問(wèn)測(cè)試，通過(guò)分析收集到的數(shù)據(jù)，找到網(wǎng)絡(luò)延時(shí)過(guò)長(zhǎng)的原因，并針對(duì)性的實(shí)施改進(jìn)措施，減少校園網(wǎng)訪問(wèn)外網(wǎng)的延時(shí)，提升廣大師生訪問(wèn)外網(wǎng)的體驗(yàn)。

測(cè)試方法

測(cè)試腳本采用PhantomJS編寫。PhantomJS 是一個(gè)基于WebKit 的服務(wù)器端 JavaScript API。它全面支持Web而無(wú)需瀏覽器支持，原生支持各種Web標(biāo)準(zhǔn)： DOM 處理, CSS 選擇器,JSON, Canvas,和SVG。它非常適合于頁(yè)面自動(dòng)化，網(wǎng)絡(luò)監(jiān)測(cè)，網(wǎng)頁(yè)截屏，以及無(wú)界面測(cè)試等。本次測(cè)試腳本的主要部分如下：

var page = require('webpage').create(),

system = require('system'),

t, address;

t = Date.now();

address = system.args[1];

page.open(address, function(status) {

if (status !== 'success') {

console.log('-1');

} else {

t = Date.now() - t;

}

phantom.exit();

});

首先選定待測(cè)試目標(biāo)網(wǎng)站。我們以校園網(wǎng)內(nèi)用戶經(jīng)常訪問(wèn)的TOP1000網(wǎng)址作為測(cè)試對(duì)象，比如TOP5網(wǎng)址如下：203.107.1.1，msg.71.am，hq.sinajs.cn，wx.qlogo.cn，#。這些都是網(wǎng)頁(yè)的子URL，通常是網(wǎng)頁(yè)的一個(gè)框架或者一個(gè)子頁(yè)面等。對(duì)他們的訪問(wèn)所需時(shí)間比完整的頁(yè)面要少，因而能更加準(zhǔn)確地反映網(wǎng)絡(luò)訪問(wèn)延時(shí)，便于作為分析研究的數(shù)據(jù)源。

測(cè)試分成兩個(gè)部分：有線網(wǎng)和無(wú)線網(wǎng)來(lái)完成。有線網(wǎng)機(jī)器配置成正常的用戶IP地址和DNS，利用上述測(cè)試腳本訪問(wèn)TOP1000網(wǎng)址。上交大無(wú)線網(wǎng)出口路由分為兩個(gè)部分：教育網(wǎng)和電信網(wǎng)，所以無(wú)線網(wǎng)測(cè)試分成兩部分來(lái)完成。

具體的測(cè)試方法是在每天上網(wǎng)高峰期上午八時(shí)，中午十二時(shí)，晚上六時(shí)，依次訪問(wèn)上述排名前一千位的網(wǎng)站，連續(xù)測(cè)試十天以上。在測(cè)試期間遇到過(guò)一些異常問(wèn)題，包括：測(cè)試腳本無(wú)反應(yīng)，等待時(shí)間太長(zhǎng)；訪問(wèn)時(shí)間不規(guī)則，時(shí)長(zhǎng)時(shí)短等。針對(duì)這些異常，采用的方法包括：如果一分鐘還沒(méi)有返回，則認(rèn)為該網(wǎng)站不通，測(cè)試結(jié)果無(wú)效，此次對(duì)該地址的測(cè)試直接結(jié)束；連續(xù)測(cè)試十次，首先去掉無(wú)效的結(jié)果，一次兩次有效結(jié)果直接計(jì)算，三次有效以上再去掉最大和最小值，剩下的有效值取平均值；如果開始連續(xù)三次都timeout，則不繼續(xù)測(cè)試該站點(diǎn)，以免浪費(fèi)時(shí)間。通過(guò)這些措施，保證每次測(cè)試能夠在2小時(shí)左右的可控制時(shí)間內(nèi)有效完成，并符合一般用戶上網(wǎng)行為。

測(cè)試數(shù)據(jù)

用上述方法得到近30萬(wàn)條測(cè)試數(shù)據(jù)后，首先對(duì)這些數(shù)據(jù)進(jìn)行總體宏觀上的分析。取連續(xù)十天的數(shù)據(jù)平均值進(jìn)行比較。以有線網(wǎng)數(shù)據(jù)為例，共829個(gè)網(wǎng)址能夠成功訪問(wèn)，占83%，另外171個(gè)網(wǎng)站無(wú)法訪問(wèn)，占17%。經(jīng)過(guò)分析，這171個(gè)網(wǎng)址訪問(wèn)失敗主要有下述原因：

首位度多用于測(cè)量區(qū)域主導(dǎo)性[28]，反映區(qū)域規(guī)模序列中的頂頭優(yōu)勢(shì)性，也表明區(qū)域中各種資源的集中程度。本文將其用于反映旅游客源市場(chǎng)分布的集中度，計(jì)算公式如下：

1.某些網(wǎng)址訪問(wèn)需要特殊格式，不滿足則http返回400錯(cuò)誤，包括如下地址：

TOP排名第三：—hq.sinajs.cn 和TOP排名第四：—wx.qlogo.cn

2.某些網(wǎng)址需要通過(guò)認(rèn)證才能訪問(wèn)，不滿足則http返回403錯(cuò)誤，包括如下地址：

TOP排名第二十九：—p3.music.126.net 和TOP排名第三十：—beacon.sina.com.cn

3.部分子域名需要從主域名訪問(wèn)，如：

TOP排名十三： — api.bilibili.com 和 TOP排名十五： —data.bilibili.com 都需要從www.bilibili.com訪問(wèn)。

對(duì)于成功訪問(wèn)的829個(gè)網(wǎng)址，通過(guò)圖1查看各個(gè)延時(shí)時(shí)間段內(nèi)網(wǎng)址的個(gè)數(shù)（橫坐標(biāo)表示各個(gè)訪問(wèn)延時(shí)的區(qū)間，縱坐標(biāo)表示落在各個(gè)區(qū)間的網(wǎng)址個(gè)數(shù)），可以看出,部分網(wǎng)址訪問(wèn)情況理想，部分網(wǎng)址訪問(wèn)延時(shí)較大。延遲較大的需要重點(diǎn)分析并予以優(yōu)化。

通過(guò)圖2可以清晰地比較各個(gè)訪問(wèn)延時(shí)的總體情況（橫坐標(biāo)對(duì)應(yīng)可成功訪問(wèn)的829個(gè)網(wǎng)址，按照訪問(wèn)頻度排名高低從左到右排列，縱坐標(biāo)表示各個(gè)網(wǎng)址對(duì)應(yīng)的訪問(wèn)延時(shí)，單位毫秒）。為了便于觀察，對(duì)于訪問(wèn)延遲大于一萬(wàn)毫秒的統(tǒng)一按照一萬(wàn)毫秒來(lái)標(biāo)記。

通過(guò)圖1、2數(shù)據(jù)，表示訪問(wèn)頻率較高的網(wǎng)址延時(shí)比較大，這部分地址將是優(yōu)化的主要目標(biāo)。

圖3是無(wú)線網(wǎng)絡(luò)部分通過(guò)電信網(wǎng)和通過(guò)教育網(wǎng)訪問(wèn)829個(gè)網(wǎng)址的數(shù)據(jù)對(duì)比。

圖1 各類訪問(wèn)延時(shí)分布

圖2 訪問(wèn)延時(shí)總體分布

圖3 無(wú)線網(wǎng)測(cè)試數(shù)據(jù)對(duì)比

從圖3中可以看出，無(wú)線網(wǎng)訪問(wèn)外網(wǎng)延時(shí)總體分布同有線網(wǎng)類似，但是整體訪問(wèn)質(zhì)量要略遜色于有線網(wǎng)，這屬于無(wú)線接入端引入的延時(shí)，比如射頻干擾引起的延遲。同時(shí)比較電信和教育網(wǎng)出口訪問(wèn)延時(shí)情況，可以看到電信網(wǎng)出口無(wú)論是可訪問(wèn)網(wǎng)址個(gè)數(shù)，還是延時(shí)都要優(yōu)于教育網(wǎng)出口。這是因?yàn)樯辖淮箅娦啪W(wǎng)出口帶寬利用率不高，相對(duì)于教育網(wǎng)比較空閑（目前教育網(wǎng)帶寬峰值利用率在95%以上），從另一個(gè)側(cè)面表明教育網(wǎng)帶寬需要進(jìn)一步升級(jí)。

延時(shí)原因分析

為了解決訪問(wèn)延時(shí)較大的問(wèn)題，我們從上述測(cè)試結(jié)果中挑選訪問(wèn)頻率較高的網(wǎng)址（包括延時(shí)較小和延時(shí)較大等各種類型）作重點(diǎn)比較分析，通過(guò)比較各個(gè)網(wǎng)址訪問(wèn)的詳細(xì)過(guò)程，探究訪問(wèn)延時(shí)大、用戶體驗(yàn)差的可能原因。下面列舉出幾個(gè)典型樣例：

1.部分網(wǎng)址訪問(wèn)狀況良好，穩(wěn)定訪問(wèn)時(shí)間在100ms以內(nèi)。以排名第二的網(wǎng)址 msg.71.am為例,連續(xù)三天的測(cè)試結(jié)果如圖4所示。（橫坐標(biāo)表示時(shí)間，縱坐標(biāo)表示延時(shí)，單位毫秒，以下同）。

該網(wǎng)址IP地址解析在山東濟(jì)南移動(dòng)，訪問(wèn)延時(shí)低而且穩(wěn)定，無(wú)需優(yōu)化。

2.部分網(wǎng)址訪問(wèn)延時(shí)不穩(wěn)定，有時(shí)候很小，有時(shí)候很大甚至不通。以排名第十六的網(wǎng)址 dl.360safe.com為例,連續(xù)三天的測(cè)試結(jié)果如圖5。

圖4 msg.71.am訪問(wèn)數(shù)據(jù)對(duì)比

圖5 dl.360safe.com訪問(wèn)數(shù)據(jù)對(duì)比

該地址早上訪問(wèn)延時(shí)較小，但是到了中午后延時(shí)很大，非常有規(guī)律。經(jīng)過(guò)觀察，訪問(wèn)快的時(shí)候CDN調(diào)度使得域名解析到101.4.60網(wǎng)段（位于教育網(wǎng)北京）；而下午CDN調(diào)度會(huì)將域名解析到104.192.108網(wǎng)段（位于美國(guó)洛杉磯），導(dǎo)致速度變慢，用戶體驗(yàn)變差。

3.部分網(wǎng)址訪問(wèn)延時(shí)一直很大。以排名第68位的網(wǎng)址 www.bilibili.com和第51位 blog.sina.com.cn 為例,連續(xù)三天的測(cè)試結(jié)果如圖6所示。

其中 www.bilibili.com訪問(wèn)延時(shí)一直較大，ping報(bào)文延時(shí)也達(dá)到200ms左右。經(jīng)過(guò)分析，訪問(wèn)域名大多解析到47.88.107網(wǎng)段（位于美國(guó)加利福利亞州），也有時(shí)候解析到120.41.32網(wǎng)段（位于福建電信）。同時(shí) blog.sina.com.cn 的http訪問(wèn)延時(shí)也一直較大；單ping報(bào)文延時(shí)很小，只有20多毫秒。訪問(wèn)域名有時(shí)解析到202.205.3網(wǎng)段（位于北京清華大學(xué)），也有時(shí)解析到218.30.115網(wǎng)段（位于北京電信）。經(jīng)過(guò)分析，http延時(shí)大的原因應(yīng)為服務(wù)器訪問(wèn)量太大。

經(jīng)過(guò)上述一系列測(cè)試和分析，可以看出Web訪問(wèn)瓶頸不在教育網(wǎng)內(nèi)部，國(guó)外網(wǎng)站訪問(wèn)延時(shí)相對(duì)國(guó)內(nèi)網(wǎng)站普遍偏大。所以，國(guó)際訪問(wèn)流量將是我們優(yōu)化網(wǎng)絡(luò)訪問(wèn)的另一個(gè)重點(diǎn)。其次，教育網(wǎng)及各個(gè)運(yùn)營(yíng)商不同的DNS解析策略也在很大程度上影響訪問(wèn)延時(shí)，校內(nèi)用戶統(tǒng)一DNS解析很重要。

圖6 www.bilibili.com 和 blog.sina.com.cn訪問(wèn)數(shù)據(jù)對(duì)比

改進(jìn)措施

通過(guò)上述測(cè)試數(shù)據(jù)比較和分析，針對(duì)影響訪問(wèn)質(zhì)量的原因，總結(jié)出下述具體改進(jìn)措施：

1.選擇最快的運(yùn)營(yíng)商國(guó)際線路

訪問(wèn)同一國(guó)外網(wǎng)站，教育網(wǎng)和各家運(yùn)營(yíng)商的國(guó)際出口有快有慢?？焖僭L問(wèn)的關(guān)鍵，是正確選擇最快的運(yùn)營(yíng)商線路。通過(guò)在多家運(yùn)營(yíng)商線路校園網(wǎng)側(cè)部署探針系統(tǒng)進(jìn)行多網(wǎng)訪問(wèn)測(cè)試，并對(duì)測(cè)試結(jié)果進(jìn)行比較，進(jìn)而找出最快的線路。

另外，各家運(yùn)營(yíng)商國(guó)際出口各具優(yōu)勢(shì)，要快速訪問(wèn)所有的網(wǎng)站，只靠一家運(yùn)營(yíng)商線路無(wú)法實(shí)現(xiàn)，需要接入多運(yùn)營(yíng)商帶寬，做國(guó)際出口組合。

2.實(shí)施網(wǎng)絡(luò)出口流量控制策略

接入多線帶寬后，還要使用專用流控設(shè)備，把訪問(wèn)目標(biāo)網(wǎng)站的流量切到最快的出口線路上。網(wǎng)絡(luò)流量不會(huì)自動(dòng)走最快的運(yùn)營(yíng)商線路。通過(guò)使用流控設(shè)備進(jìn)行管控, 才能讓訪問(wèn)目標(biāo)網(wǎng)站的流量走最快、最穩(wěn)定的線路。

3.部署內(nèi)網(wǎng)緩存系統(tǒng)

把最常訪問(wèn)的數(shù)據(jù)（網(wǎng)頁(yè)、圖片、視頻等）緩存到本地，用戶可直接從本地緩存服務(wù)器中訪問(wèn)，大大加快訪問(wèn)速度，同時(shí)節(jié)省出口帶寬。

4.貼身部署DNS，大大提高DNS響應(yīng)速度，同時(shí)拒絕解析無(wú)法訪問(wèn)的域名

為用戶貼身部署DNS，減少由于配置了非校園網(wǎng)DNS服務(wù)器引入的網(wǎng)絡(luò)訪問(wèn)延時(shí)。部分國(guó)外域名對(duì)應(yīng)IP長(zhǎng)期無(wú)法訪問(wèn)，而大量國(guó)外網(wǎng)站引用了其上的JavaScript資源或API等，造成網(wǎng)頁(yè)整體加載緩慢?？紤]到這些域名本身已不可達(dá)，因此在校園網(wǎng)DNS服務(wù)器上主動(dòng)拒絕這些域名的解析，可避免用戶獲得并嘗試連接無(wú)法連通的IP地址，從而有效提升網(wǎng)站訪問(wèn)速度。

5.持續(xù)調(diào)優(yōu)

各運(yùn)營(yíng)商的國(guó)際互聯(lián)網(wǎng)出口，以及校內(nèi)的各種不同類型的訪問(wèn)流量都不是一成不變的，所以想一勞永逸地實(shí)現(xiàn)最優(yōu)化的國(guó)際流量訪問(wèn)比較困難，需要定期根據(jù)實(shí)際情況作出及時(shí)調(diào)整。

本文給出了一種評(píng)估用戶上網(wǎng)體驗(yàn)的方法，通過(guò)全面系統(tǒng)的測(cè)試用戶上網(wǎng)延時(shí)并比較分析延時(shí)原因，進(jìn)而總結(jié)出具體的改進(jìn)措施。后續(xù)通過(guò)措施逐步實(shí)施，改善師生訪問(wèn)校外網(wǎng)絡(luò)的質(zhì)量。由于校園網(wǎng)各個(gè)出口運(yùn)營(yíng)商網(wǎng)絡(luò)的復(fù)雜性以及用戶體驗(yàn)改善的長(zhǎng)久性，未來(lái)在緩存系統(tǒng)、DNS部署以及根據(jù)校內(nèi)用戶不同類型的流量分別控制方面都還有許多的優(yōu)化空間。