陳文龍,徐明偉,徐恪
(1.首都師范大學(xué) 信息工程學(xué)院,北京 100048;2.清華大學(xué) 計算機科學(xué)與技術(shù)系,北京 100084)
作為互聯(lián)網(wǎng)最核心的網(wǎng)絡(luò)設(shè)備,路由器經(jīng)歷了單處理器集中式總線結(jié)構(gòu)、多處理器分布式共享總線結(jié)構(gòu)、多處理器分布式交換結(jié)構(gòu)3個發(fā)展階段,可重構(gòu)、可擴展體系結(jié)構(gòu)是路由器發(fā)展的下一個階段[1]。所謂可重構(gòu)路由器,就是由若干個子路由器級連,重構(gòu)而成的一個統(tǒng)一的路由器系統(tǒng)。它在功能、性能、接口規(guī)模等方面,具有極大的可重構(gòu)性。它的主要優(yōu)點包括:保護前期運營投資、提高系統(tǒng)性能、增強設(shè)備功能模塊的可靠性、簡化網(wǎng)絡(luò)拓撲等。當(dāng)今主要的路由器廠商已開發(fā)出自己的可重構(gòu)路由器產(chǎn)品,包括:Cisco公司的 CRS-1[2]、JUNIPER公司的路由矩陣(routing matrix)[3]、AVICI公司 TSR[4]等。
分布式路由器體系中,一般通過一對多點的單播分發(fā)模式實現(xiàn)系統(tǒng)的路由分發(fā)。該模式存在分發(fā)周期長、負載不均衡等問題。路由器中大量路由分發(fā),常與設(shè)備啟動、接口UP/DOWN、路由協(xié)議啟動等事件同時發(fā)生。此時,一般都伴有高負荷的路由協(xié)議計算、路由決策以及路由模塊或其他輔助模塊的大量協(xié)議報文收發(fā)。路由分發(fā)和上述事件同時搶占處理器資源及板間通信帶寬資源,會導(dǎo)致路由器系統(tǒng)性能瞬時降低。當(dāng)路由器線卡數(shù)量較少及路由容量較小時,問題顯得并不明顯。然而,面對新的網(wǎng)絡(luò)環(huán)境:路由器結(jié)構(gòu)可重構(gòu)、互聯(lián)網(wǎng)路由表急劇增加[5,6]等,傳統(tǒng)的路由表分發(fā)模式面臨極大的挑戰(zhàn)。
首先,隨著路由器體系結(jié)構(gòu)向可重構(gòu)方向發(fā)展,若干子路由器級連。一個路由器系統(tǒng)包含的板卡大量增加,路由表分發(fā)時間將明顯延長,發(fā)送者的負載會急劇增大。其次,隨著互聯(lián)網(wǎng)規(guī)模的不斷擴大,以及Multi-Homing的實施,核心路由器的路由表容量不斷增大。與此同時,互聯(lián)網(wǎng)上對延遲和丟失敏感的新型應(yīng)用(如VoIP,流媒體,網(wǎng)絡(luò)游戲,視頻會議)正在大量部署,路由分發(fā)慢會影響用戶的體驗。而且,路由分發(fā)慢還會導(dǎo)致大量分組被錯誤轉(zhuǎn)發(fā),造成線卡處理和鏈路帶寬等網(wǎng)絡(luò)資源的浪費。這要求路由器在面對更多路由的情況下,更快地將核心路由表同步到各板卡。
從分布式體系結(jié)構(gòu)開始,路由器設(shè)計者就開始研究系統(tǒng)的路由同步問題。路由表同步是指分布式路由器中,如何使所有板卡盡快與系統(tǒng)當(dāng)前的核心路由表(KRT,kernel routing table)保持一致,從而保證報文轉(zhuǎn)發(fā)和路由查詢的正確性。關(guān)于路由器的路由同步方式,相關(guān)的研究和實現(xiàn)可以參考國防科技大學(xué)一種集群路由器轉(zhuǎn)發(fā)表同步框架及關(guān)鍵算法[7]和JUNIPER公司的路由矩陣(routing matrix)[3]等。業(yè)界普遍采用主動廣播更新,全冗余備份存儲的路由同步機制。一般由主控卡集中計算出整個可重構(gòu)路由器的核心路由表,進而通過主動廣播更新方式同步所有板卡的路由表,每塊板卡都存儲核心路由表的完全鏡像。
本文的貢獻是,面向可重構(gòu)路由器體系及互聯(lián)網(wǎng)新環(huán)境帶來的路由同步問題,設(shè)計了樹型并行路由分發(fā)模型,給出了具體實施方法。理論分析和基于NS2的仿真實驗,驗證了模型能大大減少路由分發(fā)時間,并使負載更為均衡。
本文第2節(jié)給出了可重構(gòu)路由器典型路由結(jié)構(gòu)模型及傳統(tǒng)同步模式下的分發(fā)性能,設(shè)計了樹型路由并行分發(fā)(TPRD, tree-based parallel route distribution)模型,推導(dǎo)出k叉樹分發(fā)中每一發(fā)送周期達到路由同步的板卡數(shù);第3節(jié)介紹了TPRD模型相關(guān)算法及實施步驟,并從同步時間及負載均衡出發(fā)分析了不同板卡數(shù)對應(yīng)的最佳k值;第4節(jié)給出了性能分析及基于NS2的實驗;第5節(jié)是結(jié)束語。
可重構(gòu)路由器是由若干個子路由器級連而成,級連后會形成2個層次的板間通信功能模塊[8]。一方面是數(shù)據(jù)層快速交換模塊,用于線卡間外部轉(zhuǎn)發(fā)分組的快速交換,完成整個路由系統(tǒng)的報文轉(zhuǎn)發(fā);另一方面是控制層通信模塊,用于本地收發(fā)的協(xié)議報文及控制消息的板間傳遞。每個子路由器等同于現(xiàn)在分布式路由器,其內(nèi)部通信結(jié)構(gòu)是一個高速以太網(wǎng)交換模塊實現(xiàn)控制層通信??芍貥?gòu)體系中,所有子路由器的交換模塊將級連在一起,控制層通信結(jié)構(gòu)是一個多級高速以太網(wǎng)交換模塊。邏輯上,可認為可重構(gòu)路由器中任意2塊板卡之間通過一個以太網(wǎng)交換模塊直接進行控制層通信。
圖1給出了本文可重構(gòu)路由器結(jié)構(gòu)模型。把首先計算出核心路由表的主控卡稱為超級路由主控(SRM, super route mater),由SRM發(fā)起對整個可重構(gòu)系統(tǒng)的路由同步工作。本文有如下定義:
m表示可重構(gòu)路由器中的子路由器數(shù);
Pi表示第i個子路由器的板卡數(shù);
Cone表示發(fā)送一條路由消息的代價,主要包括處理器及帶寬消耗等;
q表示SRM某個時間段內(nèi)產(chǎn)生的核心路由的數(shù)量;
Tone為可重構(gòu)路由器任意兩板間收發(fā)一條路由項消息所需時間,也叫傳遞周期。
圖1 本文的可重構(gòu)路由器結(jié)構(gòu)模型
無論采取何種方案,路由同步完成后每塊板卡都會接收所有核心路由,而板卡接收一條路由消息的代價總是一樣的,所以忽略分析接收代價,只分析發(fā)送代價。另外,本文設(shè)定可重構(gòu)路由器路由表同步模型的優(yōu)劣評價包括2個方面:1)從SRM將路由分發(fā)到系統(tǒng)中所有板卡所需要的時間應(yīng)盡量短;2)在路由同步的過程中,系統(tǒng)中各板卡為此工作所付出的代價盡可能均衡。
傳統(tǒng)分布式路由同步模式是簡單的一對多串行路由分發(fā)(SRD,serial route distributing)策略,SRM 依次向每個接收者單播發(fā)送路由消息。除去SRM,共有-1個路由消息接收者。所以,發(fā)送路由消息所需代價 Ctotal以及系統(tǒng)路由分發(fā)時間Ttotal分別為它們都隨路由消息數(shù)和板卡總數(shù)呈線性增長。可重構(gòu)路由器中板卡數(shù)大量增加,SRM發(fā)送路由消息需要的處理器負載和帶寬都非常大,瞬間極大地影響板卡的處理性能。同時,可重構(gòu)系統(tǒng)中的其他板卡只負責(zé)路由消息接收工作,發(fā)送代價為 0,出現(xiàn)負載極度不均的情況,造成資源浪費。另一方面,系統(tǒng)中路由同步時間也較長,容易造成網(wǎng)絡(luò)設(shè)備路由表和轉(zhuǎn)發(fā)表不一致及大量分組丟失。
由于路由同步是一對多的分發(fā)過程,因此先要權(quán)衡組播方式和單播方式的優(yōu)劣。本文認為單播方式更為合理,主要基于以下考慮:1)路由分發(fā)必需是一個可靠傳遞過程,要有重傳和確認機制;2)可重構(gòu)路由器中,支持多種協(xié)議族分組尋徑方式;板卡可配置成只支持某種或某幾種協(xié)議族尋徑,所以不是每塊板卡都需要所有協(xié)議族的路由(本文把所有協(xié)議族的尋徑策略都統(tǒng)稱為路由);組播將導(dǎo)致組播風(fēng)暴,給板卡帶來大量的無效消息,嚴重影響內(nèi)部通信性能;3)組播分發(fā)機制,對于發(fā)送源SRM來說,需要保證所有板卡路由消息接收的可靠性,帶來了太大的負載;4)路由消息是有狀態(tài)的,不能亂序;SRM 要考慮接收者的狀態(tài)以及鏈路狀況,對于組播來說算法太復(fù)雜;5)若專門為路由消息構(gòu)建組播可靠傳輸機制,會使得現(xiàn)有的路由器內(nèi)部通信機制更加復(fù)雜,不易實現(xiàn)。
為了提高可重構(gòu)路由器路由同步時間以及均衡路由消息分發(fā)過程中各板卡的負載,本文提出了一種新型的樹型路由并行分發(fā)模型。SRM計算出新的核心路由表后,構(gòu)造路由更新消息,依次向k塊板卡發(fā)送。每個獲取到路由消息的板卡再向k個接收者發(fā)送,直到所有板卡都獲取到該路由消息,完成該路由消息在整個路由系統(tǒng)的同步。每個板卡遵循先傳播再處理的原則來節(jié)省系統(tǒng)同步時間,即板卡在轉(zhuǎn)發(fā)路由消息之后再進行本地核心路由表更新處理??梢园l(fā)現(xiàn),整個路由分發(fā)體系如同一棵 k叉樹。初始狀態(tài)只有樹根節(jié)點,即計算出新的核心路由表的SRM;每個節(jié)點只負責(zé)對自己子節(jié)點的路由消息發(fā)送,直到葉子節(jié)點。當(dāng)k=1時,所有節(jié)點連成一條線,稱其為單路蔓延。
由于分發(fā)過程中節(jié)點對其子節(jié)點的路由傳遞是依次進行的,當(dāng)給第2個子節(jié)點傳遞消息時,第1個子節(jié)點也開始給它的子節(jié)點傳遞消息。因此,樹的形成過程并不是平衡、均勻地向下蔓延。每一個周期,所有未滿k個子節(jié)點的節(jié)點,同時向自己的某個子節(jié)點傳送路由消息。最終形成一棵傾向一側(cè)的不均衡的k叉樹,樹的深度就是路由消息最長的轉(zhuǎn)發(fā)跳數(shù),也就是整個系統(tǒng)路由分發(fā)的周期數(shù)。
圖2以2叉樹為例,描繪了路由分發(fā)過程中前4個周期路由分發(fā)情況,形成的是一棵不均衡2叉樹。任一狀態(tài),準備進行消息傳遞的都是那些尚未滿2個子節(jié)點的節(jié)點,即圖2中實心節(jié)點。不失一般性,規(guī)定節(jié)點總是先將路由消息傳遞給左子節(jié)點,再傳給右子節(jié)點。所以,對于任一節(jié)點,其左子節(jié)點為根的子樹深度總比右子節(jié)點為根的子樹深度大 1??梢杂嬎愠雒拷?jīng)過一個傳遞周期 Tone,能夠達到路由同步的節(jié)點數(shù)分別為1、2、4、7、12、20、33等。
圖2 基于2叉樹的并行分發(fā)示例
定義1 k路分發(fā)中,路由消息經(jīng)過i個傳遞周期后,可重構(gòu)路由器達到同步的線卡數(shù)為Fk(i)。
定義2 k路分發(fā)中,路由消息經(jīng)過i個傳遞周期后,分發(fā)樹中有j個子節(jié)點的節(jié)點個數(shù)為Vk(i, j),0≤j≤k。
根據(jù)TPRD模型路由分發(fā)規(guī)則,任一傳遞周期,分發(fā)樹中只有那些子節(jié)點數(shù)未滿k的節(jié)點會進行路由分發(fā)。所以,n個周期到n+1個周期增加的節(jié)點數(shù),等于n個周期完成時子節(jié)點個數(shù)未滿k的節(jié)點數(shù)。滿足式(1):
而且,第n個分發(fā)周期后,分發(fā)樹中子節(jié)點數(shù)為0的節(jié)點個數(shù),就是n?1個周期到第n個周期增加的節(jié)點數(shù):Fk(n)?Fk(n?1)。同理,第n個周期后,分發(fā)樹中子節(jié)點數(shù)為1的節(jié)點個數(shù),就是n?2個周期到 n?1 個周期增加的節(jié)點數(shù) Fk(n?1)?Fk(n?2)。所以,第n個分發(fā)周期后,分發(fā)樹中各類節(jié)點滿足以下等式:
用上述等式替代式(1)中右邊Vk(i, j)項,得到:
所以,F(xiàn)k(n)的計算公式為
所以,TPRD模型中可重構(gòu)路由器路由消息的同步周期為 nTone,并滿足式(4),符號定義同前面描述。
大規(guī)模路由消息分發(fā)事件發(fā)生,一般都伴隨著大量BGP update報文的收發(fā),而update報文從線卡上交到SRM需要占用大量板間帶寬及板卡CPU資源。另一方面,TPRD模型中葉子節(jié)點沒有發(fā)送路由消息的工作,路由分發(fā)負載最輕,或者子節(jié)點數(shù)較少的節(jié)點(可稱其為近葉子節(jié)點)相對會有略少的路由消息傳遞工作。所以,將涉及 BGP協(xié)議報文收發(fā)的線卡設(shè)定為分發(fā)樹的葉子節(jié)點或近葉子節(jié)點,就可提高系統(tǒng)面對大量 BGP路由學(xué)習(xí)情況下的路由同步性能。令 LCBGP為路由器中 BGP會話連接收發(fā)報文所經(jīng)線卡,此類線卡數(shù)量為θ。由于TPRD模型會將所有線卡對應(yīng)成序列為從1到的節(jié)點,并且算法使得序列號大的節(jié)點總是后加入到分發(fā)樹中,成為葉子節(jié)點或近葉子節(jié)點的可能性極大。所以,可令θ個LCBGP的分發(fā)樹節(jié)點序號分別為從而達到LCBGP路由消息傳遞負載盡量小的目的。
TPRD模型實施的關(guān)鍵在于將可重構(gòu)路由器所有板卡視為樹節(jié)點,構(gòu)造成符合模型思想的分發(fā)樹,即確定板卡間的父子關(guān)系(消息分發(fā)關(guān)系)。算法主要思想是:在設(shè)備剛啟動尚未進行核心路由表計算之前,由 SRM 根據(jù)當(dāng)前板卡數(shù)計算出路由分發(fā)周期數(shù);接著為每塊板卡計算其路由消息的下一個轉(zhuǎn)發(fā)板卡,即子節(jié)點;最后SRM將父子關(guān)系信息通告各板卡。SRM核心路由表變化時,將更新消息發(fā)給它的下一跳目的板卡;每塊板卡收到路由消息后,按預(yù)定轉(zhuǎn)發(fā)關(guān)系將消息依次轉(zhuǎn)發(fā)給它的下一跳目的板卡。也就是說,事先已計算每塊板卡的子節(jié)點號信息,路由分發(fā)時只需根據(jù)父子關(guān)系轉(zhuǎn)發(fā)路由消息。為方便描述,符號定義如表1所示。
表1 相關(guān)符號定義
算法假設(shè)路由器中所有板卡號都是從1開始依次編號,SRM的序號為1且為樹根節(jié)點。系統(tǒng)各板卡獲得路由轉(zhuǎn)發(fā)關(guān)系包括以下4步:
步驟1 SRM根據(jù)t計算路由同步到所有板卡需要的周期n,n滿足式(4);
步驟 2 對所有節(jié)點的子節(jié)點號初始化為無效值,并將樹根節(jié)點放入處理隊列,詳見圖3(a);
步驟 3 從樹根節(jié)點開始,依次計算節(jié)點間的父子關(guān)系,詳見圖3(b);
步驟4 SRM將每塊板卡的子節(jié)點信息:S(i)(j),即路由消息的下一跳轉(zhuǎn)發(fā)板卡號,通告各板卡。
圖3 TPRD模型相關(guān)算法
上述步驟后,系統(tǒng)每塊板卡都獲知了自已的子板卡號(分發(fā)樹中的子節(jié)點),收到路由消息后根據(jù)子板卡號進行下一跳轉(zhuǎn)發(fā)即可。各板卡路由消息接收處理過程如圖4所示,為了提高速度,板卡總是先轉(zhuǎn)發(fā)路由消息再進行本地存儲。子板卡號等于?1為無效值,無需處理。
表2給出了一個分配算法示例,給出了當(dāng)系統(tǒng)中有7塊板卡時,針對2路分發(fā)通過隊列實現(xiàn)板卡父子關(guān)系計算的過程。初始化階段:計算出7塊板卡需要的分發(fā)周期為 3,即分發(fā)樹的深度為 3,1號板板卡入隊列。隊列中存儲的節(jié)點都是非葉子節(jié)點。每次針對隊列頭部節(jié)點計算它的子節(jié)點,左子節(jié)點的子樹深度為父節(jié)點減1,右子節(jié)點的子樹深度為父節(jié)點減2。節(jié)點代表的子樹深度大于0則需有入隊列操作。此后,頭部節(jié)點出隊列。由 SRM執(zhí)行上述算法。
上述TPRD算法是針對路由系統(tǒng)正常工作時的描述,如果考慮板卡故障及熱插拔,則涉及分發(fā)樹的重計算。只要路由系統(tǒng)感知板卡增刪,TPRD算法就要根據(jù)新的板卡數(shù)重新進行上述4個步驟的工作,并按照新的分發(fā)樹進行路由同步。限于篇幅,本文不對該問題深入探討。另外,在實際路由器中(例如CRS1路由器和TSR路由器),線卡間的物理拓撲將會影響其對等關(guān)系屬性,而線卡間的交換結(jié)構(gòu)是未來路由器體系結(jié)構(gòu)的另一個研究難點。所以,本文采用了一個較理想的以太網(wǎng)總線交換模型開展研究工作。
圖4 板卡路由消息接收轉(zhuǎn)發(fā)處理流程
表2 TPRD算法實施示例
本文從路由同步時間和負載均衡程度來評價路由分發(fā)算法。圖5給出了TPRD模型中k取值為1、2、3、4時,一條路由消息同步的板卡數(shù)隨發(fā)送周期的變化,圖5(a)和圖5(b)分別是針對不同板卡數(shù)量的分析??梢钥闯觯蹇〝?shù)量在100以下時,2路分發(fā)較單路蔓延同步速度提高的較快,3路分發(fā)較 2路分發(fā)有少量提高。隨著板卡數(shù)量增加,3路分發(fā)的優(yōu)勢逐漸體現(xiàn)。當(dāng)板卡數(shù)量達到10000以上時,3路分發(fā)較2路分發(fā)有明顯提高,4路分發(fā)較3路分發(fā)略有提高。對于負載均衡,在k路分發(fā)中,每個節(jié)點的路由消息傳遞負載就是與其子節(jié)點數(shù)相關(guān)。負載最重的就是擁有k個子節(jié)點的節(jié)點,負載為kCone,而負載最輕的就是葉子節(jié)點,負載為0。所以 k的值越小,整個可重構(gòu)系統(tǒng)各板卡對于路由消息傳遞的負載就最均衡。
圖5 分發(fā)周期與同步板卡關(guān)系
基于上述分析,由于目前可重構(gòu)路由器的系統(tǒng)規(guī)模不會到達萬塊板卡,加上對板卡負載均衡的考慮,本文建議通過2路TPRD分發(fā)方式實現(xiàn)可重構(gòu)系統(tǒng)中各板卡的路由同步。當(dāng)然,隨著路由器可重構(gòu)體系結(jié)構(gòu)的發(fā)展,設(shè)計者可以平衡同步時間及負載均衡再來選定k的值。
模擬實驗基于NS2進行,測試TPRD(2路分發(fā))、TPRD(3路分發(fā))和SRD 3種分發(fā)模式下,達到路由同步狀態(tài)的板卡數(shù)與所需時間的關(guān)系。每條路由消息為50byte,圖6(a)和圖6(b)分別是針對1條路由分發(fā)和100條路由分發(fā)的測試結(jié)果。顯然,TPRD相對傳統(tǒng)SRD分發(fā)模式同步時間有了很大的節(jié)省,并且隨著板卡數(shù)量增多優(yōu)勢更明顯。另一方面,TPRD模式下2路分發(fā)和3路分發(fā)的路由同步速度卻相差無幾。由于2路分發(fā)相對3路分發(fā)各板卡負載更為均衡,因此本文認為TPRD模型2路分發(fā)最為合適。這與圖5的理論分析完全一致。接著,分析了板間有大量 BGP協(xié)議報文傳遞時路由同步模式的性能。實驗中 SRM 與 5個板卡間有185kbyte/s的 BGP協(xié)議報文交互。如前文分析,TPRD總會設(shè)置這些有背景流量的板卡為分發(fā)樹的葉子節(jié)點。實驗結(jié)果如圖6(c)和圖6(d)所示,與沒有BGP流量的實驗結(jié)果基本一致。
面對互聯(lián)網(wǎng)路由表容量的急劇增長,一個高效的路由分發(fā)模型是可重構(gòu)路由器體系結(jié)構(gòu)設(shè)計面臨的一個挑戰(zhàn)。本文首先對當(dāng)前普遍實施的一對多點的主動廣播更新的路由同步模式進行了性能分析,它存在同步周期長、負載不均衡等問題。于是,基于可重構(gòu)路由器典型路由體系架構(gòu),設(shè)計了TPRD樹型并行路由分發(fā)模型來分攤系統(tǒng)路由分發(fā)負載、提高路由同步速度。推導(dǎo)出TPRD模型的k路分發(fā)中,任一周期能達到路由同步的板卡數(shù),并分析了k路分發(fā)時各板卡的負載均衡狀況。TPRD模型考慮了路由分發(fā)時伴隨大量 BGP update報文收發(fā)的情況,設(shè)置進行BGP協(xié)議報文收發(fā)的線卡為分發(fā)樹的葉子節(jié)點,從而保證這些線卡盡少量的路由消息分發(fā)負載。論文給出了TPRD模型的實現(xiàn)算法和具體實施方法,并就當(dāng)前可重構(gòu)路由器的體系結(jié)構(gòu)而言,建議采用2路分發(fā)方式。基于NS2的實驗驗證了TPRD模型的快速路由分發(fā)特性。
圖6 不同分發(fā)模式基于NS2的實驗結(jié)果
可重構(gòu)路由器的發(fā)展尚處于初期發(fā)展階段,還有很多重要問題需要研究,如:分布式路由協(xié)議、高速交換網(wǎng)絡(luò)互連結(jié)構(gòu)、FIB表高效存儲等。本文下一步工作將圍繞這些問題展開研究,并將進行可重構(gòu)路由器原型系統(tǒng)的實現(xiàn)。
[1]徐恪, 吳建平, 徐明偉.高等計算機網(wǎng)絡(luò):體系結(jié)構(gòu)、協(xié)議機制、算法設(shè)計與路由器技術(shù)[M].北京:機械工業(yè)出版社, 2009.XU K, WU J P, XU M W.Advanced Computer Networks:Architecture, Protocol Mechanism, Algorithm Design and Router Technology[M].Beijing:Mechanism Industry Press, 2009.
[2]Cisco CRS-1 carrier routing system[EB/OL].http://www.cisco.com,2011.
[3]TX matrix platform[EB/OL].http://www.juniper.net, 2010.
[4]The avici TSR:cornerstone of the multi-terabit core[EB/OL].http://www.avici.com, 2008.
[5]BGP routing table data[EB/OL].http://bgp.potaroo.net, 2011.
[6]MEYER D, ZHANG L, FALL K.Report from the IAB Workshop on Routing and Addressing[S].RFC 4984.2007.
[7]張曉哲, 盧錫城, 朱培棟.一種可擴展路由器轉(zhuǎn)發(fā)表同步框架及關(guān)鍵算法[J].軟件學(xué)報, 2006, 17(3):445-453.ZHANG X Z, LU X C, ZHU P D.A synchronization framework and critical algorithm maintaining single image of IP forwarding tables among cluster router’s nodes[J].Journal of Software, 2006, 17(3):445-453.
[8]吳鯤.可擴展路由器軟件體系結(jié)構(gòu)研究[D].北京:清華大學(xué),2006.WU K.Research on Software Architecture for Extensible Router [D].Beijing:Tsinghua University, 2006.