• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于控制中心的新型SAN架構(gòu)的設(shè)計與實現(xiàn)

    2016-07-19 01:55:01陸一飛張震偉
    計算機研究與發(fā)展 2016年6期
    關(guān)鍵詞:控制器

    陸一飛 張震偉 陶 軍 唐 玲

    1(南京理工大學(xué)計算機科學(xué)與工程學(xué)院 南京 210094)2(華為技術(shù)有限公司南京華為研究所 南京 210012)3   (東南大學(xué)計算機科學(xué)與工程學(xué)院 南京 210096) (luyifei@njust.edu.cn)

    ?

    基于控制中心的新型SAN架構(gòu)的設(shè)計與實現(xiàn)

    陸一飛1張震偉2陶軍3唐玲1

    1(南京理工大學(xué)計算機科學(xué)與工程學(xué)院南京210094)2(華為技術(shù)有限公司南京華為研究所南京210012)3(東南大學(xué)計算機科學(xué)與工程學(xué)院南京210096) (luyifei@njust.edu.cn)

    摘要隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展,數(shù)據(jù)的爆炸式增長,存儲系統(tǒng)的軟硬件緊耦合設(shè)計嚴(yán)重地限制了存儲技術(shù)的發(fā)展,也越來越無法滿足移動互聯(lián)網(wǎng)和大數(shù)據(jù)時代下對存儲系統(tǒng)快速、多變的需求.軟件定義網(wǎng)絡(luò)(storage defined network, SDN)作為一種新的網(wǎng)絡(luò)架構(gòu),更適合下一代數(shù)據(jù)中心的發(fā)展.在SDN思想基礎(chǔ)上,提出了一種基于控制中心的新型SAN架構(gòu)(controller-based SAN, CSN),該架構(gòu)分離FC交換機的協(xié)議控制面和數(shù)據(jù)面,將FC協(xié)議的控制功能和分布式服務(wù)功能部署在控制器中,隨后詳細闡述了該架構(gòu)的控制器設(shè)計、通信機制和整體機制的設(shè)計與實現(xiàn).在CSN基礎(chǔ)上,又提出了按需可用帶寬優(yōu)先路由協(xié)議.最后,通過實際開發(fā)環(huán)境驗證該架構(gòu)的可行性.通過實驗測試,得出CSN下服務(wù)器能夠更快地與存儲服務(wù)器建立連接,并且存儲網(wǎng)絡(luò)具有更高的吞吐量、更快的收斂性、更好的可靠性和可擴展性,此外,還對中心控制器的CPU、內(nèi)存和帶寬進行壓力測試.

    關(guān)鍵詞FC協(xié)議;存儲區(qū)域網(wǎng)絡(luò);存儲區(qū)域網(wǎng)絡(luò)架構(gòu);軟件定義存儲網(wǎng)絡(luò);控制器

    隨著Internet和網(wǎng)絡(luò)技術(shù)的飛速發(fā)展,特別是數(shù)據(jù)中心網(wǎng)絡(luò)的興起,信息系統(tǒng)的數(shù)據(jù)呈爆炸式增長,數(shù)據(jù)的高速訪問和平滑簡單的擴容要求日益迫切.目前,業(yè)界使用專門的存儲區(qū)域網(wǎng)絡(luò)(storage area network, SAN)[1]支持服務(wù)器與存儲設(shè)備之間的數(shù)據(jù)高速傳輸.SAN一般使用光纖通道(fibre channel, FC)[2]技術(shù),其擁有自動尋址、設(shè)備發(fā)現(xiàn)、狀態(tài)變更通知等先進的存儲機制,為發(fā)起端設(shè)備(服務(wù)器系統(tǒng))和目標(biāo)端設(shè)備(存儲器系統(tǒng))之間的數(shù)據(jù)交換提供了便利.一般使用FC的SAN(FC-SAN)傳輸速度可以達到4 Gbps,8 Gbps或者更高的16 Gbps.近年來基于以太網(wǎng)FC的SAN(FCoE-SAN)[3]也在快速地發(fā)展和應(yīng)用.本文只討論FC-SAN下的相關(guān)研究.

    軟件定義網(wǎng)絡(luò)(software defined network, SDN)[5]技術(shù)通過分離網(wǎng)絡(luò)設(shè)備的控制面與數(shù)據(jù)面,將控制功能從網(wǎng)絡(luò)設(shè)備中分離出來,形成集中化的控制中心(控制器).網(wǎng)絡(luò)設(shè)備維護流表結(jié)構(gòu),數(shù)據(jù)分組按照流表進行轉(zhuǎn)發(fā),而流表的生成、維護、配置則由中心控制器管理.當(dāng)前,控制中心對交換機的控制主要通過OpenFlow協(xié)議[6]實現(xiàn).

    SDN技術(shù)為研發(fā)網(wǎng)絡(luò)新應(yīng)用和未來互聯(lián)網(wǎng)技術(shù)提供了一種新的解決思路.FC-SAN架構(gòu)下網(wǎng)絡(luò)側(cè)的功能較為復(fù)雜,如果利用SDN技術(shù)把FC-SAN的控制面功能放到控制中心,就能極大地減輕網(wǎng)絡(luò)復(fù)雜度,提高數(shù)據(jù)面的轉(zhuǎn)發(fā)能力.這種基于SDN的存儲網(wǎng)絡(luò)解決方案稱為軟件定義存儲網(wǎng)絡(luò)(software defined storage network, SDSN)[7],這個概念首先由Jeda公司在2013年的SNIA[8]開發(fā)者大會上提出,隨后SDSN思想迅速成為存儲界關(guān)注的焦點.

    本文在SDN思想基礎(chǔ)上,創(chuàng)新性地提出了將FC協(xié)議與控制器相結(jié)合的新型SAN架構(gòu):基于控制中心的SAN架構(gòu)(controller-based SAN, CSN).CSN分離FC交換機的FC協(xié)議控制和數(shù)據(jù)轉(zhuǎn)發(fā)功能,將FC協(xié)議的控制機制和分布式服務(wù)部署在FC交換網(wǎng)控制器(FC fabric controller, FFC),使存儲網(wǎng)絡(luò)具有靈活控制機制的同時,還擁有高可靠性、擴展性以及更高的網(wǎng)絡(luò)性能.

    本文的主要貢獻有2點:

    1) 有別于傳統(tǒng)FC-SAN,本文將FC協(xié)議的控制面協(xié)議和分布式服務(wù)在FFC中實現(xiàn),設(shè)計了控制器和FC交換機間的通信機制,使存儲網(wǎng)絡(luò)具有更加的靈活性、可靠性和擴展性.

    2) 利用FPGA開發(fā)板實現(xiàn)了FC協(xié)議和CSN架構(gòu),并通過實驗驗證了CSN架構(gòu)的優(yōu)勢.

    1相關(guān)研究

    1.1FC-SAN協(xié)議

    FC協(xié)議是SAN的事實標(biāo)準(zhǔn).FC交換機通過E端口的分布式服務(wù)形成存儲交換網(wǎng),而交換網(wǎng)又為整個網(wǎng)絡(luò)提供名字服務(wù)(name server, NS)和分區(qū)服務(wù)(zone)等分布式服務(wù),如圖1所示.服務(wù)器和存儲通過注冊過程登錄到交換網(wǎng).

    Fig. 1 The architecture of FC-SAN.圖1 FC-SAN架構(gòu)

    NPort登錄[9]是指NPort端口注冊到交換機和注冊到NS過程.一般來說,該過程有2步:①NPort發(fā)送FLOGI到 FC交換機,F(xiàn)C交換機返回的ACC(accept)報文,該ACC報文中向NPort分配了一個FC ID(FC identity),并規(guī)定鏈路間的服務(wù)類型等參數(shù);②NPort發(fā)送PLOGI報文到FC交換機,向NS注冊登記.具體過程如圖2所示:

    Fig. 2 Process of NPort login.圖2 NPort注冊過程

    交換網(wǎng)的配置[10]是指FC交換機間的EPort連接時建立連接和生成路由的過程.交換網(wǎng)配置過程一般分為5步:EPort端口間交換鏈路參數(shù)、協(xié)商交換機能力、主交換機選擇、域ID分配以及FSPF(fabric shortest path first)路由算法,如圖3所示.另外還有些其他高級功能也會在交換網(wǎng)配置過程中實現(xiàn),譬如zone的合并、分布式名字服務(wù)等.總體來看,交換網(wǎng)配置是一個漫長和復(fù)雜的過程,最終生成交換網(wǎng)的路由.

    Fig. 3 Process of EPort protocol.圖3 EPort協(xié)議過程

    在FC協(xié)議中,NPort登錄時服務(wù)器信息記錄在NS中,在服務(wù)器間通信時需要通過分布式的查詢服務(wù)獲取對端的信息,所需的時間較長.同時,交換網(wǎng)配置過程不僅所需的收斂時間較長,而且其中FC交換機一旦變化就需要重新進行主交換機選擇等步驟,對網(wǎng)絡(luò)性能影響較大.本文提出的CSN架構(gòu)主要是優(yōu)化這部分協(xié)議.

    1.2相關(guān)研究

    文獻[11]中分析了FCoE-SAN下的數(shù)據(jù)流都要通過FCoE轉(zhuǎn)發(fā)者(FCoE forwarder, FCF),限制了FCoE-SAN的網(wǎng)絡(luò)規(guī)模.因此在文獻中提出了一種在網(wǎng)絡(luò)邊緣交換機分離FCoE數(shù)據(jù)幀的方法(AFCoE),數(shù)據(jù)幀分為用戶面幀和控制面幀,數(shù)據(jù)面幀通過以太網(wǎng)交換機轉(zhuǎn)發(fā),而用戶面幀被傳輸?shù)娇刂品?wù)器中處理.這種方法可以在一定程度上緩解FCF的壓力,從而增加FCoE-SAN的規(guī)模,但是這種方法只把FCoE的控制面幀轉(zhuǎn)移到控制器,用戶面幀還是要經(jīng)過FCF,而控制幀只占所有數(shù)據(jù)幀中的很小部分,因此該方法對于緩解FCF的壓力比較有限.

    Jeda公司在2013年的SNIA開發(fā)者大會上提出基于SDN思想的SDSN方案[12],該方案在FCoE-SAN網(wǎng)絡(luò)中分離FCoE交換機的控制層和數(shù)據(jù)層,并使用軟件交換網(wǎng)控制器(fabric network controller, FNC)替代物理FCoE-SAN中的網(wǎng)絡(luò)控制層,建立更加靈活、可擴展性更強的動態(tài)存儲網(wǎng)絡(luò).FNC以VMware虛擬機的形式提供服務(wù),與服務(wù)器、存儲服務(wù)器和交換機交互以獲取所需信息.另外,F(xiàn)NC對邊緣交換機添加ACL規(guī)則,以此優(yōu)化數(shù)據(jù)流的轉(zhuǎn)發(fā),提高存儲網(wǎng)絡(luò)性能.

    文獻[13]在FCoE-SAN環(huán)境下,利用SDN思想對FCoE協(xié)議的部分控制進行分離,將其中的FIP報文轉(zhuǎn)發(fā)到控制器,而其余的報文轉(zhuǎn)發(fā)到FCF.控制器通過分析FIP報文記錄服務(wù)器的位置,然后對邊緣以太交換機下發(fā)新的轉(zhuǎn)發(fā)表,優(yōu)化數(shù)據(jù)流路徑,數(shù)據(jù)流不再通過FCF處理.該文獻也討論了OpenFlow協(xié)議在此的作用.

    以上的研究都聚焦于SDSN研究,但都只通過改變邊緣交換機的轉(zhuǎn)發(fā)表優(yōu)化數(shù)據(jù)流,而且,只分離了FCoE協(xié)議中的部分控制報文(如FIP報文或部分控制幀).另外,目前的研究都聚焦于融合網(wǎng)絡(luò),即FCoE-SAN,它的特點在于架構(gòu)簡單但是規(guī)模很大,這與FC-SAN有一定的區(qū)別.最后,以上的研究都沒有對控制器的處理能力進行分析.

    本文聚焦于基于SDN思想的FC-SAN研究,分離FC協(xié)議本身的控制面流量和數(shù)據(jù)流量,并且將FC協(xié)議和分布式服務(wù)在控制器中處理,以此簡化FC協(xié)議的實現(xiàn),建立更加靈活、可擴展性更強的存儲架構(gòu).

    2基于控制中心的SAN架構(gòu)

    傳統(tǒng)的FC-SAN架構(gòu)下存在交換網(wǎng)配置復(fù)雜、網(wǎng)絡(luò)收斂速度慢和各硬件廠商間的設(shè)備不兼容等問題.同時,F(xiàn)C交換機需要實現(xiàn)各種功能,如分布式名字服務(wù)、分布式分區(qū)功能和路由功能等,因此交換網(wǎng)中FC交換機的變更(功能增加、節(jié)點的增刪)會對整個網(wǎng)絡(luò)帶來較大的變動,網(wǎng)絡(luò)控制流量大量增加,影響網(wǎng)絡(luò)傳輸性能,網(wǎng)絡(luò)管理異常復(fù)雜.為了改善這些問題,本文基于SDN思想提出CSN架構(gòu).

    2.1CSN整體架構(gòu)

    CSN架構(gòu)在傳統(tǒng)的FC-SAN基礎(chǔ)上增加了控制器FFC,F(xiàn)FC與FC交換機通過專門的管理網(wǎng)絡(luò)(以太網(wǎng))連接,且通過TCP協(xié)議進行通信,服務(wù)器和FC交換機間、FC交換機間的鏈路不變,仍然使用FC鏈路.

    CSN架構(gòu)如圖4所示:

    Fig. 4 The architecture of CSN.圖4 CSN架構(gòu)

    Fig. 5 The function modules of FFC.圖5 FFC功能模塊

    在CSN架構(gòu)下,F(xiàn)C交換機保留了原有的數(shù)據(jù)面處理功能、增加了FC代理模塊,該模塊包括了簡化FC協(xié)議處理功能和通信功能.簡化FC協(xié)議功能負責(zé)解析FC交換機收到的FC控制報文,并根據(jù)需要配置交換機或者將報文轉(zhuǎn)交給通信模塊處理.通信模塊負責(zé)建立和維護與FFC的TCP鏈路,同時對FC控制報文進行封裝和解封裝.

    FC交換機將收到或自身產(chǎn)生的FC控制協(xié)議消息轉(zhuǎn)發(fā)給控制器,控制器收到FC報文后進行應(yīng)答,下發(fā)到FC交換機,F(xiàn)C交換機根據(jù)情況保留該應(yīng)答報文或者轉(zhuǎn)發(fā)給服務(wù)器.

    2.2控制器設(shè)計

    FFC作為CSN架構(gòu)的核心,由軟件實現(xiàn)并部署在專門的主機設(shè)備上.FC協(xié)議棧、路由協(xié)議和分布式服務(wù)都要在FFC上實現(xiàn),也即FFC是整個網(wǎng)絡(luò)的控制中心.

    FFC的功能模塊如圖5所示,它的功能模塊包括TCP通信模塊、控制報文解析器、FFC處理單元和FFC信息庫.TCP通信模塊負責(zé)與FC交換機通信,它們之間通信的TCP報文中封裝了控制信息和FC控制報文,因此,需要報文解析器對收到的TCP報文進行解析,并將解析后的報文遞交給FFC處理單元.FFC處理單元和FFC信息庫是控制器的核心模塊.FFC處理單元包含多個子單元,分別處理解析器遞交來的報文,如TCP通信處理子單元會處理TCP鏈路的建立、保活和關(guān)閉;NPort協(xié)議處理子單元維護FC協(xié)議中的NPort登錄和登出等控制信息;EPort協(xié)議處理子單元維護EPort啟動和關(guān)閉等控制信息;名字服務(wù)處理子單元為FC交換網(wǎng)中的名字服務(wù)器,記錄了交換網(wǎng)中的所有NPort信息;路由處理子單元負責(zé)生成和維護交換網(wǎng)的路由.FFC處理單元處理后的相關(guān)信息會保存至FFC信息庫中,生成節(jié)點信息庫和交換網(wǎng)信息庫,其中的全局拓撲信息庫為路由計算提供依據(jù),最終形成路由表并下發(fā)給FC交換機.

    2.3CSN通信機制

    CSN架構(gòu)下,F(xiàn)FC與FC交換機間通過以太鏈路進行通信,它們間的通信根據(jù)功能不同,可以分為2類:FC交換機和FFC間建立和維護TCP連接的通信;轉(zhuǎn)發(fā)FC協(xié)議報文的通信.

    在FC交換機啟動時,與FFC間通過3次握手建立TCP連接,其中FC交換機端為客戶端,F(xiàn)FC為服務(wù)器端.同時,為了維護TCP連接,F(xiàn)FC會周期性向FC交換機發(fā)送?;顖笪?FC交換機收到后,同樣返回?;顖笪?,當(dāng)控制器或者FC交換機連續(xù)3次沒有收到該報文時,表示對端失效,釋放相關(guān)資源.

    由于FC交換機與FFC間使用TCP協(xié)議,當(dāng)FC交換機與FFC間傳輸FC控制報文時,需將把FC報文封裝成TCP報文,當(dāng)然,F(xiàn)C交換機和FFC收到TCP報文時,也需要解析報文得到FC報文或其他控制報文.FC交換機與FFC間的TCP報文封裝格式如圖6所示:

    Fig. 6 TCP encapsulation format of FC packet.圖6 TCP封裝FC報文格式

    其中,Type字段大小為1 B,表示TCP報文中數(shù)據(jù)的類型.目前,我們把FC交換機與FFC通信過程的報文分為4類:1)FC交換機與FFC間的控制報文;2)NPort端口登錄時產(chǎn)生的控制報文;3)EPort開啟關(guān)閉時產(chǎn)生的控制報文;4)控制器向FC交換機下發(fā)的流表報文.

    Command字段大小為1 B,表示每種類型下的操作符,具體的含義如表1所示.Length字段表示包括Type和Command字段在內(nèi)的整個數(shù)據(jù)字段的長度,是以4 B為單位.Data字段在不同Type和Command數(shù)值下有不同的格式,在此不再詳述.

    Table 1 Meaning of Type and Command Field

    目前,控制器只向FC交換機下發(fā)整個路由轉(zhuǎn)發(fā)表操作,并沒有區(qū)分增加流表、刪除流表等操作,這部分內(nèi)容會在以后的研究中改進.

    從上面的通信機制描述可以看出,F(xiàn)C交換機和FFC間的通信協(xié)議與SDN中的OpenFlow協(xié)議有些類似,都是在交換機和控制器間建立連接、維護鏈路,并且可以下發(fā)轉(zhuǎn)發(fā)表(路由表),但是本文并沒有使用成熟的OpenFlow協(xié)議,原因是:1)OpenFlow協(xié)議中目前還沒有控制存儲數(shù)據(jù)流的方法;2)FC協(xié)議中雖然有類似IP和MAC地址的概念,但這些字段的大小跟IP和MAC有差異,OpenFlow的流表結(jié)構(gòu)不適用于FC-SAN;3)CSN中的通信機制是基于TCPIP的一個獨立模塊,這種方式更利于在傳統(tǒng)的FC交換機上進行補丁升級,而不需要另外重新設(shè)計支持OpenFlow協(xié)議的設(shè)備.

    2.4CSN整體機制的設(shè)計與實現(xiàn)

    FC交換機啟動時需要跟FFC建立TCP連接.當(dāng)建立TCP連接后,F(xiàn)C交換機會向FFC發(fā)出登錄請求報文,請求報文中包含了自身的信息和向FFC請求域標(biāo)識(identity, ID)信息.FFC收到請求后,返回登錄請求應(yīng)答報文,向FC交換機分配域ID.同樣,當(dāng)FC交換機或者FFC關(guān)閉時,會發(fā)出登出請求報文、對端回復(fù)登出應(yīng)答報文,然后釋放自身相關(guān)的信息,如內(nèi)存空間、域ID等.在此期間,F(xiàn)FC和FC交換機間會周期性地發(fā)送?;顖笪慕换バ畔?具體過程如圖7所示:

    Fig. 7 Interactive process between FC switch and controller.圖7 FC交換機和控制器交互過程

    登錄請求報文和登錄應(yīng)答報文如表2和表3所示.登錄請求報文中Type,Command和Length字段前面已經(jīng)做了描述.會話ID用來唯一表示此次請求過程,F(xiàn)FC的請求應(yīng)答報文的會話ID跟此值一致.交換機名字指交換機的全球范圍節(jié)點名字(world wide node name, WWNN)[14],用來唯一標(biāo)識FC交換機.如果FC交換機申請某個具體域ID,則域ID字段設(shè)為想申請的域ID值,否則域ID字段置為0,表示向FFC請求分配域ID.端口數(shù)量字段表示該FC交換機擁有的端口數(shù)量.端口信息字段又包含了端口索引、端口類型、端口速度等字段.

    Table 2 Login Request Packet

    Table 3 Login Request ACK Packet

    登錄請求應(yīng)答報文中會話ID跟登錄請求報文中的會話ID一樣.應(yīng)答碼為200時,表示接受登錄請求(ACC),此時,域標(biāo)識字段值表示FFC為FC交換機分配的域ID;應(yīng)答碼為201時,表示拒絕登錄請求(RJT),域ID字段無效.

    FC交換機的登出過程與上面描述類似,登出請求報文和登出請求應(yīng)答報文在此不再詳述.

    FC交換機登錄和登出之間,F(xiàn)FC會周期性地(本文實現(xiàn)中設(shè)為2 s)向FC交換機發(fā)送?;顖笪?,F(xiàn)C交換機收到保活報文后同樣返回?;顖笪模绻刂破骰蛘逨C交換機連續(xù)3次沒有收到?;顖笪?,則認(rèn)為對端失效,會發(fā)出登出請求報文,并釋放本端的相關(guān)資源.表4所示為FC交換機發(fā)送給控制器的保活報文.

    Table 4 Keep-alive Packet

    ?;顖笪闹械腡ype,Command和Length字段不再詳述,交換機名字唯一表示了保活通信中的FC交換機,序列號表示?;顖笪陌l(fā)送的順序,該值越大表示?;顖笪脑叫?其他信息字段作為預(yù)留,在后面的研究中使用.

    2) 服務(wù)器端NPort注冊和注銷

    在NPort的注冊過程中,NPort發(fā)出FLOGI報文,F(xiàn)C交換機收到后解析該報文,收集相關(guān)信息生成NPort FLOGI請求報文,封裝后轉(zhuǎn)發(fā)給FFC,F(xiàn)FC收到后解封裝得到NPort的注冊信息,為NPort分配FC ID和參數(shù)配置等信息,并返回NPort FLOGI應(yīng)答報文.FC交換機收到NPort FLOGI應(yīng)答報文,如果返回的是ACC報文,解析出其中的參數(shù)信息,對相應(yīng)的FPort進行配置,并轉(zhuǎn)發(fā)ACC報文到NPort.同樣,NPort注銷過程也類似,F(xiàn)C交換機需要對NPort LOGO報文進行重新封裝,并在最后釋放FPort和控制器中的相關(guān)資源配置.

    NPort的注冊和注銷過程如圖8和圖9所示.

    Fig. 8 Login process of NPort.圖8 NPort注冊過程

    Fig. 9 Logout process of NPort.圖9 NPort注銷過程

    NPort注冊中,NPort發(fā)出的其他FC控制報文(如PLOGI報文等),F(xiàn)C交換機收到后不做處理,直接封裝成TCP報文轉(zhuǎn)發(fā)給FFC,由FFC進行應(yīng)答.

    NPort FLOGI請求和應(yīng)答報文格式如表5和表6所示.在請求報文中需要攜帶FC交換機的名字和與NPort對應(yīng)的FPort索引信息,另外,在請求報文中還需要NPort的全球范圍端口名字(world wide port name, WWPN)[14]、FC ID(如果需要申請某個FC ID,則FC ID字段填寫該值,否則FC ID字段置為0)和該NPort的參數(shù)信息.在應(yīng)答報文中會攜帶應(yīng)答碼、分配給NPort的FC ID和相關(guān)配置參數(shù).

    Table 5 NPort FLOGI Request Packet

    Table 6 NPort FLOGI Request ACK Packet

    3) 交換網(wǎng)的配置和維護

    在CSN架構(gòu)下,F(xiàn)C交換機間不再使用FC協(xié)議的EPort機制[10],而是在FFC中實現(xiàn)交換網(wǎng)的配置和路由功能.FC交換機在開機初始化時會向FFC注冊,這樣FFC就獲得了全局的FC交換機信息.隨后,通過EPort啟動時的注冊過程,F(xiàn)FC就獲得了FC交換機間的連接關(guān)系,至此,F(xiàn)FC獲得了交換網(wǎng)的全局拓撲結(jié)構(gòu),最終通過路由協(xié)議計算出交換網(wǎng)的路由.

    FC交換機間EPort連接時,會通過端口的交互得知端口是EPort,并且也可得知對端FC交換機名字.隨后,F(xiàn)C交換機向FFC發(fā)送EPort啟動請求報文,該報文中攜帶了該EPort的參數(shù)(FC交換機ID、端口索引、端口帶寬、緩存大小等)和對端FC交換機名字.FFC收到EPort啟動請求報文后,返回EPort啟動請求應(yīng)答報文,報文內(nèi)容包括協(xié)商后的帶寬、緩存大小等.最后,F(xiàn)FC通過全局的路由計算,向所有FC交換機下發(fā)新的路由表報文.該過程如圖10所示:

    Fig. 10 Fabric configuration process.圖10 交換網(wǎng)配置過程

    EPort啟動請求報文如表7所示.EPort啟動請求報文包括了自身交換機名字(交換機Name_1)和對應(yīng)EPort的端口索引、對端FC交換機名字(交換機Name_2)和對應(yīng)EPort的端口索引以及該EPort中的參數(shù)(包括鏈路速率、緩存等).EPort啟動請求應(yīng)答報文在此不再贅述,如表8所示.

    Table 7 EPort UP Request Packet

    Table 8 EPort UP Request ACK Packet

    在CSN架構(gòu)下,交換網(wǎng)的路由算法使用FC協(xié)議中基于最短路徑的FSPF算法,在此不再介紹該算法.表9是路由表報文格式,其中最重要的是路由表項,路由表項包括FC ID、前綴和接口索引,該表項類似于傳統(tǒng)網(wǎng)絡(luò)中的路由表.

    Table 9 Routing Table Packet

    4) FFC性能優(yōu)化

    FFC作為CSN架構(gòu)的控制中心,一旦出現(xiàn)問題會對整個網(wǎng)絡(luò)造成不可估量的危害,因此有必要對影響FFC性能的因素進行評估優(yōu)化.由FFC的功能模塊可以知道FFC有2個服務(wù)對象:FC交換機和服務(wù)器存儲服務(wù)器.因此,主要從FC交換機和服務(wù)器存儲服務(wù)器數(shù)量2個方面考慮對FFC的性能影響.

    ① 我們知道,F(xiàn)C-SAN網(wǎng)絡(luò)的建設(shè)成本很高,維護的難度和費用較大,因此,在企業(yè)的存儲網(wǎng)絡(luò)中只有特別重要的應(yīng)用(如重要的審批流程、財務(wù)應(yīng)用等)才會使用高速穩(wěn)定的FC-SAN,其他應(yīng)用會使用相對便宜的IP-SAN.這就決定了FC-SAN的規(guī)模不大,F(xiàn)C交換機的數(shù)量不會很多,在此我們不考慮FC交換機同步登錄對FFC的影響,而主要優(yōu)化FFC與FC交換機維護連接的開銷影響,即定期發(fā)送keep-alive報文的影響.在此,我們在設(shè)計keep-alive機制時,該報文是由FFC主動發(fā)出,F(xiàn)C交換機收到后回復(fù),因此,可以通過建立keep-alive發(fā)送規(guī)則避免同時收發(fā)keep-alive報文影響FFC的性能.

    keep-alive發(fā)送規(guī)則:假定發(fā)送keep-alive報文的周期為T,F(xiàn)C交換機的數(shù)量為N,則FFC每隔TN的時間發(fā)送keep-alive報文給其中一臺FC交換機.

    ② FC-SAN的規(guī)模雖然不大,但是其中的服務(wù)器數(shù)量肯定要遠大于FC交換機的數(shù)量,因此我們必須要針對網(wǎng)絡(luò)中的服務(wù)器數(shù)量進行壓力測試.這部分工作將在第4節(jié)的實驗6中做詳細的分析.

    3COBF路由

    SAN是一種專注于信息存儲、訪問和管理的高速網(wǎng)絡(luò),它采用高速通道連接服務(wù)器和存儲系統(tǒng)以此獲得較高的傳輸速率,但是在SAN中使用的路由協(xié)議為最短路徑協(xié)議,這種路由協(xié)議僅考慮使用最小跳數(shù)作為路由判據(jù),并沒有考慮利用鏈路的可用帶寬來提高網(wǎng)絡(luò)整體傳輸效率,因此,本節(jié)我們在CSN架構(gòu)的基礎(chǔ)上提出了按需可用帶寬優(yōu)先(CSN-based on-demand bandwidth-available first,COBF)的路由協(xié)議.

    COBF路由協(xié)議在CSN的FFC端實現(xiàn),并且以路徑上的可用帶寬作為選擇路由的判據(jù),其COBF路由判據(jù)MCOBF定義如下:

    定義1. 對于某條路徑,COBF路由判據(jù)的數(shù)學(xué)定義為

    其中,p表示網(wǎng)絡(luò)上的一條路徑,l是路徑p上的一條鏈路,la為鏈路l上的可用帶寬,α為常量,在此α=1.0.

    在此鏈路的含義是FC交換機端口間的連線,因此,鏈路的可用帶寬是指鏈路兩端交換機端口的可用轉(zhuǎn)發(fā)速率的最小值,即la=min{rm,rn},其中rm,rn分別是鏈路兩端FC交換機端口的可用轉(zhuǎn)發(fā)速率.FC交換機端口的可用轉(zhuǎn)發(fā)速率在CSN架構(gòu)下可以通過FC交換機定期上報獲取,在此,我們擴展了CSN中的保活報文,在?;顖笪闹性黾恿私粨Q機端口的可用轉(zhuǎn)發(fā)速率,擴展后的?;顖笪娜绫?0所示:

    Table 10 Keep-alive Packet of COBF

    至此,CSN架構(gòu)中的FFC端就具有了計算路由的所有信息.對于每個路由請求,F(xiàn)FC可以計算出服務(wù)器和存儲間每條路徑的路由判據(jù),選出路由判據(jù)最小值的路徑為最終的路由,并向FC交換機下發(fā)路由轉(zhuǎn)發(fā)表.

    4實驗和測試

    4.1驗證環(huán)境

    CSN架構(gòu)的驗證環(huán)境包括了4塊FPGA開發(fā)板、4臺PC機、1臺FFC、1臺服務(wù)器和1臺存儲設(shè)備,組成了如圖11的驗證環(huán)境,其中驗證環(huán)境中所用的設(shè)備清單如表11所示.FPGA開發(fā)板與PC機通過PCI-E擴展槽連接,實現(xiàn)了FC交換機功能,其中FPGA開發(fā)板主要實現(xiàn)交換機的端口和數(shù)據(jù)轉(zhuǎn)發(fā)功能,PC機實現(xiàn)交換機的CPU功能.同時,PC機通過自身的以太網(wǎng)卡連接到FFC.FPGA板卡上收到的FC控制報文轉(zhuǎn)交給PC機中FC代理模塊,F(xiàn)C代理模塊對FC報文簡單處理并重新封裝后通過TCP通信模塊轉(zhuǎn)發(fā)給FFC.

    Fig. 11 CSN test environment.圖11 CSN驗證環(huán)境

    Device∕SoftwareManufacturerandModelOSNumberServerHuaweiTecalRH2285V2VMwareESXi5.04StorageHuaweiOceanStorS22001PCLenovoThinkCenterSeriesUbuntu12.04∕WindowsXP5FPGABoardStratixIVEP4SGX2304IometerIometer1.1.01

    4.2實驗分析

    在CSN架構(gòu)下,F(xiàn)C交換機上數(shù)據(jù)面的處理跟傳統(tǒng)的FC-SAN是一樣的,都是通過路由表轉(zhuǎn)發(fā)數(shù)據(jù),因此這部分實驗主要是針對FC協(xié)議的控制層面.這部分測試CSN架構(gòu)下交換網(wǎng)絡(luò)的延遲、收斂速度、數(shù)據(jù)轉(zhuǎn)發(fā)吞吐量和針對FFC的壓力測試.實驗結(jié)果都是重復(fù)10次實驗的平均值.

    實驗1. NPort注冊時間

    該實驗測試FC-SAN和CSN架構(gòu)下服務(wù)器NPort注冊時間的差異.NPort的注冊時間是指NPort發(fā)出FLOGI報文到發(fā)送向存儲設(shè)備登錄的PLOGI報文的間隔.FC-SAN架構(gòu)下的NS是分布式服務(wù),服務(wù)器和存儲位置的不同對NPort注冊時間有較大的影響,因此,該實驗針對圖12中的3種場景進行測試.實驗結(jié)果如圖13所示.

    Fig. 12 NPort login scenes.圖12 NPort注冊場景

    Fig.13 NPort login time for three scenes.圖13 3種場景下的NPort注冊時間

    從圖13可以看出,單跳場景下CSN架構(gòu)的NPort注冊時間要高于FC-SAN架構(gòu),這是由于NPort注冊時CSN架構(gòu)下NPort需要與控制器進行交互,這比NPort直接與FC交換機交互的時間要長.在其他2種場景下,傳統(tǒng)FC-SAN架構(gòu)下的注冊時間要明顯高于CSN架構(gòu)下的注冊時間,這是由于服務(wù)器跟存儲通信時需要獲得全網(wǎng)的NS功能,而此功能在FC-SAN架構(gòu)下是分布式的,類似于TCPIP中的域名服務(wù),當(dāng)FC交換機本地沒有存儲的信息時,需要通過查詢的方式獲得,服務(wù)器與存儲間的距離(跳數(shù))越遠,查詢時間也越久.而CSN架構(gòu)下,NS功能部署在控制器中能直接獲取,因此,在3種場景下,CSN架構(gòu)的NPort注冊時間基本不變.

    實驗2. 交換網(wǎng)初始化

    Fig. 14 Network initialization time.圖14 網(wǎng)絡(luò)初始化時間

    這部分實驗測試FC-SAN和CSN架構(gòu)下交換網(wǎng)初始化所需的時間.交換網(wǎng)初始化時間是指FC交換機上電到整個交換網(wǎng)路由收斂完成所需的時間,即FC交換機啟動完成并獲得了全局路由轉(zhuǎn)發(fā)表的時間.為了把其他影響因素去除,這部分實驗并沒有把服務(wù)器和存儲設(shè)備連接到網(wǎng)絡(luò)中.

    本次實驗分4種情況:只開啟1臺FC交換機、同時開啟2臺FC交換機、同時開啟3臺FC交換機和同時開啟4臺FC交換機,分別記錄下最終的交換網(wǎng)初始化時間,結(jié)果如圖14所示.從圖14看出,單臺FC交換機時,CSN架構(gòu)所需時間要略多于FC-SAN所需時間,這是因為CSN下FC交換機需要向FFC注冊并通過FFC下發(fā)路由表,而傳統(tǒng)的FC-SAN不要執(zhí)行路由協(xié)議等操作;在多于2臺FC交換機下,CSN架構(gòu)的網(wǎng)絡(luò)初始化時間要比FC-SAN架構(gòu)小,原因是FC-SAN架構(gòu)下交換網(wǎng)初始化需要全局交換信息,選舉主交換機和執(zhí)行FSPF路由分布式算法等步驟,而CSN下的路由只在FFC上計算完成,因此CSN下的網(wǎng)絡(luò)初始化時間要比FC-SAN架構(gòu)小,而且網(wǎng)絡(luò)規(guī)模越大,CSN架構(gòu)的優(yōu)勢更加明顯.

    實驗3. FC交換機增加

    這部分實驗測試隨著FC交換機的增加,交換網(wǎng)路由收斂時間的變化.該實驗同樣沒有把服務(wù)器和存儲連接到交換網(wǎng)中.實驗中,F(xiàn)C交換機從1臺增加到4臺,交換網(wǎng)路由的收斂時間變化如圖15所示:

    Fig. 15 Routing convergence time when increasingthe number of FC switches.圖15 FC交換機增加時路由收斂時間

    從圖15可以看出,在只有1臺FC交換機情況下,F(xiàn)C-SAN下的收斂時間要略小于CSN架構(gòu)下的時間,原因在實驗2中已經(jīng)闡述.但是隨著FC交換機的增加,F(xiàn)C-SAN架構(gòu)下的路由收斂時間要明顯多于CSN架構(gòu)下所需的時間,而且網(wǎng)絡(luò)規(guī)模的越大,兩者的收斂時間差別越大,這是由于FC-SAN架構(gòu)下需要執(zhí)行復(fù)雜的分布式交互,且需要通過全局泛洪的方式計算路由,所用時間較多.而CSN架構(gòu)下,F(xiàn)C交換機只需要向控制器進行注冊,使控制器擁有全網(wǎng)的拓撲結(jié)構(gòu),使用集中式路由計算就可以得出全局路由,所用時間較少,CSN下的路由計算時間主要受FFC本身計算性能等因素的影響.

    實驗4. 刪除FC交換機

    該部分實驗測試在FC-SAN和CSN架構(gòu)下,4個FC交換機刪除其中1個FC交換機時對交換網(wǎng)路由的影響.由于在FC-SAN架構(gòu)下,有主FC交換機的概念,所以該部分實驗分別刪除主FC交換機和非主FC交換機得到交換網(wǎng)路由的收斂時間,測試結(jié)果如圖16所示.

    從圖16看出,刪除主FC交換機對FC-SAN的影響較大,因為刪除主FC交換機后需要重新通過泛洪的方式選舉主FC交換機,因此,所需的網(wǎng)絡(luò)收斂時間更長.在刪除非主FC交換機時,F(xiàn)C-SAN架構(gòu)所需收斂時間也要大于CSN架構(gòu),因為刪除FC交換機后需要擴散鏈路狀態(tài)信息,并重新計算路由.而這部分時間在CSN下是不需要的,CSN下刪除FC交換機只需要執(zhí)行FC交換機的登出請求過程,并在FFC重新計算全網(wǎng)路由,時間較短.

    Fig. 16 Routing convergence time when shutdownFC switch.圖16 FC交換機刪除時網(wǎng)絡(luò)路由收斂時間

    實驗5. 網(wǎng)絡(luò)吞吐量

    該部分實驗針對FC-SAN和CSN兩種架構(gòu),在CSN下針對CSN的FSPF和COBF路由,分別標(biāo)識為CSN-FSPF和CSN-COBF.在圖12(c)的環(huán)境下測試交換網(wǎng)整體吞吐量.該實驗過程包括交換網(wǎng)初始化,然后連接服務(wù)器和存儲,最后服務(wù)器通過Iometer[15]工具讀寫存儲中數(shù)據(jù),并且在讀取過程中斷開非主FC交換機鏈路和主FC交換機鏈路.整個實驗過程中記錄下交換網(wǎng)整體的吞吐量,實驗結(jié)果如圖17所示:

    Fig. 17 Throughput of fabric.圖17 交換網(wǎng)吞吐量

    從圖17可以看出,在網(wǎng)絡(luò)初始化和讀寫存儲中數(shù)據(jù)時,F(xiàn)C-SAN和CSN-FSPF的最大吞吐量基本一致,這也表明CSN架構(gòu)對網(wǎng)絡(luò)數(shù)據(jù)面的轉(zhuǎn)發(fā)并沒有太大的影響;而當(dāng)使用CSN架構(gòu)下COBF路由時,網(wǎng)絡(luò)的最大吞吐量要比FC-SAN和CSN-FSPF高10%左右.當(dāng)斷開非主FC交換機鏈路時,CSN-FSPF和CSN-COBF架構(gòu)下的吞吐量恢復(fù)速度要比FC-SAN架構(gòu)更快.而斷開主FC交換機鏈路時,F(xiàn)C-SAN網(wǎng)絡(luò)吞吐量的恢復(fù)需要更多的時間.因此我們可以看出,CSN架構(gòu)可以對存儲網(wǎng)絡(luò)進行更合理的路由規(guī)劃、獲得更優(yōu)的吞吐量,同時該架構(gòu)反應(yīng)更加靈敏、控制更加高效和靈活.

    實驗6. FFC壓力測試

    CSN架構(gòu)中的核心為FFC,一旦FFC的性能下降或者失效,將影響整個存儲網(wǎng)絡(luò)的性能,甚至崩潰.因此,這部分實驗我們將對FFC進行壓力測試.本實驗中FFC控制器的配置如表12所示,存儲網(wǎng)絡(luò)中有4臺FC服務(wù)器,分別接入4臺FC交換機.該實驗主要通過增加服務(wù)器并發(fā)啟動的數(shù)量來測試FFC的CPU、內(nèi)存和帶寬利用率變化情況.由于實驗室的服務(wù)器數(shù)量有限,因此實驗中通過虛擬機來代替物理服務(wù)器,一共創(chuàng)建了20臺虛擬機.實驗時通過同時打開1~20臺虛擬機,在FFC控制器中記錄CPU、內(nèi)存和網(wǎng)絡(luò)帶寬的瞬時利用率最大值,并通過重復(fù)10次實驗,得到瞬時利用率最大值的平均值和10次實驗瞬時利用率的最大值,同時記錄下FFC穩(wěn)定狀態(tài)下的各項指標(biāo)利用率,得到實驗結(jié)果如圖18所示.

    Table 12 Hardware of FFC

    Fig. 18 Stress Testing of FFC.圖18 FFC壓力測試

    圖18(a)(b)(c)可以看出,隨著服務(wù)器數(shù)量的增加,CPU、內(nèi)存和網(wǎng)絡(luò)帶寬的瞬時最大值利用率也隨之增加;但是在服務(wù)器數(shù)量較少時,CPU和網(wǎng)絡(luò)帶寬的利用率變化較少,隨著服務(wù)器數(shù)量增加,利用率增加得較快,而內(nèi)存利用率基本隨著服務(wù)器數(shù)量的增加而增加.

    圖18(d)表示服務(wù)器登錄完成后,F(xiàn)FC的穩(wěn)態(tài)利用率變化情況.CPU和網(wǎng)絡(luò)帶寬的利用率變化不大,而內(nèi)存利用率輕微增加,這主要是因為在穩(wěn)態(tài)情況下FFC的開銷主要是用于FFC和FC交換機間的通信,本實驗中交換機數(shù)量沒有變化,因此CPU、帶寬的使用開銷變化不大.而內(nèi)存利用率稍微增加則主要是因為隨著服務(wù)器的增加,F(xiàn)FC中記錄服務(wù)器的信息也相應(yīng)增加,因此內(nèi)存利用率增加.

    通過以上的測試我們可以得出,在大量服務(wù)器并發(fā)啟動的過程中,對FFC的CPU、內(nèi)存和網(wǎng)絡(luò)帶寬都會有影響,但是影響較大的是內(nèi)存和CPU,這可以通過增加內(nèi)存和優(yōu)化FFC處理代碼等手段緩解;另外,通過增加FFC的數(shù)量并采用已有的負載均衡方案,也能得到較好地解決.

    5結(jié)論和展望

    本文研究存儲網(wǎng)絡(luò)中的FC-SAN架構(gòu)和SDN技術(shù),并基于SDN提出了一種基于中心控制器的新型存儲架構(gòu),分析了CSN對FC-SAN的改進;隨后詳細描述了CSN架構(gòu)下控制器功能、FC協(xié)議改進和通信機制等內(nèi)容,并設(shè)計了基于CSN的按需可用帶寬優(yōu)先路由協(xié)議;最后,通過實際的驗證平臺測試了CSN架構(gòu)下的整體性能,不管是FC交換機的增刪或者是交換網(wǎng)的初始化,CSN架構(gòu)下交換網(wǎng)路由的收斂時間要明顯優(yōu)于原有FC-SAN架構(gòu),而且網(wǎng)絡(luò)規(guī)模越大優(yōu)勢也越明顯,同時,在COBF路由協(xié)議CSN架構(gòu)能夠獲得更高網(wǎng)絡(luò)吞吐量,最后對CSN的核心部件FFC進行了壓力測試.

    本文下一步工作希望對CSN架構(gòu)的功能進行改進和增加,在FFC下發(fā)路由時支持增刪功能;在控制器中增加FC協(xié)議的其他一些功能,如分區(qū)功能,使得整個CSN架構(gòu)功能更加完善.另外,我們將針對FCoE-SAN環(huán)境,對CSN架構(gòu)進行改造,使其支持FCoE協(xié)議,并在FCoE-SAN環(huán)境下進一步優(yōu)化FFC的性能,使其能在大規(guī)模網(wǎng)絡(luò)下工作.最后,修改OpenFlow協(xié)議使其能夠在FCFCoE環(huán)境下工作.

    參考文獻

    [1]Vladmir V, Riabov. Storage Area Networks (SANs)[G/OL] //The Internet Encyclopedia, Volume 3. Hoboken, NJ: John Wiley & Sons, 2004: 329-338 [2015-01-10]. http://onlinelibrary.wiley.com/doi/10.1002/047148296X.tie164/abstract

    [2]T11 Technical Committee. Fibre channel[S/OL]. 2014 [2015-01-10]. http://www.t11.org/t11/als.nsf/v2guestho me766kx?OpenForm

    [3]T11 Technical Committee. Fibre channel over Ethernet (FCoE)[S/OL]. 2012 [2015-01-10]. http://www.t11.org/fcoe

    [4]Wu Longfei. The research of fibre channel over Ethernet storage technology[D]. Wuhan: Huazhong University of Science and Technology, 2013 (in Chinese)(吳龍飛. 以太網(wǎng)光纖通道存儲技術(shù)的研究[D]. 武漢: 華中科技大學(xué), 2013)

    [5]Open Networking Foundation. Software-defined networking: The new norm for networks[EB/OL]. (2012-04-13) [2015-01-10]. https://www.opennetworking.org/images/stories/downloads/sdn-resources/white-papers/wp-sdn-newnorm.pdf

    [6]Open Networking Foundation. OpenFlow switch specifica-tion: Version 1.0.0[EB/OL]. (2009-12-31) [2015-01-10]. https://www.opennetworking.org/images/stories/downloads/sdn-resources/onf-specifications/openflow/openflow-spec-v1.0.0.pdf

    [7]Jeda Networks. Software defined storage networks: An introduction[EB/OL]. (2012-12-05) [2015-01-10]. http://www.jedanetworks.com/wp-content/uploads/2012/12/Jeda_Networks_SDSN.pdf

    [8]SNIA: Storage networking industry association[EB/OL]. 1997 [2015-01-10]. http://snia.org

    [9]T11 Technical Committee. Fibre channel framing and signaling (FC-FS-2)[S/OL]. 2007 [2015-01-10]. http://www.t11.org/ftp/t11/admin/project_proposals/03-092v0.pdf

    [10]T11 Technical Committee. Fibre channel-switch fabric-5 (FC-SW-5)[S/OL]. 2009 [2015-01-10]. http://www.t11.org/ftp/t11/member/fc/sw-4/05-785v1.pdf

    [11]Kamiya S, Ichino K, Yasuda M,et al. Advanced FCoE: Extension of fiber channel over Ethernet[C] //Proc of the 3rd Workshop on Data Center—Converged and Virtual Ethernet Switching in ITC’11. New York: ACM, 2011: 1-8

    [12]Jeda Networks. Virtualizing the SAN with software defined storage networks[EB/OL]. (2014-03-14) [2015-01-10]. http://www.jedanetworks.com/wp-content/uploads/2014/03/140226-wp-Virtualizing-SDSN-FINAL.pdf

    [13]Shiraki O, Nakagawa Y, Hyoudou K, et al. Managing storage flows with SDN approach in I/O converged networks[C] //Proc of the 5th IEEE MENS Workshops in 2013 GLOBECOM. New York: IEEE Communications Society, 2013: 890-895

    [14]World wide name[EB/OL]. (2014-12-26) [2015-01-10]. http://en.wikipedia.org/wiki/World_Wide_Name

    [15]Iometer[EB/OL]. 2003 [2015-01-10]. http://www.iometer.org

    Lu Yifei, born in 1982. Received his PhD degree from the School of Computer Science and Engineering, Southeast University in 2010. Lecturer. His main research interests include data center network, cloud computing, big data and SAN.

    Zhang Zhenwei, born in 1982. Received his master degree from Nanjing University of Posts and Telecommunications. Senior engineer in Huawei Nanjing R&D Center. His main research interests include SAN, big data and distributed computing (zhang zhenwei@huawei.com).

    Tao Jun, born in 1975. PhD and associate professor, PhD supervisor. His main research interests include network architec-ture, wireless network technology(WSN, VANET, WMN, WMN), information economics, network resource allocation technology, network multimedia technology and trustworthy network (juntao@seu.edu.cn).

    Tang Ling, born in 1986. Received her PhD degree in electronic science and engineering from Southeast University, Nanjing, China, in 2013. Member of IEEE. Her current research interests include cooperative communications, cloud computing and networking (ling.tang@njust.edu.cn).

    Design and Implementation of New SAN Architecture Based on Controller

    Lu Yifei1, Zhang Zhenwei2, Tao Jun3, and Tang Ling1

    1(SchoolofComputerScienceandEngineering,NanjingUniversityofScienceandTechnology,Nanjing210094)2(HuaweiNanjingResearchInstitute,HuaweiTechnologiesCo.Ltd,Nanjing210012)3(SchoolofComputerScienceandEngineering,SoutheastUniversity,Nanjing210096)

    AbstractWith the rapid development of Internet technology and the explosive growth of data, the storage system designed by tightly coupled hardware and software is limiting the development of storage technology severely, and unable to meet the fast changing needs in the mobile Internet and big data era increasingly. Software defined network (SDN) as new network architecture is more suitable for the development of the next-generation data centers. This paper proposes a new controller-based storage area network (SAN)—CSN architecture using the idea of SDN technology. CSN decoupling protocol control plane of FC switch from data plane deploys protocol control plane and distributed functions in the controller. At first, we introduce the architecture of CSN and discuss the specific design of controller for CSN in this paper. Then, the implement of communication and overall mechanism are described in detail. After that, CSN-based on-demand bandwidth-available first routing protocol is introduced and discussed. Finally, we verify the feasibility through the actual development environment. As a result of several experiments, server can establish a connection with the storage more quickly in CSN, and furthermore, CSN has better throughput and faster convergence, as well as more reliability and scalability. In addition, stress testing is conducted in the central controller for CPU, memory and bandwidth.

    Key wordsFC protocol; storage area network (SAN); SAN architecture; software defined storage network (SDSN); controller

    收稿日期:2015-01-12;修回日期:2015-06-23

    基金項目:國家自然科學(xué)基金項目(61370209);江蘇省青年自然科學(xué)基金項目(BK20140797)

    中圖法分類號TP393

    This work was supported by the National Natural Science Foundation of China (61370209) and the Natural Science Foundation for Youth of Jiangsu Province of China (BK20140797).

    猜你喜歡
    控制器
    工商業(yè)IC卡控制器改造為物聯(lián)網(wǎng)控制器實踐
    基于DSP的復(fù)合跟蹤控制器的設(shè)計
    Fuzzy-PI混合型控制器在遠紅外烘干爐中的應(yīng)用
    基于FPGA的異步通信控制器設(shè)計與實現(xiàn)
    基于自抗擾控制的VSC-HVDC控制器設(shè)計
    電測與儀表(2014年8期)2014-04-04 09:19:34
    基于FPGA的可控硅移相觸發(fā)控制器的實現(xiàn)
    電測與儀表(2014年3期)2014-04-04 09:08:36
    模糊PID控制器設(shè)計及MATLAB仿真
    MOXA RTU控制器ioPAC 5542系列
    自動化博覽(2014年9期)2014-02-28 22:33:17
    倍福 CX8091嵌入式控制器
    自動化博覽(2014年4期)2014-02-28 22:31:15
    紅獅控制 PID控制器PXU系列
    自動化博覽(2014年4期)2014-02-28 22:31:14
    欧美 日韩 精品 国产| 亚洲 国产 在线| 国产精品久久久久久精品电影小说| 99久久99久久久精品蜜桃| 色播在线永久视频| 久久精品亚洲熟妇少妇任你| 国产精品熟女久久久久浪| 久热爱精品视频在线9| 免费看av在线观看网站| 女人被躁到高潮嗷嗷叫费观| 国产一级毛片在线| 免费在线观看黄色视频的| 国产成人91sexporn| 国精品久久久久久国模美| 日韩 亚洲 欧美在线| 水蜜桃什么品种好| 三上悠亚av全集在线观看| h视频一区二区三区| 51午夜福利影视在线观看| 亚洲一卡2卡3卡4卡5卡精品中文| 一区二区三区四区激情视频| 精品国产超薄肉色丝袜足j| av视频免费观看在线观看| 国产成人精品久久二区二区91| 久久九九热精品免费| 如日韩欧美国产精品一区二区三区| 成在线人永久免费视频| 黄色一级大片看看| 国产亚洲欧美在线一区二区| 最近中文字幕2019免费版| 大话2 男鬼变身卡| av有码第一页| 国产精品二区激情视频| 国产不卡av网站在线观看| 国产欧美日韩一区二区三 | 久久精品人人爽人人爽视色| 人妻 亚洲 视频| 欧美+亚洲+日韩+国产| 欧美日韩黄片免| 亚洲精品一卡2卡三卡4卡5卡 | 一级片免费观看大全| 美女高潮到喷水免费观看| 欧美黄色片欧美黄色片| 国产午夜精品一二区理论片| 精品亚洲成a人片在线观看| 欧美日韩精品网址| www日本在线高清视频| 美国免费a级毛片| 黄色毛片三级朝国网站| 亚洲情色 制服丝袜| 国产视频首页在线观看| 欧美精品av麻豆av| 七月丁香在线播放| 青草久久国产| 亚洲av国产av综合av卡| 男女边摸边吃奶| 又大又爽又粗| 青草久久国产| 波野结衣二区三区在线| 免费在线观看完整版高清| 久久精品aⅴ一区二区三区四区| 天天躁狠狠躁夜夜躁狠狠躁| 99久久精品国产亚洲精品| 日韩一卡2卡3卡4卡2021年| 午夜av观看不卡| 一级,二级,三级黄色视频| 欧美日韩福利视频一区二区| 美女主播在线视频| 亚洲美女黄色视频免费看| 久久99精品国语久久久| 亚洲色图 男人天堂 中文字幕| 国产成人精品久久二区二区91| 国产精品九九99| 久久av网站| 免费少妇av软件| 天天影视国产精品| 十八禁高潮呻吟视频| 久久久久久久大尺度免费视频| 久热爱精品视频在线9| 热99国产精品久久久久久7| 国产99久久九九免费精品| 久久影院123| 熟女少妇亚洲综合色aaa.| svipshipincom国产片| 久久久久久久精品精品| 精品国产国语对白av| 热re99久久国产66热| 欧美 亚洲 国产 日韩一| 亚洲 欧美一区二区三区| 国产成人免费无遮挡视频| 色播在线永久视频| 精品久久久精品久久久| 中文字幕精品免费在线观看视频| 91九色精品人成在线观看| 久久精品久久精品一区二区三区| 日日夜夜操网爽| 亚洲精品久久午夜乱码| 菩萨蛮人人尽说江南好唐韦庄| 欧美日韩一级在线毛片| 欧美日韩亚洲综合一区二区三区_| 成人亚洲欧美一区二区av| 亚洲av日韩精品久久久久久密 | kizo精华| 99re6热这里在线精品视频| 叶爱在线成人免费视频播放| 亚洲中文av在线| 91麻豆精品激情在线观看国产 | 亚洲一区二区三区欧美精品| 免费在线观看完整版高清| 久久亚洲精品不卡| 国产欧美日韩一区二区三 | 少妇猛男粗大的猛烈进出视频| 久久99热这里只频精品6学生| 亚洲精品av麻豆狂野| 天天躁日日躁夜夜躁夜夜| 好男人视频免费观看在线| av国产精品久久久久影院| 久久久久精品国产欧美久久久 | 久久久久精品人妻al黑| a级片在线免费高清观看视频| 人妻 亚洲 视频| 男女无遮挡免费网站观看| 日韩 欧美 亚洲 中文字幕| avwww免费| 人妻一区二区av| 90打野战视频偷拍视频| 欧美日韩亚洲综合一区二区三区_| 国产成人精品无人区| 日韩人妻精品一区2区三区| 成人手机av| 亚洲av成人精品一二三区| 国产精品亚洲av一区麻豆| 亚洲成国产人片在线观看| 男女国产视频网站| 国产99久久九九免费精品| 高清欧美精品videossex| 国语对白做爰xxxⅹ性视频网站| 国产成人精品久久二区二区免费| 我的亚洲天堂| 高潮久久久久久久久久久不卡| 黄色毛片三级朝国网站| 色视频在线一区二区三区| 欧美中文综合在线视频| 久久久精品94久久精品| 国产一区二区 视频在线| 丝袜美足系列| 90打野战视频偷拍视频| 国产成人欧美| 嫩草影视91久久| 国产日韩欧美在线精品| 久久狼人影院| 欧美变态另类bdsm刘玥| 久久毛片免费看一区二区三区| 亚洲,欧美精品.| 亚洲成人手机| 最近手机中文字幕大全| 国产视频一区二区在线看| 在线亚洲精品国产二区图片欧美| 一个人免费看片子| h视频一区二区三区| 捣出白浆h1v1| 色94色欧美一区二区| 91精品三级在线观看| 国产xxxxx性猛交| 成人午夜精彩视频在线观看| 久久久精品免费免费高清| 午夜免费观看性视频| 午夜福利一区二区在线看| 亚洲国产看品久久| 精品人妻在线不人妻| 国产精品二区激情视频| 一区二区日韩欧美中文字幕| 国产日韩欧美亚洲二区| 亚洲国产精品国产精品| 晚上一个人看的免费电影| 97人妻天天添夜夜摸| 国产精品久久久久久精品古装| 国产淫语在线视频| 国产一区二区三区综合在线观看| 国产男女超爽视频在线观看| av网站免费在线观看视频| 午夜av观看不卡| 国产精品亚洲av一区麻豆| 成人影院久久| 亚洲成人手机| 日韩一区二区三区影片| 亚洲av在线观看美女高潮| 国产日韩欧美在线精品| 亚洲精品久久成人aⅴ小说| 91成人精品电影| 午夜免费观看性视频| avwww免费| 国产免费又黄又爽又色| 老熟女久久久| 久久久国产欧美日韩av| 国产精品久久久av美女十八| 精品视频人人做人人爽| 久久亚洲精品不卡| 99re6热这里在线精品视频| 母亲3免费完整高清在线观看| 日本wwww免费看| 黄色a级毛片大全视频| a 毛片基地| 亚洲国产成人一精品久久久| 亚洲图色成人| 久久亚洲精品不卡| 成年人免费黄色播放视频| 黄色视频不卡| 欧美黄色片欧美黄色片| 看十八女毛片水多多多| 香蕉丝袜av| 国产有黄有色有爽视频| 精品免费久久久久久久清纯 | 一本大道久久a久久精品| 欧美 亚洲 国产 日韩一| 一级黄色大片毛片| 丝瓜视频免费看黄片| 欧美黑人精品巨大| 国产一区二区激情短视频 | 久久中文字幕一级| 青草久久国产| 我的亚洲天堂| 在线观看www视频免费| 一区福利在线观看| 大陆偷拍与自拍| 国产精品偷伦视频观看了| 极品人妻少妇av视频| 亚洲精品av麻豆狂野| 亚洲中文字幕日韩| 精品视频人人做人人爽| 黄色视频不卡| 久久久亚洲精品成人影院| 亚洲国产av新网站| 久久精品久久精品一区二区三区| 嫩草影视91久久| 精品久久久久久久毛片微露脸 | 色网站视频免费| 午夜av观看不卡| 久久久久国产一级毛片高清牌| 亚洲情色 制服丝袜| av不卡在线播放| 午夜视频精品福利| 午夜福利一区二区在线看| 少妇裸体淫交视频免费看高清 | 美女视频免费永久观看网站| 午夜免费成人在线视频| av视频免费观看在线观看| 亚洲欧美精品自产自拍| 一区在线观看完整版| 男女边吃奶边做爰视频| 99久久综合免费| 婷婷成人精品国产| 久久久精品免费免费高清| 久久久久视频综合| 久久99热这里只频精品6学生| 下体分泌物呈黄色| 日本欧美视频一区| 国产亚洲欧美在线一区二区| 欧美亚洲 丝袜 人妻 在线| 成人国语在线视频| 午夜免费鲁丝| 欧美国产精品va在线观看不卡| 美女视频免费永久观看网站| 成人午夜精彩视频在线观看| 天堂中文最新版在线下载| 99热国产这里只有精品6| 多毛熟女@视频| 日韩免费高清中文字幕av| 99久久人妻综合| 看免费成人av毛片| 精品国产乱码久久久久久小说| 99久久综合免费| 涩涩av久久男人的天堂| 美女高潮到喷水免费观看| 欧美日韩视频精品一区| 成人影院久久| 国产精品国产三级国产专区5o| 国产xxxxx性猛交| 在线精品无人区一区二区三| 日韩av不卡免费在线播放| 亚洲国产av新网站| 热re99久久国产66热| 精品亚洲乱码少妇综合久久| 99国产综合亚洲精品| 精品久久蜜臀av无| 亚洲精品第二区| 国产一区二区激情短视频 | 中文字幕人妻丝袜制服| 国产成人一区二区三区免费视频网站 | 久久精品成人免费网站| 亚洲伊人久久精品综合| 黄片播放在线免费| 一二三四在线观看免费中文在| 巨乳人妻的诱惑在线观看| 日本a在线网址| 两人在一起打扑克的视频| 久久久久久久精品精品| 久久人人爽人人片av| 一区二区日韩欧美中文字幕| 天天操日日干夜夜撸| 日韩av免费高清视频| 又黄又粗又硬又大视频| 久久国产精品男人的天堂亚洲| 国产成人精品久久二区二区91| 国产一区亚洲一区在线观看| 国精品久久久久久国模美| 国产精品一区二区精品视频观看| videos熟女内射| 久久鲁丝午夜福利片| 麻豆av在线久日| 成人三级做爰电影| 亚洲一区中文字幕在线| 亚洲欧美色中文字幕在线| 亚洲七黄色美女视频| 91麻豆av在线| 一二三四在线观看免费中文在| avwww免费| 国产精品久久久久久人妻精品电影 | e午夜精品久久久久久久| 在线观看免费高清a一片| 国产无遮挡羞羞视频在线观看| 欧美日本中文国产一区发布| 国产极品粉嫩免费观看在线| 久久 成人 亚洲| 自线自在国产av| 99精国产麻豆久久婷婷| 国产成人欧美在线观看 | 制服人妻中文乱码| 我要看黄色一级片免费的| 伊人久久大香线蕉亚洲五| a级片在线免费高清观看视频| 国产熟女欧美一区二区| 2021少妇久久久久久久久久久| av线在线观看网站| 国产在线免费精品| 亚洲一卡2卡3卡4卡5卡精品中文| 久久国产亚洲av麻豆专区| 国产日韩欧美亚洲二区| 久久天躁狠狠躁夜夜2o2o | 自线自在国产av| 国产欧美日韩精品亚洲av| 两性夫妻黄色片| 黄片播放在线免费| 欧美亚洲日本最大视频资源| a级片在线免费高清观看视频| 18在线观看网站| 中文字幕最新亚洲高清| 国产精品一二三区在线看| 亚洲成av片中文字幕在线观看| 日本av免费视频播放| 亚洲精品久久午夜乱码| 久久久久久久大尺度免费视频| 在线天堂中文资源库| 久久精品久久久久久噜噜老黄| 亚洲av片天天在线观看| 精品人妻1区二区| 天堂中文最新版在线下载| 亚洲综合色网址| 秋霞在线观看毛片| 亚洲成av片中文字幕在线观看| 少妇人妻 视频| 成年人午夜在线观看视频| 国产欧美日韩一区二区三 | 国产精品香港三级国产av潘金莲 | 日本欧美国产在线视频| 久久亚洲精品不卡| 两性夫妻黄色片| 咕卡用的链子| 午夜福利一区二区在线看| 欧美精品一区二区大全| 十分钟在线观看高清视频www| 国产片特级美女逼逼视频| 热99久久久久精品小说推荐| 99香蕉大伊视频| 亚洲精品国产av成人精品| 午夜免费观看性视频| 免费人妻精品一区二区三区视频| 国产成人av激情在线播放| 国产爽快片一区二区三区| 免费女性裸体啪啪无遮挡网站| 亚洲国产中文字幕在线视频| 亚洲成人免费电影在线观看 | 熟女少妇亚洲综合色aaa.| 欧美成人午夜精品| 日韩,欧美,国产一区二区三区| 观看av在线不卡| 最近手机中文字幕大全| 少妇被粗大的猛进出69影院| 国产国语露脸激情在线看| 超碰成人久久| 赤兔流量卡办理| av福利片在线| 欧美性长视频在线观看| 亚洲人成网站在线观看播放| 亚洲av成人精品一二三区| 老司机在亚洲福利影院| 五月开心婷婷网| 国产高清国产精品国产三级| 少妇精品久久久久久久| 国产极品粉嫩免费观看在线| 侵犯人妻中文字幕一二三四区| 大陆偷拍与自拍| 我的亚洲天堂| 波多野结衣av一区二区av| 欧美日韩亚洲综合一区二区三区_| 精品久久蜜臀av无| 欧美成人午夜精品| 亚洲精品久久成人aⅴ小说| 大香蕉久久成人网| 啦啦啦在线免费观看视频4| 男女午夜视频在线观看| 欧美日韩综合久久久久久| www.熟女人妻精品国产| 中文字幕亚洲精品专区| 大型av网站在线播放| 久久综合国产亚洲精品| 男女午夜视频在线观看| 亚洲黑人精品在线| 91老司机精品| av天堂在线播放| 大话2 男鬼变身卡| 国产精品一区二区免费欧美 | 水蜜桃什么品种好| 欧美人与善性xxx| 18禁裸乳无遮挡动漫免费视频| 亚洲欧美中文字幕日韩二区| 亚洲久久久国产精品| av片东京热男人的天堂| 欧美精品啪啪一区二区三区 | 午夜91福利影院| 一区二区日韩欧美中文字幕| 欧美人与性动交α欧美精品济南到| 午夜日韩欧美国产| 精品视频人人做人人爽| 中文字幕人妻熟女乱码| 亚洲精品国产av成人精品| 蜜桃在线观看..| 亚洲国产av新网站| 国产黄色视频一区二区在线观看| 国产欧美日韩精品亚洲av| 精品欧美一区二区三区在线| 九色亚洲精品在线播放| 在线天堂中文资源库| 婷婷丁香在线五月| 亚洲精品国产区一区二| 人体艺术视频欧美日本| 欧美精品av麻豆av| 午夜免费成人在线视频| 国产精品 国内视频| 国产免费视频播放在线视频| 国产真人三级小视频在线观看| 大香蕉久久成人网| 99国产精品一区二区三区| 国产有黄有色有爽视频| 国产免费一区二区三区四区乱码| 免费在线观看完整版高清| 国产精品欧美亚洲77777| 好男人电影高清在线观看| 久久99一区二区三区| 国产免费视频播放在线视频| 欧美在线黄色| 极品人妻少妇av视频| 婷婷成人精品国产| 永久免费av网站大全| 99久久综合免费| 久久久欧美国产精品| 精品国产一区二区久久| 亚洲欧美日韩另类电影网站| 精品一区二区三区av网在线观看 | 多毛熟女@视频| 午夜精品国产一区二区电影| 国产女主播在线喷水免费视频网站| 国产成人av激情在线播放| 日韩精品免费视频一区二区三区| 欧美日韩福利视频一区二区| 亚洲精品第二区| 亚洲欧美精品自产自拍| 亚洲中文日韩欧美视频| 国产欧美日韩一区二区三 | 90打野战视频偷拍视频| 国产精品一区二区免费欧美 | av欧美777| 亚洲欧洲国产日韩| 国产日韩欧美视频二区| 男女边摸边吃奶| 黄色视频在线播放观看不卡| 国产成人精品久久二区二区91| 亚洲欧美清纯卡通| 欧美日韩综合久久久久久| 日日摸夜夜添夜夜爱| 国产91精品成人一区二区三区 | 自线自在国产av| 高清黄色对白视频在线免费看| 国产1区2区3区精品| 宅男免费午夜| 自拍欧美九色日韩亚洲蝌蚪91| 又紧又爽又黄一区二区| 亚洲av国产av综合av卡| 国产精品国产三级国产专区5o| 亚洲人成电影观看| 精品国产超薄肉色丝袜足j| 如日韩欧美国产精品一区二区三区| 热re99久久精品国产66热6| 大香蕉久久成人网| 激情视频va一区二区三区| 欧美成狂野欧美在线观看| 婷婷色av中文字幕| 久9热在线精品视频| 中文字幕制服av| 日韩伦理黄色片| 伊人久久大香线蕉亚洲五| 久久这里只有精品19| 国产亚洲精品第一综合不卡| 各种免费的搞黄视频| 精品一区二区三卡| 久久久国产一区二区| 两个人免费观看高清视频| 亚洲精品国产色婷婷电影| av视频免费观看在线观看| 久久ye,这里只有精品| 午夜福利,免费看| 久久99热这里只频精品6学生| 人人妻人人爽人人添夜夜欢视频| 精品欧美一区二区三区在线| 亚洲欧美激情在线| 大话2 男鬼变身卡| 亚洲av片天天在线观看| 亚洲人成网站在线观看播放| 国产亚洲欧美精品永久| 亚洲成人免费av在线播放| 狂野欧美激情性xxxx| 少妇粗大呻吟视频| 又大又爽又粗| 手机成人av网站| 黄频高清免费视频| 国精品久久久久久国模美| 国产精品久久久人人做人人爽| 一本色道久久久久久精品综合| 亚洲精品国产av蜜桃| 两性夫妻黄色片| 天堂俺去俺来也www色官网| 在线观看免费日韩欧美大片| 老司机在亚洲福利影院| 久久久久久久久久久久大奶| 日本欧美国产在线视频| 亚洲中文av在线| 黄色怎么调成土黄色| 亚洲成人国产一区在线观看 | 日韩 亚洲 欧美在线| 亚洲七黄色美女视频| 欧美乱码精品一区二区三区| 五月开心婷婷网| av国产精品久久久久影院| 亚洲成人国产一区在线观看 | 精品人妻一区二区三区麻豆| 最黄视频免费看| 久久人人爽人人片av| 欧美精品人与动牲交sv欧美| 欧美 亚洲 国产 日韩一| 天天添夜夜摸| 大片免费播放器 马上看| av有码第一页| 国产成人av激情在线播放| 国产91精品成人一区二区三区 | 国产一区有黄有色的免费视频| 狂野欧美激情性xxxx| 欧美在线黄色| √禁漫天堂资源中文www| 国产主播在线观看一区二区 | 国产精品久久久av美女十八| 久久久久久亚洲精品国产蜜桃av| 精品亚洲成a人片在线观看| 亚洲伊人久久精品综合| 亚洲伊人色综图| 国产成人免费观看mmmm| 精品国产一区二区三区四区第35| av片东京热男人的天堂| 丝袜喷水一区| 成人三级做爰电影| 一区二区日韩欧美中文字幕| 2018国产大陆天天弄谢| 18禁国产床啪视频网站| 男女国产视频网站| 91麻豆精品激情在线观看国产 | 高清视频免费观看一区二区| 桃花免费在线播放| 三上悠亚av全集在线观看| 亚洲熟女精品中文字幕| 免费在线观看影片大全网站 | 久久ye,这里只有精品| 国产又色又爽无遮挡免| 激情五月婷婷亚洲| 精品人妻熟女毛片av久久网站| 午夜福利视频精品| 欧美激情高清一区二区三区| 中文乱码字字幕精品一区二区三区| 久久久亚洲精品成人影院| 99热全是精品| 女警被强在线播放| videos熟女内射| 欧美少妇被猛烈插入视频| 亚洲国产精品999| 午夜福利视频精品| 久久中文字幕一级| 老司机影院成人| 日韩一本色道免费dvd| 天堂俺去俺来也www色官网| 国产精品偷伦视频观看了| 老汉色∧v一级毛片| 久久九九热精品免费| 黄色 视频免费看| 久久这里只有精品19| av在线老鸭窝| 国产亚洲欧美精品永久| h视频一区二区三区|