NoC中主要技術(shù)的研究與實(shí)現(xiàn)

張錦林

（杭州師范大學(xué)錢(qián)江學(xué)院 計(jì)算機(jī)科學(xué)與技術(shù)系，浙江 杭州 310012）

近年來(lái)，人們圍繞可伸縮互連結(jié)構(gòu)和NoC展開(kāi)大量的研究。推動(dòng)著這項(xiàng)新技術(shù)發(fā)展的重要單位有美國(guó)的斯坦福大學(xué)、普林斯頓大學(xué)、KTH，法國(guó)的Pierre et Marie Curie大學(xué)等。中國(guó)在NoC研究領(lǐng)域中滯后國(guó)際先進(jìn)水平，從這個(gè)意義上看，國(guó)內(nèi)對(duì)NoC進(jìn)行研究己經(jīng)到了刻不容緩的地步，NoC作為一個(gè)嶄新的多核發(fā)展領(lǐng)域，我國(guó)若能成功開(kāi)展NoC學(xué)術(shù)領(lǐng)域的前沿工作，將為大量創(chuàng)新新成果的出現(xiàn)提供一個(gè)空間。

1 NoC模擬器研究

作為性能評(píng)測(cè)的重要手段，模擬器對(duì)于驗(yàn)證理論分析的正確性和準(zhǔn)確性，評(píng)價(jià)系統(tǒng)改進(jìn)方案具有重要的作用。下面紹了幾種NoC模擬器，它們?cè)谝欢ǔ潭壬峡梢詫?duì)片上網(wǎng)絡(luò)的性能進(jìn)行模擬，但針對(duì)性較強(qiáng)、擴(kuò)展比較困難等問(wèn)題，需要設(shè)計(jì)出模塊化更好并且性能更優(yōu)的NoC模擬器。

1.1 Princeton大學(xué)的模擬器Pacman

Pacman是針對(duì)多核處理器的精確周期模擬器，支持蟲(chóng)孔路由、全鏈接的交叉開(kāi)關(guān)，拓?fù)浣Y(jié)構(gòu)支持:mesh,torus、和星型等。片上通信結(jié)構(gòu)(OCA=On-chip Communication Architecture)模型都用工作狀態(tài)機(jī) (Operation State Machine)來(lái)描述，這樣做的好處是提供了處理器單元和路由單元模型一致性，提高了仿真的效率和為以后進(jìn)一步驗(yàn)證模型的正確性提供了巨大的潛力。

使用C/C++來(lái)寫(xiě)的一個(gè)精確周期模擬器，可重用的庫(kù)文件:buffers,arbiters,crossbar,仿真速度快。Pacman采用層次的描述結(jié)構(gòu)，第一級(jí):TOP層，系統(tǒng)級(jí)設(shè)計(jì)者只需要規(guī)定針對(duì)特殊應(yīng)用的基本參數(shù)。例如，一個(gè)9核的NoC，采用2D的torus網(wǎng)絡(luò)結(jié)構(gòu)虛擬路由，TOP層將完成這些特征比如:topology,network,PEtype等等。第二級(jí)，Middle層，從TOP層轉(zhuǎn)化為特殊的應(yīng)用網(wǎng)表，包括PEs和OCAs。如果設(shè)計(jì)者想減少torus中的一個(gè)鏈接，可以直接從表文件中刪除連接。第三級(jí):LOW層，這一層，OCA設(shè)計(jì)者可能會(huì)調(diào)整OCA組件的微體系結(jié)構(gòu)，例如:流水線開(kāi)關(guān)的類(lèi)型和參數(shù)，總線仲裁器的請(qǐng)求與發(fā)送之間的時(shí)間戳等可以看出三者之間的關(guān)系，從上到下，復(fù)雜度增加，抽象度減小。利用基于綜合的工具套件，在LOW級(jí)的描述產(chǎn)生后，這個(gè)仿真綜合器讀取描述一一有效的OSM模型，并且自動(dòng)產(chǎn)生一個(gè)用戶(hù)自定義的模擬器。

1.2 Texas A&M大學(xué)的模擬器NoCsim

NoCsim是Texas A&M大學(xué)的Narayanan Swaminathan開(kāi)發(fā)的一款基于IP核的NoC模擬器，支持2D-Torus拓?fù)浣Y(jié)構(gòu)，支持蟲(chóng)孔路由。模擬器可配置選項(xiàng)是:虛信道VCs的數(shù)量和buffe:的深度，網(wǎng)絡(luò)大小。另外功耗模型基于90nm技術(shù)建立。支持不變的比特率和隨機(jī)的Poisson分布，產(chǎn)生有限的通信統(tǒng)計(jì)量，模擬器主要用于學(xué)術(shù)機(jī)構(gòu)研究使用。

1.3 Washington大學(xué)的Chaos模擬器

模擬器Chaos可以模擬片上網(wǎng)絡(luò)下的包交換和蟲(chóng)孔路由切換機(jī)制、自適應(yīng)或維序路由算法和大量的負(fù)載模式。Chaos模擬器主要模擬消息在網(wǎng)絡(luò)結(jié)點(diǎn)上的傳輸延遲。分析其結(jié)構(gòu)，可以發(fā)現(xiàn)它的四大模塊:a.機(jī)構(gòu)說(shuō)明模塊，說(shuō)明網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)以及網(wǎng)絡(luò)中使用的一些常量。例如網(wǎng)絡(luò)的IP數(shù)目，網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)以及VC虛信道的數(shù)目和大小。b.消息產(chǎn)生模塊，包括消息產(chǎn)生的結(jié)點(diǎn)以及網(wǎng)絡(luò)的負(fù)載特性。c.擬器控制模塊，該模塊中包含了隨機(jī)數(shù)產(chǎn)生器、模擬器的測(cè)試與幫助信息、數(shù)據(jù)的統(tǒng)計(jì)報(bào)告以及圖形化的人機(jī)接口GUI。d.路由排隊(duì)模塊，控制消息在NoC中的傳輸及選擇路徑的路由算法。模擬器框架的關(guān)鍵技術(shù)研究。

2 模擬器結(jié)構(gòu)

模擬器主要由模擬器對(duì)象、初始化程序、負(fù)載特性與程序執(zhí)行控制子程序以及統(tǒng)計(jì)報(bào)告子程序與圖形化用戶(hù)界面構(gòu)成，結(jié)構(gòu)如下圖所示。

3 NoC路由器模塊

路由器模塊本身由端口模塊(一個(gè)端口模塊包含一個(gè)輸入和一個(gè)輸出端口)、仲裁器模塊和交換單元等模塊構(gòu)成，共有n(大小一定)個(gè)輸入控制器對(duì)應(yīng)n個(gè)路由器輸入，每個(gè)輸入控制器包括路由控制邏輯、虛信道狀態(tài)寄存器和由buffers組成的v路的虛信道，虛信道仲裁器會(huì)根據(jù)虛信道的當(dāng)前狀態(tài)對(duì)于達(dá)到的flits進(jìn)行虛信道的選擇，交叉開(kāi)關(guān)仲裁器對(duì)來(lái)自虛信道的不同的輸入選擇不同的輸出。在OMNeT++模型中應(yīng)該定義為復(fù)合模塊。所有的處理器結(jié)點(diǎn)采用均勻分布進(jìn)行發(fā)包;路由器采用2或4路虛信道且不允許虛信道切換，buffe:長(zhǎng)度是32flits，包的大小8flits，不同的路由算法，處理器發(fā)包速率，虛信道數(shù)目，buffe:和包的大小均可以進(jìn)行參數(shù)配置。在包含虛信道的路由器中，對(duì)報(bào)文使用分布式仲裁方式，即每個(gè)輸出端口對(duì)各自的請(qǐng)求分別執(zhí)行仲裁(包括虛信道仲裁和物理信道仲裁)，因此路由器頂層模塊的兩個(gè)子模塊為:端口模塊:負(fù)責(zé)報(bào)文的輸入/輸出。交叉開(kāi)關(guān)模塊:是路由結(jié)點(diǎn)的核心組成部分，它將輸入端口的報(bào)文發(fā)送到正確的輸出端口。

4 NoC低延遲仲裁策略

目前采用的仲裁策略主要有輪轉(zhuǎn)法、先來(lái)先服務(wù)和短消息優(yōu)先三種。a.輪轉(zhuǎn)法是最流行的仲裁策略之一。仲裁器首先掃瞄所有的通道，第一個(gè)準(zhǔn)備好傳送的稱(chēng)為通道i，被選擇來(lái)傳送一個(gè)片。下一個(gè)過(guò)程，掃瞄從通道i+1開(kāi)始。這種方法顯然是公平的，不會(huì)發(fā)生餓死。然而，對(duì)于所有的微包，網(wǎng)絡(luò)延遲有一個(gè)均勻上升的趨勢(shì)。為了緩解負(fù)面影響，僅在當(dāng)前VC正好送出一個(gè)尾片后才讓掃瞄過(guò)程移到下一個(gè)準(zhǔn)備好的VC上。當(dāng)這個(gè)報(bào)文完全流出后，就使用這個(gè)簡(jiǎn)單的Round-Robin策略。b.先來(lái)先服務(wù)，最老的微包有更高的優(yōu)先權(quán)。一個(gè)可能的實(shí)現(xiàn)如下:與每個(gè)VC都關(guān)聯(lián)著一個(gè)“age”計(jì)數(shù)器。當(dāng)一個(gè)新的微包進(jìn)入一個(gè)VC,age計(jì)數(shù)器復(fù)位。以后，age以一個(gè)可編程的速率增加。仲裁器更喜歡帶最大age的微包。本質(zhì)上這個(gè)仲裁策略是無(wú)餓死的。像Round-Robin的情況一樣，我們可以有FCFSKeep Flow方法，其中當(dāng)前流出交換開(kāi)關(guān)的微包被給予優(yōu)先權(quán)。Spider芯片使用一個(gè)8位的age計(jì)數(shù)器來(lái)實(shí)現(xiàn)FCFS。然而，他們的實(shí)現(xiàn)與我們的不同，因?yàn)閍ge由微包帶著向前并且當(dāng)flits進(jìn)入一個(gè)新的交換開(kāi)關(guān)時(shí)并不復(fù)位。分析了虛信道和自適應(yīng)路由對(duì)2-D Mesh性能帶來(lái)的影響，發(fā)現(xiàn)Switch帶來(lái)的性能提升大于降低網(wǎng)絡(luò)擁塞帶來(lái)的性能提升。中比較了MIN中四種不同的Switch實(shí)現(xiàn)(交換技術(shù)、緩沖深度和虛信道數(shù)目)，作者將各層的延遲進(jìn)行了分解，發(fā)現(xiàn)長(zhǎng)報(bào)文在網(wǎng)絡(luò)入口處的延遲是最關(guān)鍵的。c.短消息優(yōu)先從進(jìn)程調(diào)度理論來(lái)講，最短工作優(yōu)先可以獲得非常好的響應(yīng)時(shí)間。對(duì)仲裁來(lái)一說(shuō)等價(jià)的策略是最短消息優(yōu)先SMF，它優(yōu)先考慮帶最少傳輸片的微包，因此可以最小化消息延遲。SMF策略的第二個(gè)動(dòng)機(jī)是增加虛通道的可用性，當(dāng)輸入緩沖相當(dāng)大并且一次僅有一個(gè)微包可以使用一個(gè)VC時(shí)，SMF的優(yōu)點(diǎn)才能得到體現(xiàn)。這種交換開(kāi)關(guān)可能存在這樣的情況，即使有足夠的緩沖可用，由于下一個(gè)開(kāi)關(guān)沒(méi)有空的VC而導(dǎo)致頭片被阻塞。因此，仲裁器應(yīng)當(dāng)嘗試盡可能快的釋放虛通道，這恰好是SMF所做的。然而，這種方法不公平，如果不采取特殊措施的話(huà)會(huì)發(fā)生餓死，因此在交換開(kāi)關(guān)中未被使用。

5 網(wǎng)絡(luò)傳輸延遲

傳輸延遲是指從消息源結(jié)點(diǎn)產(chǎn)生頭包到該消息的尾微包到達(dá)目標(biāo)結(jié)點(diǎn)的這段時(shí)間，以時(shí)鐘周期數(shù)表示。消息要到達(dá)目的結(jié)點(diǎn)，微片fl1tS需要經(jīng)過(guò)一系列由開(kāi)關(guān)和連線構(gòu)成的路徑，稱(chēng)為Stages。源/目的結(jié)點(diǎn)的位置和路由算法影響網(wǎng)絡(luò)的延遲。另外，源/目的結(jié)點(diǎn)的其他因素對(duì)總延遲也有影響。因此，對(duì)給定的不同的消息有不同的延遲:Li二發(fā)送延遲+傳輸延遲+接受延遲。當(dāng)然在評(píng)價(jià)系統(tǒng)性能時(shí)，一般采用平均延遲作為衡量性能的標(biāo)準(zhǔn)。

6 結(jié)果與分析

在前面模擬器仲裁策略中詳細(xì)說(shuō)明了不同的仲裁策略。在模擬中我們采用本文中提出的基于信用值與輪轉(zhuǎn)法結(jié)合的低延遲仲裁策略和輪轉(zhuǎn)法仲裁策略進(jìn)行比較。無(wú)論交叉開(kāi)關(guān)有2路或者4路虛信道時(shí)，Spin的網(wǎng)絡(luò)延遲明顯比2DMesh的要小，并且兩種拓?fù)浣Y(jié)構(gòu)下的4路虛信道的性能都超過(guò)2路信道;兩種拓?fù)浣Y(jié)構(gòu)下網(wǎng)絡(luò)延遲都隨著處理器結(jié)點(diǎn)數(shù)目的增加而增加;無(wú)論那種情況下，采用本文提出的信用值與輪轉(zhuǎn)法結(jié)合的仲裁策略使得網(wǎng)絡(luò)延遲明顯減少。

[1]周干民，NoC基礎(chǔ)研究，合肥工業(yè)大學(xué)博士論文，2005年

[2]都政，羅莉，彭元喜，于正澎，徐秀成，通信局部性提高NoC性能，計(jì)算機(jī)應(yīng)用與研究，2007年