NVIDIA GeForce RTX 3080全球首發(fā)評測

《微型計算機》評測室

RTX 30系列產(chǎn)品綜合概述

RTX30系列首發(fā)產(chǎn)品有三款，也就是前文介紹的GeForceRTX3090、GeForceRTX3080和GeForceRTX3070。其中最先上市的是RTX3080，國內(nèi)上市時間為9月17日，價格為5499元起。隨后是RTX3090，上市時間為9月24日，國內(nèi)定價11999元起。最晚上市的是RTX3070，上市時間是10月15日，國內(nèi)定價僅為3899元起。從參數(shù)對比來看，RTX30系列最顯著的變化便是換用了三星的8nm工藝，同時CUDA核心的數(shù)量大幅度增長，單精度計算性能、張量核心性能暴增。另外，RTX30系列的功耗也顯著增加，頂級的RTX3090和高端的RTX3080在TDP功耗上均突破了300W，難怪NVIDIA建議玩家為RTX3090、RTX3080配備750W以上的電源。

RTX30系列在工藝上采用的是三星的8nm工藝。和之前NVIDIA在頂級產(chǎn)品上偏愛臺積電的工藝不同的是，Ampere顯卡所使用的制程工藝的確有點出乎大眾預(yù)料。三星8nm工藝在實際的工藝代次上是屬于10nm工藝的改進版本，屬于典型的半代工藝。其存在兩個版本，分別是8nmLPP和8nmLPU。但是三星沒有給出更多有關(guān)8nmLPU的數(shù)據(jù)，可能和三星之前宣布的高密度庫有關(guān)。NVIDIA本次RTX30系列顯卡，有可能選擇的是三星8nm工藝的LPU版本，但是目前沒有更多消息可供證明。

在采用了三星8nm工藝后，相比上代同為面向圖形的TU102核心，GA102核心的晶體管數(shù)量增加了大約50%，但是整體芯片面積卻降低了17%。RTX30系列GPU所使用的8nm工藝的晶體管密度為4458萬/mm2，之前RTX20系列使用12nmFFN工藝的晶體管密度為2467萬/mm2，新工藝的晶體管密度是之前工藝的1.8倍。

性能飛躍式增長，RTX30系列GPU架構(gòu)解讀

RTX30系列GPU在架構(gòu)上最大的變化是改用了全新的安培（Ampere）架構(gòu)。有關(guān)安培架構(gòu)的內(nèi)容，本刊在之前的《來自540億晶體管的力量—全新NVIDIA安培架構(gòu)和A100GPU深入解讀》一文中已經(jīng)做出了比較詳細(xì)的解讀。不過，之前NVIDIA在發(fā)布A100GPU的時候，無論是GPU本身還是架構(gòu)設(shè)計都更偏向于計算，在面向圖形應(yīng)用時，偏向計算的架構(gòu)顯然是無法適應(yīng)圖形計算的需求的，因此NVIDIA在同為安培架構(gòu)、面向不同計算場合的芯片設(shè)計上，采用了針對性的改進?？梢赃@樣理解，目前我們看到的RTX30系列顯卡，采用的是面向圖形的安培架構(gòu)，它和面向計算的安培架構(gòu)有一定的相似之處，但是側(cè)重點完全不同。

GA102和GA104的宏觀架構(gòu)

NVIDIA給出了完整版本GA102芯片的信息。根據(jù)這些內(nèi)容顯示，GA102芯片前端設(shè)計PCIe4.0總線控制器和常見的極線程分發(fā)器（GigaThreadEngine），數(shù)據(jù)通過這兩個端口進入GPC中。GA102內(nèi)部一共包含了7個GPC，每個GPC內(nèi)部包含6個TPC，一共擁有42個TPC。每個TPC包含2個SM模塊和一個PolyMorphEngine（幾何處理引擎，用于曲面細(xì)分計算），也就是84個SM模塊和42個PolyMorphEngine。在安培架構(gòu)上，NVIDIA定義一個SM模塊內(nèi)擁有等效128個CUDA核心或者流處理器，那么完整版本的GA102就包含了等效10752個CUDA核心。顯存控制器方面，GA102擁有12組顯存控制器，每組32bit，組成了384bit的規(guī)格，后端還包括用于全局連接的高速Hub和4通道NVLink總線。

值得注意的是，GA102內(nèi)部還有168個FP64單元（每個SM內(nèi)有2個），但是在宏觀架構(gòu)圖中并未顯示。FP64的計算性能是FP32單元的1/64。在這里加入少量FP64單元的目的主要是考慮到部分程序中有少量FP64計算任務(wù)，以及張量核心也有部分FP64數(shù)據(jù)需要計算。當(dāng)然，相比A100GPU中龐大的FP64規(guī)模，這里的FP64單元僅僅是為滿足基本計算需求而設(shè)定。

繼續(xù)向下深入探討的話，安培核心的SM，除了包含等效128個CUDA核心外，還包含4個第三代Tensor Core張量核心、256KB的寄存器、4個紋理單元、1個第二代光線追蹤核心以及128KB的L1/共享緩存。另外核心內(nèi)部還為每個顯存控制器配備了512KB的L2緩存，總計6144KB。

再來看GA10 4。RT X 3070使用的芯片代號是GA10 4-300- A1，按照慣例，NVIDIA會使用GXXX- 400作為比較接近完整版芯片的產(chǎn)品代號。根據(jù)NVIDIA數(shù)據(jù)，GA104的完整版本有6個GPC、24個TCP和48個SM，等效6144個CUDA核心。GA104-300-A1則屏蔽了1個TPC，最終只包含了6個GPC、23個TCP和46個SM，以及等效5888個CUDA核心，所以RTX 3070SUPER或RTX 3070 Ti理論上應(yīng)該是有空間的。

總的來說，從宏觀架構(gòu)來看，安培架構(gòu)和之前的圖靈架構(gòu)存在非常相似的地方，這也是NVIDIA使用多年的、GPC-TPC- SMCUDA核心四級層級的繼承和發(fā)展。今天我們看到的面向圖形的安培架構(gòu)和面向計算的安培架構(gòu)其差別之大甚至接近兩代GPU的架構(gòu)差異，雖然部分技術(shù)可能來源相同，但由于最終目標(biāo)不同，因此兩者的差異鮮明。

SM模塊解析

SM（Streaming Multi- processer，流式多處理器模塊）模塊一直是NVIDIA GPU的計算核心。在之前面向計算的A100上，SM模塊的基本配置情況是1個完整的SM模塊包含了64個INT 32單元、64個FP32單元（也就是CUDA核心）以及32個FP64單元、4個第三代張量核心，分別針對傳統(tǒng)的數(shù)據(jù)處理、雙精度計算和AI計算三種任務(wù)。不過，在新的GA10X核心的安培架構(gòu)上，由于計算任務(wù)的變化，和A100的SM模塊相比，GA10X的SM模塊也有了巨大的變化。

NVIDIA從RTX 20系列開始，就將圖形計算部分劃分為三個類型，那就是傳統(tǒng)圖形數(shù)據(jù)計算、光線追蹤計算和AI計算。在圖靈架構(gòu)上，這三個部分使用的分別是圖靈架構(gòu)SM、第一代RTCore以及第二代Tensor Core，后兩者都是NVIDIA的獨家方案。在新的面向圖形計算的安培架構(gòu)中，這三個計算任務(wù)依舊被完整地保留了下來，并共同組成了全新的安培SM模塊。

面向圖形的安培SM模塊的基本配置和之前的圖靈架構(gòu)在宏觀結(jié)構(gòu)上是基本相同的。整個SM中都包含了4個計算單元，128KB的L1緩存和共享內(nèi)存以及4個紋理單元、RT核心等。其主要變化發(fā)生在計算單元內(nèi)部。

在之前的圖靈SM模塊的單個計算單元配置上（4個SM計算單元組成一個SM模塊），每個SM模塊中的計算單元擁有1個warp調(diào)度單元和1個派遣單元，16384×32bit寄存器、16個FP32內(nèi)核和16個INT32內(nèi)核，2個張量核心以及后端的LD/ST單元、特殊功能單元（Special Function Unit，簡稱SFU）等。

在新的GA10X安培SM的計算單元內(nèi)部，依舊配置了1個warp調(diào)度單元和1個派遣單元、16384×32bit寄存器和后端LD/ST、SFU單元，但是在計算的部分卻包含了1組16個可自由執(zhí)行FP32和INT32計算的雙功能計算單元（ALU）—它們既可以完成FP32計算，又可以完成INT32計算，另外還包含了1組16個FP32計算單元和1個新的第三代張量核心。

由于SM設(shè)計的變化，因此安培架構(gòu)相比圖靈架構(gòu)顯示出巨大的功能性和性能導(dǎo)向差異。最典型的就是CUDA核心的數(shù)量方面，NVIDIA一直以來都將1個FP32單元作為1個CUDA核心來計數(shù)和宣傳，但是在本次使用了INT32和FP32雙功能設(shè)計、并額外增加了FP32單元后，可宣傳的CUDA核心數(shù)量就大大增加了。比如同為4個SM計算單元組成的SM模塊，GA10X安培架構(gòu)擁有等效128個CUDA核心、面向計算的A1xx安培架構(gòu)擁有64個CUDA核心，圖靈架構(gòu)也擁有64個CUDA核心，這也是NVIDIA宣傳GA10X安培架構(gòu)SM模塊2倍于圖靈架構(gòu)的數(shù)字計量來源。

但是，這并不意味著安培架構(gòu)在FP32計算性能上隨時都能保證達到圖靈架構(gòu)的2倍，畢竟安培架構(gòu)的每個SM模塊中只有64個“純粹”的FP32單元，其余64個是雙功能單元。這意味著當(dāng)計算任務(wù)的數(shù)據(jù)格式以混合INT和FP格式占據(jù)這些單元時，安培架構(gòu)的SM模塊每周期所呈現(xiàn)的FP計算能力就會根據(jù)計算任務(wù)而變化，最極端情況下會降低至和圖靈架構(gòu)相同（假設(shè)INT32占據(jù)了所有64個雙功能單元），或者呈現(xiàn)圖靈架構(gòu)的2倍（全部都是FP32計算）。

考慮到目前復(fù)雜的圖形計算任務(wù)，采用FP32+INT32混組核心的設(shè)計的優(yōu)勢是能夠帶來每晶體管性能的顯著提升。畢竟計算任務(wù)并不會老老實實地按照設(shè)計規(guī)范出現(xiàn)。舉例來說，一個計算任務(wù)中包含了20個INT計算和80個FP計算時，在圖靈架構(gòu)下，20個INT計算任務(wù)在1個時鐘周期內(nèi)就可以完成，但是80個FP計算就需要2個時鐘周期才能完成。其中部分INT32核心在此時就會被閑置，每晶體管性能就會降低。換到安培架構(gòu)，20個INT計算任務(wù)會分配20個雙功能核心的INT32功能完成（剩余48個雙功能核心），其余80個計算任務(wù)中的64個可以交給固定FP32核心，另外16個可以交給雙功能核心的FP32功能完成。那么，1個時鐘周期就可以完成所有的計算任務(wù)，效率自然能得到大幅度提升。

總的來看，在計算任務(wù)全部都是FP32的情況下，新的安培架構(gòu)的1個SM可以視同擁有128個FP32計算單元、4個第三代張量核心和1個RT核心。因此，NVIDIA特別提到，現(xiàn)代游戲工作負(fù)載具有廣泛的處理需求，許多工作負(fù)載混合使用FP32算術(shù)指令（例如FFMA、浮點加法FADD、浮點乘法FMUL等），以及許多更簡單的整數(shù)指令，例如用于尋址和獲取數(shù)據(jù)算法，或者用于處理結(jié)果等。因此，在圖靈架構(gòu)上，NVIDIA增加了新的計算路徑后，大幅度提升了這類算法的自由度和工作效能，從而帶來了不錯的性能優(yōu)勢。在安培架構(gòu)上，這樣的設(shè)計被強化了，浮點計算可以根據(jù)需求選擇任何一組計算單元（計算路徑），根據(jù)Shader指令和應(yīng)用程序設(shè)計的不同，性能將有所變化，具體取決于指令的應(yīng)用方式。比如光線追蹤降噪計算全部都是FP指令，能夠充分利用新的雙功能計算單元和傳統(tǒng)的FP32單元，顯著提升性能。

此外，在L1緩存部分，安培架構(gòu)的SM L1共享緩存應(yīng)用下的帶寬相比圖靈架構(gòu)翻倍，安培架構(gòu)的SM共享緩存帶寬為每時鐘周期128bytes，而圖靈架構(gòu)為每時鐘周期64bytes。這樣一來，RTX 3080的總L1帶寬為219GB/s，RTX 2080 SUPER僅有116GB/s。

在緩存方面，安培架構(gòu)的SM緩存容量從之前的96KB提升到了128KB，容量增大了33%，這有助于存放更多的數(shù)據(jù)在L1緩存中，減少數(shù)據(jù)不斷地從外部存儲調(diào)用的頻率，能提高性能并降低功耗。完整的GA102包含10752KB的L1緩存，對比TU102為6912KB。此外，NVIDIA還給出了L1和共享緩存的容量配置表，L1和共享緩存的可配置方案如下：

128KB L1 + 0 KB共享內(nèi)存

120KB L1 + 8 KB共享內(nèi)存

112KB L1 + 16 KB共享內(nèi)存

96KB L1 + 32 KB共享內(nèi)存

64KB L1 + 64 KB共享內(nèi)存

28KB L1 + 100 KB共享內(nèi)存

NVIDIA特別提到，對于圖形工作負(fù)載和異步計算，GA102將分配6 4KB L1數(shù)據(jù)紋理緩存（相比之下圖靈架構(gòu)僅能分配32KB）、48KB共享內(nèi)存和16 KB保留用于各種圖形管線操作。

光線追蹤模塊

在之前的圖靈架構(gòu)上，NVIDIA引入了光線追蹤模塊（下簡稱為“RT模塊”）。RT模塊的主要作用是針對光線追蹤計算中最耗費時間的加速邊界體積層次（BVH）遍歷和光線/三角形（基元）交叉測試（光線投射）過程進行加速，將整個光線追蹤計算的時間降低至可接受的范圍內(nèi)。

有關(guān)光線追蹤計算的基本情況，我們在2018年的《生而為光—NVIDIA“圖靈”架構(gòu)解析》一文中有非常詳細(xì)的介紹，因此本文僅作簡單回顧性介紹，有需要的讀者可以翻看之前的內(nèi)容。

光線追蹤計算的過程，是通過圖像平面中的每個像素從相機（觀察者的眼睛）射出一條或者多條光線，然后測試光線是否和場景中的任何基元相交。由于光線和基元在場景中的碰撞檢測非常重要，因此一種流行的算法就是使用基于樹的加速結(jié)構(gòu)，其中包含了多個分層排列的邊界框，邊界框包圍或者圍繞著不同數(shù)量的場景幾何體，大的邊界框可能包含了較小的邊界框，較小的邊界框內(nèi)再包含實際的場景物體。這種分層排列的邊界框被稱為邊界體積層次結(jié)構(gòu)，或者BVH。BVH通常被列成具有多個級別的樹形結(jié)構(gòu)，每個級別都有一個或者多個節(jié)點，從頂層的單根節(jié)點開始，向下流入不同級別的多個后代節(jié)點。

光線追蹤計算更適合多指令多數(shù)據(jù)流形式的計算，因此需要專門的MIMD執(zhí)行單元。此外，在硬件計算上最好也能夠為其進行優(yōu)化。在這種情況下，NVIDIA設(shè)計了專門的BVH遍歷計算器以及三角形交叉測試單元，能夠以極高的效率完成整個場景的光線追蹤計算，這就是圖靈核心上開始出現(xiàn)的RT模塊中包含的RTCore。而在新的安培架構(gòu)上，NVIDIA又對RT模塊的性能進行了增強。面向圖形的安培架構(gòu)GPU加入了新的增強異步計算效能的功能，該功能允許在每個安培架構(gòu)GPU的SM中同時處理光線追蹤計算和圖形計算，或光線追蹤計算和數(shù)學(xué)計算工作負(fù)載。在這種情況下，安培架構(gòu)的SM可以同時處理兩個計算工作負(fù)載，并且不限于像以前的GPU那樣只能同時進行數(shù)學(xué)計算和圖形處理（光線追蹤計算需要等待），從而使基于計算的降噪算法等方案可以與光線追蹤計算可以同時運行，極大地提高了代碼執(zhí)行效能。

除了上述性能提升外，NVIDIA在安培架構(gòu)的光線追蹤模塊中還帶來了比較重要的技術(shù)創(chuàng)新，那就是光線追蹤動態(tài)模糊加速。動態(tài)模糊是一種非常流行且重要的計算機圖形效果，可用于電影、游戲和許多不同類型的專業(yè)渲染應(yīng)用程序中。動態(tài)模糊的本質(zhì)和膠片攝影相關(guān)，因為膠片攝影時，圖像不是立即創(chuàng)建的，而是通過將膠片在有限的時間段內(nèi)曝光來創(chuàng)建的。這意味著目標(biāo)物體在膠片快門時間內(nèi)的高速移動將帶來模糊的曝光效果。對GPU來說，要創(chuàng)建類似效果，必須模擬相機和膠片工作流程。動態(tài)模糊對于電影是非常重要的，它能夠避免畫面出現(xiàn)斷續(xù)卡頓的效果，對游戲來說亦是如此。

現(xiàn)代GPU動態(tài)模糊實現(xiàn)上有多種手段，這些技術(shù)既可以用于電影中的離線高質(zhì)量渲染，也可以用于游戲等實時應(yīng)用。高質(zhì)量的模糊效果通常需要在某個時間間隔內(nèi)渲染和混合多個幀，還需要后處理進一步改善結(jié)果，因此對算力要求極高。人們需要使用更為真實的模擬來實現(xiàn)動態(tài)模糊，比如光線追蹤。在使用了光線追蹤之后，動態(tài)模糊可以看起來更準(zhǔn)確和逼真，而不會出現(xiàn)不需要的偽影，但是在GPU上渲染也可能需要很長時間，因此需要硬件加速來快速實現(xiàn)這個結(jié)果。

目前有多種算法可以結(jié)合光線追蹤實現(xiàn)動態(tài)模糊。一種流行的算法是將許多帶有時間戳的光線隨機發(fā)射到場景中。具有動態(tài)模糊功能的BVH會針對在一段時間內(nèi)移動的幾何圖形返回光線的命中信息，該幾何圖形的采樣點是光線相關(guān)的時間函數(shù)。然后將這些樣本著色并合并以創(chuàng)建最終的模糊效果。NVIDIA自2017年推出OptiX 5.0以來，就已經(jīng)能夠支持這項技術(shù)。

在動態(tài)模糊計算方面，之前的圖靈架構(gòu)可以很好地加速運動相機類型的運動模糊，它能夠在一定時間間隔內(nèi)將多束光線射入場景，光線追蹤核心可以加速BVH遍歷，執(zhí)行光線和三角形相交測試并返回結(jié)果以創(chuàng)建模糊效果。但是，圖靈架構(gòu)在遇到BVH信息隨對象移動而變化的情況下，就很難在給定的時間間隔內(nèi)對移動的幾何體執(zhí)行運動模糊計算了?，F(xiàn)在，新的安培架構(gòu)的光線追蹤核心通過加入新的加速功能，和經(jīng)過修改的BVH配合使用，可以顯著加速運動的幾何形狀的動態(tài)模糊計算。

NVIDIA給出了2個對比圖用于解釋這個過程。首先來看單個光線的計算過程。在單光線的基礎(chǔ)的光線追蹤計算中，光線只是方向的函數(shù)，通過跟蹤給定的目標(biāo)體積邊界，解決了三角形相交問題，從而能夠輸出光線的追蹤采樣值。在加入了動態(tài)模糊后，單個光線的計算將擁有2個變量，分別是方向和時間，同樣是通過跟蹤給定的目標(biāo)體積邊界，然后查找此時物體運動的時間，求解位置有關(guān)的時間函數(shù)f（time）后，得到物體在此時的位置，再解決三角形相交問題，最終再輸出光線的追蹤采樣值。

在實際的計算中，光線計算會以多方向的形式進行輸出，在沒有動態(tài)模糊的情況下，不同光線匹配不同的方向，通過和單光線計算一樣的方式，輸出多個結(jié)果，碰撞測試，返回結(jié)果，完成光線追蹤采樣。在加入了動態(tài)模糊后，每個入射光線將被分配一個時間戳，這樣一來多光線、多方向和多個時間組成了復(fù)雜的計算陣列，此時需要同時計算物體在不同時間戳f（time）的位置后，再進行后續(xù)計算。比如圖中橙色光線嘗試在不同的時間點與橙色三角形相交，綠色和藍色光線分別嘗試與綠色和藍色三角形相交，如果命中則報告位置和結(jié)果。根據(jù)NVIDIA的介紹，安培架構(gòu)中加入的全新“Interpolate Triangle Position unit（內(nèi)插三角形位置單元）”能夠在BVH過程中，基于對象運動現(xiàn)有位置和動態(tài)方向插入新的三角形，以便光線可以在時間戳指定的時間內(nèi)，在對象空間中的期望位置處與插入的三角形相交。這個新單元可以進行精確的光線追蹤運動模糊渲染，其渲染速度比圖靈架構(gòu)的光線追蹤單元快8倍。當(dāng)然，最終的結(jié)果輸出將采用濾波計算后的結(jié)果，結(jié)果是一個模糊的狀態(tài)，正如圖中顯示的那樣。