賽靈思為何用“軟件”推動(dòng)其自適應(yīng)計(jì)算平臺(tái)

王瑩

不久前，賽靈思推出了Vitis統(tǒng)一軟件平臺(tái)，并宣布其重要組件vitis AI開放下載，使人工智能（AI）和機(jī)器學(xué)習(xí)開發(fā)者可利用賽靈思的高性能自適應(yīng)計(jì)算平臺(tái)的加速度。一家硬件平臺(tái)公司，為何重磅推出軟件平臺(tái)？為此，電子產(chǎn)品世界等媒體采訪了賽靈思軟件與AI產(chǎn)品市場營銷副總裁Ramine Roane（羅明）。

1賽靈思整體的業(yè)務(wù)戰(zhàn)略及對(duì)計(jì)算的看法

所有的電子系統(tǒng)應(yīng)該是自適應(yīng)的，就像有機(jī)物種一樣，這樣才能跟上創(chuàng)新的速度。同樣，“所有的硬件和計(jì)算應(yīng)該是自適應(yīng)的”觀點(diǎn)，也得到越來越多的行業(yè)認(rèn)可。

直到2000年之前，根據(jù)摩爾定律，業(yè)界還接受著芯片或硅工藝的密度每18個(gè)月翻一番的速度，當(dāng)時(shí)所有的應(yīng)用和軟件開發(fā)人員不用多做什么，就等著新芯片出現(xiàn)。直到2000年時(shí)，工藝方面的登納德縮放比例定律（Dennard scaling）走到盡頭，認(rèn)為隨著工藝密度的進(jìn)一步翻番，頻率不可能再進(jìn)一步提高了，所有的CPU和計(jì)算機(jī)最多也就到（2-4）GHz的速度，而且迄今維持了20年。為了提升所有的應(yīng)用性能，要進(jìn)一步擴(kuò)展，后來使用多核CPU，因此，這個(gè)問題從硬件轉(zhuǎn)向軟件（如圖1）。

之后出現(xiàn)了向異構(gòu)CPU和加速器的轉(zhuǎn)移，到目前為止，這種方向是可行的。問題在于所有這些架構(gòu)包括CPU都是固定的，這就很難跟上AI的創(chuàng)新速度。

賽靈思的思路是打造自適應(yīng)的平臺(tái)，非常靈活多變，而且賽靈思的芯片也可針對(duì)不同的應(yīng)用進(jìn)一步進(jìn)行硬件的優(yōu)化。所以現(xiàn)在開發(fā)者就不用等著新芯片出來，就可以建立一些特定架構(gòu)的應(yīng)用。

賽靈思提供的解決方案，如何追趕上像AI這樣的創(chuàng)新速度？從圖2可見，CNN等深度學(xué)習(xí)模型在2012-2018年發(fā)展的趨勢，可看出每3個(gè)月會(huì)出現(xiàn)新的AI模型，會(huì)取代之前的模型，一般是1年半到2年的時(shí)間來構(gòu)造1個(gè)全新的ASIC或GPU。

從圖2可見，藍(lán)色的，之前最主流的是GoogLeNet，1年半到2年后是ResNet，現(xiàn)在ResNet是最尖端的技術(shù)，但是無法在原有的架構(gòu)上運(yùn)行。賽靈思的器件以及可自適應(yīng)的硬件，就可以來構(gòu)建這種特有的架構(gòu)。

2Vitis和VitiS AI的特點(diǎn)

Vitis的名字來自于法語，意思是生命力，解釋到中文有“至關(guān)重要”的含義。

Vitis和Vitis AI開發(fā)工具可以助力軟件開發(fā)人員和AI科學(xué)家，用他們選擇的語言，例如c++進(jìn)行開發(fā)，也可以使用相關(guān)的架構(gòu)和庫進(jìn)行開發(fā)。

1）Vitis統(tǒng)一軟件平臺(tái)是針對(duì)軟件開發(fā)人員的，包括AI的軟件開發(fā)人員。

不過，對(duì)于軟件人員和A1人員，賽靈思并不是那么知名，因?yàn)檫^去長久以來，賽靈思的開發(fā)工具主要面向硬件的開發(fā)人員。隨著賽靈思推出Vitis和Vitis AI，想要改變?nèi)藗儗?duì)于賽靈思的認(rèn)識(shí)一一現(xiàn)在也針對(duì)軟件開發(fā)人員（如圖3）。

而且軟件開發(fā)人員的機(jī)會(huì)更多，因?yàn)檐浖藛T的數(shù)量大大高于硬件開發(fā)人員?，F(xiàn)在全球硬件開發(fā)者可能是一二十萬的規(guī)模，而軟件開發(fā)人員是數(shù)以幾百萬計(jì)的。而且現(xiàn)在美國大學(xué)里學(xué)硬件開發(fā)的已經(jīng)很少了，大部分人選擇學(xué)習(xí)軟件開發(fā)。賽靈思傳統(tǒng)的Vivado是針對(duì)硬件開發(fā)人員的平臺(tái)，新推出的Vitis和Vitis AI是針對(duì)軟件開發(fā)者以及AI科學(xué)家的。

2）Vitis統(tǒng)一軟件平臺(tái)的特點(diǎn)是統(tǒng)一了所有應(yīng)用平臺(tái)的開發(fā)，包括：①把AI和傳統(tǒng)的軟件開發(fā)統(tǒng)一起來。②把云和邊緣也都統(tǒng)一起來，包括終端計(jì)算以及邊緣和云計(jì)算，不同的架構(gòu)全都統(tǒng)一起來。③可以使用統(tǒng)一的語言進(jìn)行異構(gòu)的加速。

賽靈思現(xiàn)在也在進(jìn)行一個(gè)戰(zhàn)略轉(zhuǎn)型：從傳統(tǒng)硬件公司轉(zhuǎn)型成為軟件的平臺(tái)公司。賽靈思的理念是擁抱開源，把免費(fèi)工具貢獻(xiàn)給大家?，F(xiàn)在賽靈思還有開源庫，例如Github，還有SRT的運(yùn)行庫，有AI模型的例子，都是經(jīng)過優(yōu)化的，可以在FPGA上運(yùn)行，還有賽靈思收購深鑒科技公司獲得的技術(shù)。

實(shí)際上，Vitis和Vitis AI是拋磚引玉一一采用免費(fèi)的模式，主要從硬件賺取利潤。

一個(gè)問題是：在深度學(xué)習(xí)加速方面，雖然現(xiàn)在FPGA成長快，但是在AI培訓(xùn)I方面，主流的還是GPU居多，一方面是因?yàn)镚PU硬件性能高，另一方面，英偉達(dá)在軟件工具方面針對(duì)各個(gè)垂直領(lǐng)域做了很多工作。那么，Xilinx推出Vitis平臺(tái)之后，是不是有助于加速到各個(gè)垂直應(yīng)用的進(jìn)程？

Ramine Roane解釋道，GPU在AI培訓(xùn)I上的市場份額很大，但在AI的推斷上面效率并不是很高。AI推斷最大的市場份額還是由CPU占據(jù)的，不過現(xiàn)在CPU加速的效率還不高，例如在邊緣的一個(gè)案例是北京小馬智行公司的自動(dòng)駕駛，時(shí)延是一個(gè)很關(guān)鍵的問題，GPU最大的問題是時(shí)延太高了。不過，過去人們認(rèn)為FPGA有點(diǎn)難用，需要用硬件開發(fā)，隨著Vitis、Vitis AI的推出，這個(gè)難度會(huì)降低。