在今天的中國,數(shù)字化轉(zhuǎn)型已經(jīng)在各種場合下多次被提及。在數(shù)字化轉(zhuǎn)型推動(dòng)經(jīng)濟(jì)增長的大背景下,科研、產(chǎn)業(yè)、醫(yī)療、教育、經(jīng)濟(jì)等產(chǎn)業(yè)結(jié)構(gòu)發(fā)生了巨大的變化。甚至可以說數(shù)字化推進(jìn)各個(gè)行業(yè)重塑的同時(shí),正在與經(jīng)濟(jì)模式和社會(huì)生活的結(jié)構(gòu)相融合,推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的核心技術(shù),正成為社會(huì)的發(fā)展的核心動(dòng)力。
正因如此英特爾眾多產(chǎn)品線中,“至強(qiáng)”的地位也越來越重要,它不僅意味著全新的數(shù)據(jù)中心平臺(tái),還是英特爾計(jì)算力從云端下沉到邊緣,深入到各行各業(yè)的算力引擎。
其實(shí)熟悉閃迪產(chǎn)品的朋友都應(yīng)該了解,閃迪這一系列的移動(dòng)固態(tài)硬盤其實(shí)已經(jīng)是第二代產(chǎn)品,早在2019年,閃迪便啟用了這個(gè)設(shè)計(jì),而當(dāng)時(shí)我們也就這個(gè)耐用、耐看的產(chǎn)品設(shè)計(jì)給予了很高的評(píng)價(jià):IP55 等級(jí)的防水防塵、出得野外、入得殿堂的外觀,以及出色的兼容性,這些都是當(dāng)時(shí)整個(gè)市場中非常創(chuàng)新意識(shí)的點(diǎn)。正是受益于這項(xiàng)極受歡迎的設(shè)計(jì),閃迪也將這個(gè)產(chǎn)品線延展開來,豐富的產(chǎn)品線也使得我們偶爾會(huì)有辨識(shí)上的盲區(qū),在評(píng)測這款閃迪移動(dòng)固態(tài)硬盤之前,我們不妨展開聊聊閃迪近幾年的變化。
AI、算力、安全同時(shí)提升的第三代至強(qiáng)
我們看到,全新發(fā)布的第三代英特爾至強(qiáng)可擴(kuò)展處理器(代號(hào)“Ice Lake”)采用了10nm制程工藝設(shè)計(jì)生產(chǎn),這是繼Tiger Lake之后,英特爾又一個(gè)進(jìn)入10nm時(shí)代的產(chǎn)品線。每顆第三代英特爾至強(qiáng)可擴(kuò)展處理器芯片可提供最多40個(gè)核心,性能相比已部署五年的系統(tǒng)提高2.65倍。該平臺(tái)每插槽最多可支持6TB系統(tǒng)內(nèi)存,提供高達(dá)8個(gè)DDR4-3200內(nèi)存通道和64個(gè)PCIe 4.0通道。
在至強(qiáng)處理器周邊,英特爾集中了傲騰持久內(nèi)存與存儲(chǔ)產(chǎn)品、以太網(wǎng)適配器、FPGA和經(jīng)過優(yōu)化的軟件解決方案等強(qiáng)大產(chǎn)品線組合,使至強(qiáng)平臺(tái)在數(shù)據(jù)中心、云、5G和智能邊緣等領(lǐng)域提供強(qiáng)大的性能和工作負(fù)載優(yōu)化,以應(yīng)對(duì)在人工智能、數(shù)據(jù)分析、高性能計(jì)算等多種復(fù)雜需求的開發(fā)和部署。
以往我們看處理器的升級(jí),主要看它的算力成長指標(biāo),而第三代英特爾至強(qiáng)可擴(kuò)展處理器不僅在算力上有著重大的提升,更是在人工智能和安全性上提供了更為強(qiáng)大的支持,這對(duì)于在分布式智能時(shí)代以強(qiáng)大、靈活、可靠的算力,來應(yīng)對(duì)復(fù)雜多樣的工作負(fù)載有著巨大價(jià)值。
算力上,第三代英特爾至強(qiáng)可擴(kuò)展處理器(以下簡稱“第三代至強(qiáng)”)在主流數(shù)據(jù)中心工作負(fù)載上性能平均提升46%。另外,它還是唯一內(nèi)置人工智能加速,并提供廣泛軟件優(yōu)化和整體解決方案的數(shù)據(jù)中心CPU,其全新的硬件和軟件優(yōu)化可以提供高達(dá)74%的人工智能加速,在20種主流人工智能工作負(fù)載上,第三代至強(qiáng)的性能優(yōu)勢最高超出AMD EPYC7763的1.5倍,最高超出英偉達(dá)A100 GPU的1.3倍。
通過英特爾深度學(xué)習(xí)加速技術(shù)集成人工智能加速技術(shù),英特爾專門為第三代至強(qiáng)提供了多項(xiàng)安全法寶,包含英特爾軟件防護(hù)擴(kuò)展(Intel SGX)和英特爾密碼操作硬件加速,以及用于人工智能加速的英特爾深度學(xué)習(xí)加速技術(shù)(DL Boost),這些新功能和新軟件都會(huì)加入英特爾精選解決方案和英特爾市場就緒解決方案內(nèi),組成滿足廣泛行業(yè)需求的產(chǎn)品組合。
看懂至強(qiáng)及其周邊軟硬件方案組合,才能明白英特爾真正的強(qiáng)大之處在于豐富的產(chǎn)品線和生態(tài)系統(tǒng):比如為了解決傳輸更快問題的Si Photonics硅光子通信芯、Ethernet以太網(wǎng)產(chǎn)品線、Tofino可編程以太網(wǎng)交換機(jī)產(chǎn)品線;為了存儲(chǔ)更多的Optane內(nèi)存、SSD產(chǎn)品線和在算力上形成包圍優(yōu)勢的XEON至強(qiáng)、Atom凌動(dòng)、Agilex FPGA、結(jié)構(gòu)化eASIC、StratixFPGA、Movidius 神經(jīng)網(wǎng)絡(luò)計(jì)算、Habana AI、Xe顯示等芯片陣營。正是憑借軟硬結(jié)合的優(yōu)勢、規(guī)模化的能力和完善的生態(tài)支持,英特爾能夠提供最為靈活創(chuàng)新的產(chǎn)品解決方案,并贏得最多的合作伙伴支持。
作為一款數(shù)據(jù)中心產(chǎn)品,第三代至強(qiáng)緊抓住未來的數(shù)據(jù)中心的變化趨勢,英特爾將之歸納為“應(yīng)萬變 塑非凡”六字——也是第三代至強(qiáng)的發(fā)布主題。細(xì)講下來便是針對(duì)云計(jì)算在公有云、私有云、混合云,甚至行業(yè)云在實(shí)施地點(diǎn)、部署規(guī)模上的不同,需要數(shù)據(jù)中心適應(yīng)AI和新興業(yè)務(wù)的需求。
從基礎(chǔ)架構(gòu)的角度來看,計(jì)算、存儲(chǔ)、內(nèi)存會(huì)逐漸解耦,透過更多的軟件虛擬化,以實(shí)現(xiàn)計(jì)算資源池的互聯(lián),使之資源利用最大化。如今的至強(qiáng)處理器多達(dá)40個(gè)核心,強(qiáng)大的算力包圍出的計(jì)算資源池,為充分利用處理器的高算力,英特爾引入了負(fù)載整合的技術(shù),具體來說便是運(yùn)用虛擬化的技術(shù),在不同核心上跑不同的應(yīng)用,充分利用現(xiàn)在處理器的多核能力。同樣,英特爾在邊緣上利用云原生技術(shù)將相關(guān)軟件模塊放在一個(gè)容器中便于服務(wù)商管理和升級(jí),也需要利用虛擬化技術(shù)將前端平臺(tái)虛擬化成若干個(gè)不同的計(jì)算設(shè)備、網(wǎng)絡(luò)設(shè)備、存儲(chǔ)設(shè)備,用戶便可從相互連通的計(jì)算池中調(diào)用計(jì)算資源,實(shí)現(xiàn)復(fù)雜的應(yīng)用。在聯(lián)通算力池的基礎(chǔ)上,英特爾也根據(jù)客戶需要的復(fù)雜應(yīng)用場景,將軟件分解為更小的模塊,成為微服務(wù),方便調(diào)用。
另外,CPU如今并不能單獨(dú)滿足日益復(fù)雜的用戶需求,前文中也提到,至強(qiáng)處理器周邊有很多給力的“小伙伴”。不過英特爾的XPU大戰(zhàn)略則是通過異構(gòu)計(jì)算打通不同構(gòu)架芯片的圍欄,從而實(shí)現(xiàn)覆蓋更寬的產(chǎn)品組合。這其中既包含了x86構(gòu)架的CPU,也包含了FPGA架構(gòu)的Agilex,也有Xe顯示芯片,還有人工智能加速芯片VPU架構(gòu)……一句話,便是將CPU融入XPU大戰(zhàn)略協(xié)同工作中去,以應(yīng)對(duì)復(fù)雜數(shù)據(jù)處理需求。
海量數(shù)據(jù)涌向邊緣
細(xì)看英特爾在近兩年的產(chǎn)品線布局,產(chǎn)品重心越來越從云、到網(wǎng)絡(luò),向邊緣上遷移,這是由于數(shù)據(jù)的產(chǎn)生將大量產(chǎn)生于數(shù)據(jù)中心之外,有報(bào)告指出,2025年數(shù)據(jù)中心之外產(chǎn)生的數(shù)據(jù)將占據(jù)總數(shù)據(jù)量的75%,而企業(yè)也非常重視分析這類數(shù)據(jù)產(chǎn)生的價(jià)值。對(duì)于面向企業(yè)的解決方案來說,將算力放在更靠近數(shù)據(jù)的地方,不僅能夠降低延時(shí),加快分析效率,而且能夠直接帶來AI、機(jī)器視覺的大量應(yīng)用。所以我們看到,第三代至強(qiáng)特別為智能邊緣側(cè)提供了強(qiáng)大的人工智能、復(fù)雜的圖片或視頻分析以及整合工作負(fù)載的性能、安全性與運(yùn)營控制。相較于前一代產(chǎn)品,該平臺(tái)可為圖像分類提供的人工智能推理性能提升最多可達(dá)1.56倍。
另外,第三代至強(qiáng)易于管理的特性,也有利于在新零售、制造、醫(yī)療等行業(yè)中部署智能邊緣計(jì)算。比如英特爾Speed Select技術(shù),便能將一臺(tái)服務(wù)器針對(duì)不同工作負(fù)載的需求動(dòng)態(tài)的靈活配置,以提升其利用率。加上剛才提及的安全功能,能夠讓這些分散于數(shù)據(jù)中心之外的數(shù)據(jù)更加安全,更加有效地得到利用。特別是應(yīng)智能邊緣開發(fā)的至強(qiáng)D系列產(chǎn)品,采用了SoC架構(gòu),擁有上述易管理、安全和AI等計(jì)算特性,能夠更加靈活地部署在邊緣之上。
關(guān)于智能邊緣話題的高端專訪
英特爾公司物聯(lián)網(wǎng)事業(yè)部中國區(qū)首席技術(shù)官及高級(jí)首席工程師張宇博士
數(shù)據(jù)中心、云端、網(wǎng)絡(luò)、邊緣,到存儲(chǔ),英特爾在以上領(lǐng)域均推出了基于第三代至強(qiáng)平臺(tái)的產(chǎn)品組合。但近年來,應(yīng)行業(yè)需求,發(fā)展得最快的莫過于邊緣,所以我們就“智能邊緣的發(fā)展”話題,邀請(qǐng)到英特爾公司物聯(lián)網(wǎng)事業(yè)部中國區(qū)首席技術(shù)官及高級(jí)首席工程師張宇博士與我們進(jìn)行一場深入的交流。
1.第三代至強(qiáng)能夠在哪些邊緣之上
相對(duì)第三代至強(qiáng)的性能提升,我們更關(guān)心它能夠在哪些具體的智能邊緣應(yīng)用場景上部署。雖然算力提升給平臺(tái)的部署提高了更大的寬容度,但硬件還是需要于基于英特爾各種軟件解決方案才能在各行各業(yè)生根開花。
在第三代至強(qiáng)發(fā)布之前,我們已經(jīng)看到前序產(chǎn)品已經(jīng)有在邊緣上應(yīng)用的案例,比如將云基礎(chǔ)設(shè)施和云服務(wù)部署到企業(yè)現(xiàn)場的智能邊緣小站;比如基于5G網(wǎng)絡(luò),在接近智能手機(jī)或者移動(dòng)終端的地方(智能化基站)提供云計(jì)算能力的MEC(移動(dòng)邊緣計(jì)算);以及在醫(yī)療、工業(yè)上大量用于監(jiān)視控制和數(shù)據(jù)采集的邊緣視覺套件……但實(shí)現(xiàn)上,這些應(yīng)用在訴求點(diǎn)和部署方式各不相同,目前英特爾可以在哪些場景下部署第三代至強(qiáng)平臺(tái)?帶著這樣的話題,我們開始了今天的交流。
首先,張宇博士介紹了邊緣的大概念。邊緣的概念最早來自網(wǎng)絡(luò)邊緣,因業(yè)務(wù)下沉將一些算力由中心推到邊緣,如今物聯(lián)網(wǎng)場景的需求越來越旺盛,所以我們從應(yīng)用場景角度將其分為網(wǎng)絡(luò)邊緣和物聯(lián)網(wǎng)邊緣。邊緣小站、5G的MEC平臺(tái)都屬于網(wǎng)絡(luò)邊緣的應(yīng)用;物聯(lián)網(wǎng)的應(yīng)用場景更加具體一些,除了工業(yè)、醫(yī)療,智能交通、智慧社區(qū)準(zhǔn)確來說都包含其中。
第三代至強(qiáng)對(duì)兩類邊緣場景都能提供很好支持,比如利用至強(qiáng)處理器在通信領(lǐng)域可以搭建MEC平臺(tái),能夠?qū)崿F(xiàn)高效的信號(hào)處理和數(shù)據(jù)轉(zhuǎn)發(fā)。這次發(fā)布的很多新特性,特別適于數(shù)據(jù)的高效傳輸,比如英特爾DDIO(數(shù)據(jù)直接 I/O)便可將傳統(tǒng)從網(wǎng)卡接入,經(jīng)過內(nèi)存再進(jìn)入CPU處理的數(shù)據(jù),直接從網(wǎng)卡進(jìn)入到CPU,省去內(nèi)存的轉(zhuǎn)發(fā)環(huán)節(jié),無形中提高了數(shù)據(jù)接收和處理速度。
物聯(lián)網(wǎng)的邊緣計(jì)算應(yīng)用場景很多,不同場景對(duì)于算力要求不一樣,對(duì)用戶來說,總希望獲得性價(jià)比最大化的方案。我們可以看到,第三代至強(qiáng)此次推出了不同硬件配置、不同核心數(shù)量、不同性能的產(chǎn)品,用戶可以根據(jù)自己對(duì)于負(fù)載的要求選擇不同的配置。對(duì)應(yīng)用戶在邊緣上部署的效益最大化的需求,第三代至強(qiáng)還含有一個(gè)全新的特征——英特爾SST技術(shù)(Speed Select Technology)。這是一個(gè)可提供更精細(xì)化的CPU性能控制技術(shù),它可以根據(jù)負(fù)載或虛擬機(jī)要求,調(diào)節(jié)每個(gè)核上的性能,針對(duì)工作負(fù)載的變化。SST技術(shù)還可以提供遠(yuǎn)程訪問解決方案實(shí)現(xiàn)自動(dòng)重新配置。這樣靈活的配置能力,非常適于在邊緣上的部署。
2.為邊緣計(jì)算而生的至強(qiáng)D有哪些能力
在邊緣之上,第三代至強(qiáng)D系列處理器是當(dāng)仁不讓的主角。早期,D系列處理器曾應(yīng)用在SOC嵌入式場景,新一代的至強(qiáng)D處理器則專門應(yīng)用于vRAN、安全設(shè)備、uCPE/SD-WAN、交換機(jī)和路由器等室內(nèi)外使用場景中密度更高、尺寸受限且堅(jiān)固耐用的邊緣設(shè)備上。
在張宇博士看來,至強(qiáng)D處理器的設(shè)計(jì)與邊緣計(jì)算是相輔相成的,由于邊緣底層更多的是PCIe帶寬,強(qiáng)調(diào)I/O吞吐能力,所以至強(qiáng)D處理器從硬件、工藝方面都充分考慮到性能功耗比、應(yīng)用性、易部署。而且不同于數(shù)據(jù)中心等領(lǐng)域所需的一個(gè)處理器平臺(tái)將兩塊CPU的雙路服務(wù)器,至強(qiáng)D處理器采用的是單路服務(wù)器方案。
我們還在英特爾官網(wǎng)留意到,至強(qiáng)D處理器提供從25W到125W的廣泛功率選擇包含的系統(tǒng)芯片包括集成CPU、面向英特爾QuickAssist技術(shù)的硬件加速、IO和NIC,加上SP產(chǎn)品線的補(bǔ)充,能夠涵蓋用戶對(duì)算力從低到高的不同要求。此外,該處理器還內(nèi)置原生人工智能(VNNI和英特爾深度學(xué)習(xí)加速)、直連加密功能和精準(zhǔn)定時(shí),進(jìn)一步促進(jìn)邊緣服務(wù)的部署。
3.第三代至強(qiáng)平臺(tái)應(yīng)對(duì)不同邊緣應(yīng)用場景的靈活部署有何優(yōu)勢?
與傳統(tǒng)數(shù)據(jù)中心不同,算力在邊緣上的部署需要及時(shí)響應(yīng)和靈活性,以應(yīng)對(duì)不同場景下的部署。與競爭對(duì)手相比,英特爾的優(yōu)勢在何處呢?張宇肯定了我們的問題方向,雖然不能對(duì)競爭對(duì)手進(jìn)行評(píng)測,他還是從英特爾已經(jīng)具有明顯優(yōu)勢做了解答。
在他看來,英特爾在邊緣部署上充分了解用戶對(duì)于半導(dǎo)體行業(yè)、對(duì)于芯片的要求,盡管根據(jù)不同應(yīng)用場景需要完成的工作是多樣化的,但總體可以將處理的類型分成三個(gè)大類:第一,要完成計(jì)算;第二,要做存儲(chǔ);第三,滿足通信。如今很難把所有工作都在一個(gè)節(jié)點(diǎn)上完成(單一節(jié)點(diǎn)系統(tǒng)),需要的是云邊協(xié)同的分布式系統(tǒng),將工作在云端和邊緣分布式地進(jìn)行處理。所以系統(tǒng)角度去看一塊半導(dǎo)體處理器,是基本的要求。
英特爾XPU企業(yè)戰(zhàn)略擁有強(qiáng)大的產(chǎn)品陣列支持,產(chǎn)品涵蓋了通信、計(jì)算、存儲(chǔ)的各個(gè)方面,不同處理器有各自分工,在具體處理器設(shè)計(jì)方面充分考慮用戶需求,我們把這幾個(gè)方面都考量進(jìn)去了。第三代至強(qiáng)可擴(kuò)展處理器我們一方面提升核心數(shù)量和算力,人工智能、AI推理能力在不斷增強(qiáng);存儲(chǔ)方面,它的內(nèi)存在傲騰的支撐下能達(dá)到6TB,訪問內(nèi)存的容量提升了2.6倍,訪問速度也提升了1.6倍左右。通信相關(guān)的技術(shù)方面,DDIO這樣的技術(shù)使得至強(qiáng)處理器更快的接收到數(shù)據(jù)、處理數(shù)據(jù)以及更快發(fā)送數(shù)據(jù)。這些都是單一處理器設(shè)計(jì)時(shí)著重考慮的方面。
放在英特爾全產(chǎn)品系列上來看,剛才提到的小站、5G的MEC平臺(tái),其中都包含了英特爾的處理器技術(shù)和與之相關(guān)的軟件技術(shù)在通訊里,我們提供的OpenNESS軟件工具可以方便地幫助用戶實(shí)現(xiàn)5G的RAN功能、5G核心網(wǎng)絡(luò)功能、5G的MEC功能,利用這樣的軟件能夠更好地發(fā)揮處理器平臺(tái)能提供的功能。在人工智能方面還提供了比如OpenVINO、OneAPI等這樣的軟件工具,能夠幫助開發(fā)者快速把他在開放的人工智能框架,像Caffe、TensorFlow等開放框架上設(shè)計(jì)、訓(xùn)練好的人工智能網(wǎng)絡(luò)模型,通過這樣一些工具快速的部署到英特爾提供的不同硬件平臺(tái)上實(shí)現(xiàn)人工智能的推理操作。所以英特爾產(chǎn)品最大的特點(diǎn)便是在軟件和硬件的產(chǎn)品均涵蓋了用戶在計(jì)算、通訊和存儲(chǔ)多方面的需求。
在應(yīng)對(duì)不同邊緣應(yīng)用場景的部署上,英特爾也一直和合作伙伴一起為最終用戶提供解決方案。包含剛才提及的,英特爾在軟件方面非常完整,在此基礎(chǔ)上還有應(yīng)用參考級(jí)的框架,這是英特爾非常自豪的。軟件和解決方案上投入的力度越大,最終用戶用起來就越方便。
4.第三代至強(qiáng)平臺(tái)在AI方面的進(jìn)展
其實(shí)不僅是至強(qiáng),英特爾其他產(chǎn)品線上最新一代的產(chǎn)品都強(qiáng)調(diào)AI能力的成長。而AI,更是邊緣上用于視覺采集、計(jì)算等應(yīng)用非常看重的能力。我們已經(jīng)看到,第三代至強(qiáng)號(hào)稱業(yè)內(nèi)唯一內(nèi)置人工智能加速的處理器,相對(duì)競品在測試項(xiàng)目中取得了明顯的優(yōu)勢,希望通過張宇博士了解到第三代至強(qiáng)AI性能大幅提升的原因。
關(guān)于AI方面,第三代至強(qiáng)多核心帶來了強(qiáng)大的人工智能算力。除了 AVX512指令集對(duì)于加速 AI 模型的推斷非常有效之外,還集成了DL Boost Int8的指令集,人工智能推理方面的速度與第二代至強(qiáng)相比有1.8倍左右的提升;同時(shí),VNI的指令集也做了進(jìn)一步增強(qiáng),可顯著提高基于硬件的性能。另外,英特爾建有機(jī)器學(xué)習(xí)庫,還可能過OpenVINO推動(dòng)人工智能和機(jī)器學(xué)習(xí)的融合,特別是在人工智能邊緣計(jì)算上,大大簡化了實(shí)際部署環(huán)境的難度,尤其是在最新版本在邊緣端的軟硬結(jié)合帶來了性能的極大提升。
由于采用了11代Graphic顯示芯片(內(nèi)部稱為12代Graphic),第三代至強(qiáng)相比前一代使用的9代Graphic,可用于AI計(jì)算的單元數(shù)EU從最高32擴(kuò)到了96個(gè),3倍擴(kuò)展的情況下,視覺方面的AI運(yùn)算能力上也有巨大提高。在某些場景對(duì)AI算力需求巨大的情況下,還可以通過FPGA或者其他加速卡進(jìn)行擴(kuò)展,這也是平臺(tái)開放性所具備的天生優(yōu)勢。在與合作伙伴深入的合作下,英特爾擁有完備的參考樣本,能幫助合作伙伴快速部署產(chǎn)品。
寫在最后:
完備的參考樣本建立在英特爾非常重視的解決方案建設(shè)上。從2010年起致力于加速數(shù)據(jù)中心解決方案的質(zhì)量以及數(shù)量后,至強(qiáng)在各個(gè)方面擁有相當(dāng)深厚的基礎(chǔ)和技術(shù)解決能力。尤其是2017年開始英特爾推出精選解決方案之后、英特爾可以提供了超過500個(gè)數(shù)據(jù)中心解決方案和30個(gè)從云到邊緣的不同工作負(fù)載的方案。從寬廣的軟硬件產(chǎn)品組合、豐富的解決方案,到廣泛的生態(tài)系統(tǒng)和數(shù)十年客戶實(shí)例實(shí)施經(jīng)驗(yàn),這些都是英特爾足以自傲的。當(dāng)然,我們今天的話題還是落在智能邊緣之上,英特爾專門建設(shè)了邊緣軟件中心(ESH),英特爾提供的軟件工具和針對(duì)不同行業(yè)的解決方案均是通過其更新和共享。對(duì)于邊緣的重視還是因其高速的成長性,有理由相信,未來邊緣上產(chǎn)生的數(shù)據(jù)將體現(xiàn)出更多價(jià)值。