AI時(shí)代的計(jì)算“芯”法

張平

2021年是英特爾的產(chǎn)品大年。年初，英特爾發(fā)布了全新的第十一代酷睿臺(tái)式機(jī)處理器和第十一代酷睿H35系列處理器，將英特爾桌面和移動(dòng)處理器的性能帶到了一個(gè)新的高度。三四月份，英特爾又發(fā)布了第三代至強(qiáng)可擴(kuò)展處理器IceLake全系列產(chǎn)品，在將處理器核心數(shù)量大幅度提升至40核的基礎(chǔ)上，又加入了大量的全新技術(shù)特性。5月份，英特爾憑借第十一代酷睿H45系列處理器實(shí)現(xiàn)了對(duì)移動(dòng)產(chǎn)品的全覆蓋。在如此多、如此密集的產(chǎn)品發(fā)布背后，人們看到了一個(gè)在產(chǎn)品上銳意進(jìn)取、在技術(shù)上不懈努力的英特爾。

對(duì)英特爾來(lái)說(shuō)，產(chǎn)品的發(fā)布往往是萬(wàn)里長(zhǎng)征才走完了一半，產(chǎn)品發(fā)布后對(duì)產(chǎn)品特性和應(yīng)用的持續(xù)推廣尤其是和實(shí)際市場(chǎng)、具體應(yīng)用的結(jié)合也非常重要。這一點(diǎn)在英特爾第三代至強(qiáng)可擴(kuò)展處理器上表現(xiàn)得特別明顯。第三代至強(qiáng)可擴(kuò)展處理器相比上代產(chǎn)品整體變化非常大，其核心微架構(gòu)升級(jí)、工藝進(jìn)化，因此帶來(lái)了非常顯著的性能、功能提升。

近期，英特爾公司市場(chǎng)營(yíng)銷集團(tuán)副總裁兼中國(guó)區(qū)數(shù)據(jù)中心銷售總經(jīng)理陳葆立及三位英特爾數(shù)據(jù)中心資深技術(shù)專家針對(duì)第三代至強(qiáng)可擴(kuò)展處理器的特性、優(yōu)勢(shì)以及應(yīng)用案例進(jìn)行了深度分享。根據(jù)英特爾的數(shù)據(jù)，第三代至強(qiáng)可擴(kuò)展處理器相比上代產(chǎn)品在性能方面提升了46%，這里的提升是指平均數(shù)據(jù)，在諸如人工智能和網(wǎng)絡(luò)計(jì)算等領(lǐng)域，由于新指令集的引入，其提升幅度更高。此外，新產(chǎn)品在安全特性、機(jī)密計(jì)算、整體帶寬、平臺(tái)功能方面都有顯著改善。由于產(chǎn)品在功能和相關(guān)特性上變化巨大，因此在產(chǎn)品發(fā)布前后，英特爾還持續(xù)跟蹤和接收用戶反饋，并且和客戶一起，根據(jù)新產(chǎn)品特性，在安全、人工智能和機(jī)密計(jì)算方面進(jìn)行了結(jié)合實(shí)際應(yīng)用場(chǎng)景的持續(xù)研發(fā)和不斷更新。下面，本文和大家一起來(lái)分享這些新的信息。

安全第一：英特爾在軟件防護(hù)和密碼操作硬件加速方面的進(jìn)展

在第三代至強(qiáng)可擴(kuò)展處理器上，英特爾引入了兩個(gè)新的特性，一個(gè)是英特爾軟件防護(hù)擴(kuò)展SGX，另一個(gè)則是英特爾密碼操作硬件加速。先來(lái)看SGX技術(shù)，從歷史來(lái)看，英特爾對(duì)產(chǎn)品的安全特性一直很重視，從第六代酷睿處理器開始，英特爾就引入了相關(guān)安全特性，當(dāng)時(shí)稱之為IntelSoftwareGuardExtension，也就是現(xiàn)在我們看到的在第三代至強(qiáng)可擴(kuò)展處理器上加入的英特爾軟件防護(hù)擴(kuò)展SGX的“始祖”。值得一提的是，所謂“擴(kuò)展”，并不是一個(gè)功能或者一個(gè)特性，而是指通過(guò)新擴(kuò)展指令集的方式，方便軟件開發(fā)者通過(guò)直接調(diào)用CPU指令來(lái)實(shí)現(xiàn)平臺(tái)安全隔離技術(shù)，整體設(shè)計(jì)更為底層、高效和獨(dú)特。SGX的作用也非常明白，那就是針對(duì)敏感數(shù)據(jù)提供獨(dú)立于操作系統(tǒng)和硬件配置的增強(qiáng)安全防護(hù)。這個(gè)功能的應(yīng)用場(chǎng)景是什么呢？舉例來(lái)說(shuō)，目前企業(yè)上云的趨勢(shì)非常明顯。企業(yè)在使用云計(jì)算時(shí)，數(shù)據(jù)傳輸?shù)皆剖羌用艿?、在云端的?shù)據(jù)也是加密存儲(chǔ)的，但是在云端計(jì)算的過(guò)程中，由于云端服務(wù)器要實(shí)現(xiàn)對(duì)數(shù)據(jù)的操作和處理，那么這個(gè)過(guò)程的數(shù)據(jù)可能就沒(méi)有辦法很好加密了。而SGX就是提供了可以把數(shù)據(jù)中心、云計(jì)算服務(wù)器中的指定內(nèi)存區(qū)域的數(shù)據(jù)和當(dāng)前的操作系統(tǒng)、硬件隔離開來(lái)的功能，實(shí)現(xiàn)敏感數(shù)據(jù)的安全處理。

由于數(shù)據(jù)隔離，云端數(shù)據(jù)的安全性就有了保障，服務(wù)器的操作系統(tǒng)和硬件在沒(méi)有許可的情況下是不可能得到這些敏感數(shù)據(jù)的。從這個(gè)角度來(lái)看，英特爾SGX是一種基于硬件的可信執(zhí)行環(huán)境，內(nèi)存中的數(shù)據(jù)看起來(lái)依舊在內(nèi)存中，但是隔離的特性使其成為當(dāng)前系統(tǒng)的“飛地”，安全性就有了保證。英特爾宣稱他們可以讓CPU在內(nèi)存中為單獨(dú)的應(yīng)用程序劃分出單獨(dú)的區(qū)域，由CPU專門對(duì)這塊區(qū)域進(jìn)行加密解密操作。在這種情況下，即使是操作系統(tǒng)、虛擬機(jī)管理程序這些高權(quán)限的軟件或者攻擊者、惡意訪問(wèn)者，都無(wú)法得到內(nèi)存中加密后的數(shù)據(jù)。不僅如此，SGX保護(hù)的空間是可大可小的，最小4KB，最大1TB，基本上可以滿足目前絕大部分軟件的需求了。

在具體的客戶方面，英特爾提到阿里云和騰訊云目前已經(jīng)開始部署相關(guān)的技術(shù)并實(shí)現(xiàn)了可信計(jì)算。國(guó)外的用戶比如德國(guó)的電子醫(yī)保數(shù)據(jù)也采用這個(gè)功能，符合歐盟嚴(yán)格的GDPR安全規(guī)范，讓用戶的數(shù)據(jù)隱私得到了很好的保護(hù)。

接下來(lái)則是英特爾密碼操作硬件加速。這個(gè)是一個(gè)比較好理解的概念，目前對(duì)很多敏感數(shù)據(jù)都采用密碼加密處理，對(duì)密碼的操作一般采用對(duì)稱密碼操作或者非對(duì)稱密碼操作，其中前者可以采用電子簽名這種標(biāo)準(zhǔn)的算法來(lái)實(shí)現(xiàn)，但是無(wú)論如何，類似這樣的密碼操作都需要耗費(fèi)CPU的算力，如果將這種標(biāo)準(zhǔn)算法實(shí)現(xiàn)硬件加速以后，就可以降低CPU的算力損耗，這是非常有意義的。

在具體實(shí)現(xiàn)方面，英特爾提到了三個(gè)方式。一是通過(guò)CPU指令集來(lái)實(shí)現(xiàn)AES加密的高速度、高效率，這個(gè)指令集在2010年的時(shí)候首次應(yīng)用，被稱為AES-NI，目前也在不斷地加強(qiáng)中。二是英特爾在每一代CPU上都針對(duì)加密解密計(jì)算做一些微架構(gòu)上的調(diào)整，使得整體性能不斷提升。三則是軟件優(yōu)化，通過(guò)軟件結(jié)合硬件的優(yōu)化，能夠帶來(lái)密碼硬件操作的提速。

英特爾還帶來(lái)了一些有關(guān)密碼硬件加速的案例。比如新的第三代至強(qiáng)可擴(kuò)展處理器在計(jì)算OpenSSLRSA2048位的簽名上，相比上一代CPU，單線程情況下有5.6倍的提升，在進(jìn)行AES-GCM對(duì)稱加密方式的情況下，相對(duì)上一代產(chǎn)品，單線程情況下有3.3倍的提升，這個(gè)提升幅度是相當(dāng)可觀的。在非對(duì)稱加密解密方面，英特爾也提到了一些功能優(yōu)化，比如借助AVX-512指令集實(shí)現(xiàn)相關(guān)計(jì)算加速，英特爾舉例稱第三代至強(qiáng)可擴(kuò)展處理器通過(guò)VPMADD52指令，再通過(guò)多緩存并行操作的機(jī)制，在RSA2048這樣一個(gè)電子簽名的操作上實(shí)現(xiàn)比上一代CPU高達(dá)5.6倍的提升。在密碼學(xué)的伽羅華域方面，英特爾采用VAES和VCLMultiply提升了性能。軟件優(yōu)化方面，英特爾實(shí)現(xiàn)了多緩存并行執(zhí)行和函數(shù)級(jí)別的縫合技術(shù)，后者可以實(shí)現(xiàn)不同格式的加密計(jì)算的一次性處理，大大提高了計(jì)算效率。

AI無(wú)處不在：智算領(lǐng)先

在之前的介紹文章中，我們?cè)岬降谌翉?qiáng)可擴(kuò)展處理器在AI計(jì)算方面做出了很大加強(qiáng)，其中一個(gè)重要的改進(jìn)就是AVX-512，英特爾是目前業(yè)內(nèi)唯一支持AVX-512指令集的廠商，另一個(gè)是AI加速有關(guān)的指令集。借助于這兩個(gè)方面的加速和軟件的優(yōu)化，英特爾宣稱新的第三代至強(qiáng)可擴(kuò)展處理器相比上代產(chǎn)品提升了74%的AI計(jì)算性能，比競(jìng)爭(zhēng)對(duì)手快了大約25倍，不過(guò)這樣的數(shù)據(jù)應(yīng)該是在比較極端的狀態(tài)下實(shí)現(xiàn)的。此外，英特爾在軟件上持續(xù)投入，比如英特爾在TensorFlow上優(yōu)化了ResNet的性能，相較于默認(rèn)發(fā)行版可以提升10倍。在Scikit-Learn上經(jīng)過(guò)優(yōu)化，相比非優(yōu)化版本獲得了100倍的性能提升。

由于英特爾在AI計(jì)算上很好的優(yōu)化，因此帶來(lái)了非常領(lǐng)先的計(jì)算優(yōu)勢(shì)和具體應(yīng)用場(chǎng)景的優(yōu)勢(shì)。在這一部分，英特爾給出了兩個(gè)例子，一個(gè)是在數(shù)字娛樂(lè)方面的優(yōu)化，比如目前人們?cè)谟螒蛑谐Ｒ姷哪竽樇夹g(shù)，可以使玩家在游戲中獲得非常出色的角色融入感。有關(guān)“捏臉”和相關(guān)應(yīng)用，英特爾在這里做了一個(gè)非常好的嘗試，那就是利用AI，通過(guò)用戶上傳人臉照片，自動(dòng)和游戲內(nèi)的3D模型耦合，這里利用到了第三代至強(qiáng)可擴(kuò)展處理器的VNNI指令集，僅僅使用int8整數(shù)計(jì)算，就完成了2D人臉模型到3D游戲模型的轉(zhuǎn)換，相比傳統(tǒng)需要使用FP32的計(jì)算，第三代至強(qiáng)可擴(kuò)展處理器和新的指令集帶來(lái)了4.23倍的性能提升，同時(shí)技術(shù)和應(yīng)用也非常簡(jiǎn)單。第二個(gè)例子是英特爾和阿里云一起針對(duì)自然語(yǔ)言進(jìn)行優(yōu)化，利用的也是第三代至強(qiáng)可擴(kuò)展處理器的VNNIint8相關(guān)特性，實(shí)現(xiàn)了3倍的性能提升。

除了上述AI加速的內(nèi)容外，英特爾在AI數(shù)據(jù)的安全方面也有很多獨(dú)特的創(chuàng)新。比如借助第三代至強(qiáng)可擴(kuò)展處理器的SGX技術(shù)配合AI計(jì)算，可以實(shí)現(xiàn)數(shù)據(jù)不用離開當(dāng)前的機(jī)房就能夠完成AI模型訓(xùn)練，這種技術(shù)被稱為“聯(lián)邦學(xué)習(xí)技術(shù)”。由于數(shù)據(jù)不用離開機(jī)房，因此在安全防護(hù)、數(shù)據(jù)控制方面更方便，因此受到了很多敏感數(shù)據(jù)用戶的歡迎，比如金融企業(yè)。英特爾和銀聯(lián)就推出了名為AnalyticsZoo的新技術(shù)，此外英特爾還和平安科技進(jìn)行合作，實(shí)現(xiàn)了基于英特爾SGX技術(shù)加持的云邊協(xié)同的隱私計(jì)算實(shí)踐方案，其特點(diǎn)也是在SGX的控制下，數(shù)據(jù)模型中包含的敏感信息不會(huì)被威脅或者竊取，即完成了工作、提高了效率，還加強(qiáng)了數(shù)據(jù)安全性，整體效果很不錯(cuò)。

機(jī)器學(xué)習(xí)和隱私保護(hù)：安全效率兩不誤

在上文，我們介紹了一些安全和AI計(jì)算的相關(guān)內(nèi)容。在這一部分，主要談及個(gè)人隱私和機(jī)器學(xué)習(xí)有關(guān)的內(nèi)容。目前全球各國(guó)對(duì)隱私保護(hù)都越來(lái)越嚴(yán)格，比如我國(guó)有《中華人民共和國(guó)個(gè)人信息保護(hù)法（草案）》，歐盟有GDPR，美國(guó)加州有CCPA等法律。這些隱私保護(hù)法律對(duì)個(gè)人隱私的獲取、存儲(chǔ)和使用都規(guī)定得越來(lái)越嚴(yán)格。具體到現(xiàn)在的AI計(jì)算來(lái)看的話，很多AI計(jì)算都離不開個(gè)人信息的收集和處理，比如人臉信息、醫(yī)療信息、位置信息和操作記錄等。目前主要有三類數(shù)據(jù)需要被保護(hù)，一個(gè)是AI模型的訓(xùn)練數(shù)據(jù)，比如從千百萬(wàn)用戶采集來(lái)的信息進(jìn)行模型訓(xùn)練，這些信息是非常敏感的。二是AI模型數(shù)據(jù)，這些模型數(shù)據(jù)是通過(guò)機(jī)器學(xué)習(xí)、機(jī)器訓(xùn)練而來(lái)，其數(shù)據(jù)本質(zhì)是千百萬(wàn)用戶的行為，因此也需要保護(hù)，并且很多數(shù)據(jù)模型還涉及敏感信息，這就更加重要了。三是預(yù)測(cè)結(jié)果，比如AI模型根據(jù)數(shù)據(jù)給出的預(yù)測(cè)結(jié)果，具體到個(gè)人或者某個(gè)具體的群體的話，那也必須保護(hù)起來(lái)，不能被非法、無(wú)序使用。

在這種情況下，英特爾提出的解決方案是結(jié)合前文提到的SGX，聯(lián)邦學(xué)習(xí)等功能來(lái)實(shí)現(xiàn)數(shù)據(jù)的管控和安全處理。與其他的隱私保護(hù)或者安全技術(shù)相比，不管是在安全性、性能和可用性方面，SGX都有明顯的優(yōu)勢(shì)。SGX是一個(gè)硬件級(jí)的安全技術(shù)，安全性很好，同時(shí)計(jì)算性能也非常出色。易用性方面，SGX不會(huì)打破現(xiàn)有應(yīng)用方式，也不會(huì)重新構(gòu)建底層，更不會(huì)破壞數(shù)據(jù)和模型，整體遷移性、易用性都很出色。此外，SGX還提供遠(yuǎn)程認(rèn)證等功能，可以實(shí)現(xiàn)參與方之間的遠(yuǎn)程互認(rèn)證，這可以解決多方合作中的可信問(wèn)題，助力聯(lián)邦學(xué)習(xí)打破數(shù)據(jù)孤島。

英特爾給出了一些具體案例，包括通過(guò)SGX技術(shù)、LibOS技術(shù)，以及AnalyticsZoo現(xiàn)有的API和實(shí)例給用戶構(gòu)建一個(gè)可信的大數(shù)據(jù)AI平臺(tái)。其中最典型的就是和螞蟻集團(tuán)的隱私保護(hù)機(jī)器學(xué)習(xí)合作案例。螞蟻集團(tuán)的Occlum項(xiàng)目，是一個(gè)開源的LibOS項(xiàng)目，通過(guò)OcclumLibOS，應(yīng)用程序可以不做任何更改，運(yùn)行在SGX中。目前，Occlum支持的應(yīng)用越來(lái)越多了，除了之前講到的深度學(xué)習(xí)應(yīng)用，一些大數(shù)據(jù)比如說(shuō)Spark、Flink、Hadoop都可以無(wú)縫通過(guò)OcclumLibOS運(yùn)行在SGX當(dāng)中，從而帶來(lái)了極高的易用性和安全性。

從英特爾本次會(huì)議給出的信息來(lái)看，未來(lái)計(jì)算的發(fā)展方向一定是和效率、安全高度相關(guān)。在效率方面，英特爾通過(guò)第三代至強(qiáng)可擴(kuò)展處理器已經(jīng)實(shí)現(xiàn)了計(jì)算能力的飛躍，在安全方面，通過(guò)SGX技術(shù)配合相關(guān)的AI計(jì)算、隱私保護(hù)等功能，英特爾也帶來(lái)了目前業(yè)內(nèi)最領(lǐng)先的安全管理技術(shù)之一，并且已經(jīng)和多家企業(yè)合作落地，實(shí)現(xiàn)了技術(shù)和應(yīng)用的結(jié)合?？偟膩?lái)說(shuō)，第三代至強(qiáng)可擴(kuò)展處理器在發(fā)布后僅僅數(shù)個(gè)月就帶來(lái)了如此多改變業(yè)內(nèi)應(yīng)用模式的方案和應(yīng)用案例，確實(shí)體現(xiàn)了英特爾在企業(yè)級(jí)市場(chǎng)上的統(tǒng)治力。