永遠(yuǎn)不要投資DPU？

譚婧

說它低調(diào)，誰料想，DPU直接沖破了次元壁，在彈幕里打出“火鉗劉明”。

有人造出來DPU的時(shí)候，DPU還沒火，它們就是，阿里云的“神龍芯片”，亞馬遜云的“Nitro System”。

兩者，都優(yōu)秀。不僅造出來了，還規(guī)?；闷饋砹?。不僅規(guī)模化了，在云的場(chǎng)景中收益還巨大了。

阿里云在國內(nèi)云計(jì)算廠商技術(shù)團(tuán)隊(duì)里是最拔尖的。亞馬遜云在技術(shù)上從來沒讓人失望過。他們?cè)霥PU的團(tuán)隊(duì)，猶如雄師過江，天翻地覆慨而慷。

自此，云廠商分成兩列縱隊(duì)：有DPU的，沒有DPU的。中國男足，笑而不語，大比分落后，說的就是那些沒有DPU的云廠商。

亞馬遜云和阿里云都是革命者，且心有靈犀，選了相同的技術(shù)方向。

亞馬遜云的SA是解決方案架構(gòu)師（Solutions Architect），很能打，一言不合就秀（show）代碼，簡(jiǎn)直人人都匹敵創(chuàng)業(yè)公司CTO。

一位SA私下里告訴我：“簡(jiǎn)單來講，DPU就相當(dāng)于是把虛擬化不同的工作負(fù)載，下放到不同的卡上?！?/p>

留意“下放”這動(dòng)詞，得體會(huì)了一陣子，才想通。這個(gè)詞，用得妙啊，它背后的專業(yè)術(shù)語是“任務(wù)卸載”。

“Nitro是一張卡，把負(fù)載（Hypervisor虛擬層，存儲(chǔ)，網(wǎng)絡(luò)）都綁上去。也就是把影響虛擬化安全、性能、穩(wěn)定性的那些東西都裝進(jìn)板卡里去?！?/p>

“它不是一張卡，是一套卡。每張卡片有不同的目標(biāo)?！?/p>

“Nitro System之所以稱為是一個(gè)系統(tǒng)，它包含三個(gè)獨(dú)立的部分：Nitro 卡、Nitro 安全芯片和Nitro 管理程序。

以前嘴饞，必須自己會(huì)燒兩個(gè)小菜，但是，現(xiàn)成的API準(zhǔn)備好了。

不僅會(huì)燒菜，還會(huì)自創(chuàng)新菜。

因?yàn)镹itro系統(tǒng)是一個(gè)“基礎(chǔ)組件盒子”，有許多不同的組裝方式，從而使AWS能夠靈活設(shè)計(jì)和快速交付（EC2實(shí)例類型），計(jì)算、存儲(chǔ)、內(nèi)存和網(wǎng)絡(luò)都可以成為組合的選項(xiàng)。

選擇困難癥患者看到后，趕緊喝了一口咖啡，壓壓驚。

亞馬遜云員工也談到，這種做法能夠?qū)⒃朴?jì)算微服務(wù)架構(gòu)擴(kuò)展到硬件，方便“創(chuàng)新API”。

2017年的時(shí)候，愛看熱鬧的人，圍觀神龍MOC卡，但，萬萬沒有想到，圍觀的就是DPU。

一位阿里云異構(gòu)計(jì)算團(tuán)隊(duì)的員工私下里告訴我：“MOC可以理解為一臺(tái)小服務(wù)器。物如其名，卡上微系統(tǒng)（Micro-servicer On Chip）。但是，2021年，我們對(duì)外口徑統(tǒng)一用神龍芯片，不叫MOC卡?！?/p>

阿里云員工還說：“對(duì)于神龍芯片的細(xì)節(jié)，公司希望對(duì)外少談。有不少人，在打聽?！?/p>

2021年10月20日，神龍推出第四代，江湖人稱神龍4.0。

比起第三代神龍，關(guān)鍵性能指標(biāo)提升了多少呢？

說兩個(gè)關(guān)鍵的，網(wǎng)絡(luò)關(guān)鍵性能指標(biāo)提升一倍以上，存儲(chǔ)關(guān)鍵性能指標(biāo)提升兩倍。神龍4.0全球首次搭載大規(guī)模彈性RDMA高性能網(wǎng)絡(luò)，網(wǎng)絡(luò)延遲整體大幅降低。

RDMA作為網(wǎng)絡(luò)通信技術(shù)，不是一個(gè)新技術(shù)，但是，阿里云彈性RDMA，讓RDMA這項(xiàng)技術(shù)，從高性能計(jì)算（HPC）這個(gè)小眾領(lǐng)域，走向公有云。

曾經(jīng)RDMA大規(guī)模組網(wǎng)的能力，是整個(gè)業(yè)界都解決不了的問題。

彈性RDMA將對(duì)云原生微服務(wù)、無服務(wù)計(jì)算應(yīng)用的性能提升大有幫助，甚至是Java 中用Netty網(wǎng)絡(luò)編程框架的應(yīng)用程序，都會(huì)從中受益。

2021年的秋天，張獻(xiàn)濤說：“神龍芯片是目前業(yè)界最出色的DPU，沒有之一?！?/p>

DPU要才華有才華，要顏值有顏值，但是還有“兩大怪”。

一大怪，亞馬遜云和阿里云的DPU，不外賣。DPU作為專用芯片，不要你懂，只要自己懂自己。

另一大怪，不少云計(jì)算廠商，一提自研DPU，就說拜拜。何況青云和UCloud上市了，也都在虧損。更何況，造DPU，怎么著，得拍出三個(gè)億人民幣來。

村口的土墻上，刷上了白底紅漆的廣告語：DPU，早擁有，早致富。DPU，保安全。DPU，隔離好。DPU，省大錢。

一定得用，又沒錢自研，可以用英偉達(dá)的DPU呀。2020年，英偉達(dá)69億美金收購Mellanox，劍指DPU。

可惜不是“量體裁衣”，用起來不稱手，很痛苦。有專家毫不留情地批評(píng)，對(duì)英偉達(dá)現(xiàn)有的feature（功能），都不滿意。

樹上葉子，綠了又黃，云計(jì)算廠商給博通公司提交的工單，在排隊(duì)。北風(fēng)吹來，枝頭禿禿，工單仍在排隊(duì)。

阿里云和亞馬遜云的DPU都是2017年發(fā)布的。事隔多年，有沒有哪家云廠商跟上了？

眾人搖頭，鴉雀無聲。

亞馬遜云和阿里云則可能會(huì)說：“原諒我，沒忍住，笑出了聲”。

非公開產(chǎn)品市場(chǎng)，急需“消息靈通人士”。

巧了，有一家著名的國內(nèi)云廠商，跑到客戶那里宣（吹）傳（牛），DPU不就是智能網(wǎng)卡嘛，我廠2012年就有了，比神龍和Nitro快多了。

懂行的客戶發(fā)出靈魂一問，瞬間“社死”現(xiàn)場(chǎng)。“你家DPU果真如此，那你為什么不用？”

又巧了，笑傲江湖的轉(zhuǎn)身，余下的DPU產(chǎn)品，要么停留在“并不怎么好用”的水平上。

要么只摸索著做了個(gè)原型出來，停留在驗(yàn)證概念（Proof of concept）的水平上。

中國男足，笑了笑說，抱歉，打不開局面。球迷火了：“花了這么多錢，你想說重在參與？”

太巧了，有人告訴“親愛的數(shù)據(jù)”，多家公司暗地里派出員工，天天找阿里云的人套話，這個(gè)為啥這樣做，那個(gè)接口為什么這么設(shè)計(jì)。

芯片的水很深，總會(huì)從供應(yīng)鏈拿到一些“內(nèi)部消息”，還有一家云廠商抄了好幾年，像素級(jí)別地抄，也沒有抄出個(gè)像樣的。

更糟糕的是，規(guī)模越做越大，快撐不下去了。那些有DPU的云廠商，熱升級(jí)，多Happy，迭代速度嗖嗖滴。

那些沒有DPU的云廠商，可慘了，聽說其中一家，得一個(gè)月重啟一次服務(wù)器。

DPU是朋友圈凡爾賽的神器。

云廠商發(fā)朋友圈，祝友商早日建成世界一流DPU。意識(shí)到友商已經(jīng)建成世界一流DPU，默默刪掉上一條朋友圈。

Fungible公司在朋友圈寫下，2019年，我們定義了DPU。樓下評(píng)論：“公司挺值錢，軟銀愿景基金大手筆投了?！?/p>

可惜，產(chǎn)品做得一般，對(duì)云計(jì)算的理解不到位，無法向其評(píng)論豎大拇指。

英特爾坐不住了，發(fā)布了IPU基礎(chǔ)設(shè)施處理器，來表達(dá)對(duì)“DPU”這件事情不同的看法。希望朋友圈獲得高贊。

云廠商樓下依次排隊(duì)點(diǎn)贊，但內(nèi)心唏噓不已，DPU的世界，英特爾也不能一聲令下“一統(tǒng)江湖”了。

投資DPU，至少有兩個(gè)“不投”。

一不投，那些不熟悉云業(yè)務(wù)的需求的團(tuán)隊(duì)。

二不投，那些對(duì)軟硬件融合部分理解得比較粗淺的團(tuán)隊(duì)。

可惜，投資DPU這潭水，沒有水最混，只有水更混。

DPU身上有兩樁著名的冤案。在沒有DPU之前，SmartNIC（一種智能網(wǎng)卡）先一步問世，給網(wǎng)絡(luò)減負(fù)。

第一印象最深刻。所以，有些人至今誤認(rèn)為，DPU就是SmartNIC。SmartNIC是對(duì)網(wǎng)絡(luò)進(jìn)行加速，但解決的問題比DPU小多了。

這時(shí)候，ETC自動(dòng)抬杠機(jī)（精）上線了：“你就回答我，DPU最基本的功能是不是一張網(wǎng)卡 ”

哪怕是人民群眾，都對(duì)新聞里的“5G”“千兆光纖”耳熟，更別說工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)。

對(duì)網(wǎng)絡(luò)的要求越來越高了，云計(jì)算的網(wǎng)絡(luò)帶寬從主流的10Gbps，閉著眼睛，就朝著100 Gbps一路狂奔。

可惜的是，DPU雖然能給網(wǎng)絡(luò)幫上忙，但不是智能網(wǎng)卡。當(dāng)一個(gè)產(chǎn)品已有翻天覆地的變化，我們不妨叫它的新名字。

遺憾的是，沿著智能網(wǎng)卡的道路一意孤行，永遠(yuǎn)也到達(dá)不了DPU的綠洲。不過，在“2021年智能網(wǎng)卡峰會(huì)”上大談特談DPU，也是特定時(shí)期的特色。

所有誤解，皆是云煙。

“智能網(wǎng)卡是不是DPU的必經(jīng)之路？先一步造智能網(wǎng)卡，做扎實(shí)了再做DPU這種思路，您怎么樣理解？”

電子工業(yè)出版社出版的《軟硬件融合：超大規(guī)模云計(jì)算架構(gòu)創(chuàng)新之路》一書的作者，原UCloud（優(yōu)刻得）云計(jì)算廠商芯片及硬件研發(fā)負(fù)責(zé)人黃朝波這樣認(rèn)為：

“站在功能的層次，肯定是從簡(jiǎn)入繁的過程，這個(gè)說法是對(duì)的?！?/p>

轉(zhuǎn)折之后，往往是重點(diǎn)。

“站在實(shí)現(xiàn)的角度，這個(gè)說法，值得商榷。智能網(wǎng)卡的路子，往往跟著英偉達(dá)（NVIDIA）的做法，先NIC，再SmartNIC，再SOC。網(wǎng)絡(luò)功能的實(shí)現(xiàn)，是定制ASIC（專用集成芯片）。然而，亞馬遜云和阿里云‘沒走尋常路’。從一開始，就只有CPU來實(shí)現(xiàn)，再逐步加入各種加速?？傊?，這條DPU的演進(jìn)之路是，從CPU到DPU?！?/p>

正如前文所述，亞馬遜云和阿里云是相同的技術(shù)方向，走法卻不同。

你品，你細(xì)品：英偉達(dá)的技術(shù)路線是從定制加速，到通用。這和亞馬遜云和阿里云那種，從通用到加入定制，完全是兩個(gè)相反的技術(shù)演進(jìn)方向。

另一個(gè)冤案，是按字面意思理解DPU。果然不能僅看表面。

DPU的全名，叫Data Processing Unit，是數(shù)據(jù)處理器。自賽博開天辟地，就有數(shù)據(jù)。CPU不能處理數(shù)據(jù)嗎？GPU不能嗎？既然不是，那憑啥就你叫數(shù)據(jù)處理。

CPU和GPU攥緊了拳頭，強(qiáng)忍著扇耳光子的沖動(dòng)嚷嚷：“今天，誰來都不好使。”

更別說，《數(shù)據(jù)安全法》砸得門板咚咚直響：“臨時(shí)檢查，聽說，你們這里有數(shù)據(jù)，還是底層數(shù)據(jù)？”

這樣下去，保安拉起黃色警戒帶，場(chǎng)面恐怕要失控。冤案掩蓋了難點(diǎn)。

DPU是軟件定義硬件，是用硬件適配軟件做加速，想懂DPU，要懂很多東西：芯片，系統(tǒng)軟件，計(jì)算機(jī)體系結(jié)構(gòu)，云計(jì)算服務(wù)，虛擬化。

兩個(gè)云廠商的成功故事，也淡化了難點(diǎn)。

投資人常聽人說：“阿里云和亞馬遜云的DPU都造出來了，留給創(chuàng)（中）業(yè)（國）者（隊(duì)）的時(shí)間不多了?！?/p>

2021年，一堆國產(chǎn)DPU公司接二連三拿到融資。

雙手一伸，數(shù)一下，云豹智能、益思芯、合肥邊緣智芯、星云智聯(lián)、青云半導(dǎo)體、大禹智芯、中科馭數(shù)、芯啟源、深存智能等。

DPU創(chuàng)業(yè)企業(yè)，存在于北京、上海、珠海等地。公開工商資料上可查的是，互聯(lián)網(wǎng)大廠也已刷刷出手：騰訊投資，云豹智能。美團(tuán)投資，星云智聯(lián)。字節(jié)投資，云脈芯聯(lián)。

DPU的利好點(diǎn)很多，中國的云計(jì)算市場(chǎng)，是一個(gè)多云的市場(chǎng)。比如電信云為代表的行業(yè)云出現(xiàn)后，金融云、物流云等更多的行業(yè)云逐步涌現(xiàn)。甚至?xí)小暗胤皆啤薄澳彻倭挪块T云”。頭部的云計(jì)算廠商，不是DPU唯一的客戶。

再者，中國計(jì)算機(jī)學(xué)會(huì)專家曾估計(jì)，用于數(shù)據(jù)中心的DPU的量將達(dá)到和數(shù)據(jù)中心服務(wù)器等量的級(jí)別，每年以千萬級(jí)新增，算上存量的替代，5年總體的需求將突破兩億枚。

這一下就超過獨(dú)立GPU卡的需求量。

甚至可以說，一臺(tái)服務(wù)器可能沒有GPU，但不能沒有DPU。

好比酒店每個(gè)房間都要有WIFI，否則前臺(tái)客服電話就會(huì)被打爆。

實(shí)際上，小眾且專精的關(guān)鍵技術(shù)，難以一窺其全貌。

DPU存在的本質(zhì)，是解決傳統(tǒng)虛擬化應(yīng)用到云計(jì)算中的諸多問題的。因?yàn)樵缙诘奶摂M化技術(shù)更多用在桌面系統(tǒng)，把傳統(tǒng)的用在桌面上的虛擬化直接搬來用，用起來不順手。

DPU設(shè)計(jì)的本質(zhì)和虛擬化緊密相關(guān)，是為了解決虛擬化帶來的“糟心事兒”（性能、資源、隔離方面等等）。

簡(jiǎn)單地說，虛擬化主要分成四種：CPU虛擬化，內(nèi)存虛擬化，網(wǎng)絡(luò)虛擬化，存儲(chǔ)虛擬化。唯有DPU才是從根本上解決傳統(tǒng)虛擬化應(yīng)用到數(shù)據(jù)中心里面存在的缺陷的最后一站。

英特爾VT-x，只解決CPU虛擬化和內(nèi)存的問題。網(wǎng)絡(luò)虛擬化和存儲(chǔ)虛擬化的問題是個(gè)歷史遺留問題，一直沒有得到有效的解決，尤其在云計(jì)算場(chǎng)景里。功能上能實(shí)現(xiàn)，但是性能、可擴(kuò)展性、隔離性老是處理不好。

部分問題解決了，其他的怎么辦？

DPU來解決“其他的”，也就是說，DPU是解決虛擬化短板的最后一站。DPU是瞄準(zhǔn)了云計(jì)算里硬件虛擬化的真實(shí)痛點(diǎn)來做的。

這么強(qiáng)，那DPU到底都牽扯哪些技術(shù)？

這么說吧，因?yàn)樯婕暗募夹g(shù)領(lǐng)域非常之廣，阿里云彈性計(jì)算負(fù)責(zé)人張獻(xiàn)濤說：“為了神龍芯片，我?guī)缀鮿?dòng)員了阿里云全線的一流專家?！?/p>

可能在一些造CPU的人的眼里，造DPU比較簡(jiǎn)單。我CPU這么復(fù)雜都能造，玩轉(zhuǎn)DPU算降維打擊。

可是，DPU真的好造嗎？

如果不懂虛擬化，不懂系統(tǒng)軟件，不懂云計(jì)算的場(chǎng)景，光懂芯片就想做DPU，那么可以送出五個(gè)黑體大字：無知者，無畏。

DPU是多流派技術(shù)的集大成者，有軟件，有硬件，有計(jì)算，有網(wǎng)絡(luò)，有存儲(chǔ)，有虛擬化，有安全，有加速器，有驅(qū)動(dòng)，有框架，有應(yīng)用，精粹交織。

也許有一天，DPU會(huì)號(hào)令CPU。

最后，讓我們?yōu)槟切┱嬲募夹g(shù)革命者，起身致敬，鼓掌歡呼。

畢竟一次局部技術(shù)革命，可比一場(chǎng)球賽更帶勁兒。

“帶球隊(duì)員距球場(chǎng)小禁區(qū)還有幾步之遙，隊(duì)友在不遠(yuǎn)處大喊，傳中！傳中！守門員面色一動(dòng)，似乎在猶豫。抓住機(jī)會(huì)，小角度大力抽射，破門！”

“還愣著干啥，進(jìn)球了，鼓掌啊?！?/p>