近日,2022世界人工智能大會在上海舉行。本屆大會以“智聯(lián)世界,元生無界”為主題,探討了人工智能新技術(shù)、元宇宙,以及這些新賽道的融合場景及應(yīng)用。
隨著人工智能崛起,高通在人工智能領(lǐng)域積極布局,不僅包含人工智能芯片,還包括諸多軟件層面的應(yīng)用以及開發(fā)平臺,全面賦能人工智能行業(yè)。
“元宇宙是互聯(lián)網(wǎng)的未來,也就是空間互聯(lián)網(wǎng)”。作為高通公司的總裁兼首席執(zhí)行官,帶著對行業(yè)的深刻洞察,安蒙對元宇宙抱有非常樂觀的看法。
誠然,元宇宙幾乎能夠為各個行業(yè)帶來變革,因為它是一種全新的體驗。設(shè)想一下,在一個多維的虛擬世界中,它提供了高度沉浸式、可定制化,同時模糊了物理世界與數(shù)字世界的新體驗,這會發(fā)生什么?
以零售行業(yè)為例,基于元宇宙打造的全新空間以及顛覆式的體驗,會帶來更高的客戶忠誠度;在開發(fā)端,數(shù)字孿生會在元宇宙中越來越普及,產(chǎn)品研發(fā)、藥物治療效果、商業(yè)飛機(jī)性能監(jiān)測等等領(lǐng)域都能看到它的影子。
高通公司總裁兼首席執(zhí)行官安蒙
不妨再將腦洞打開的更大一些,藝術(shù)領(lǐng)域能否與元宇宙碰撞呢?在沉浸式虛擬空間里,設(shè)計師、音樂家同樣能夠以全新的方式與受眾溝通。如今,雖然我們能夠想象到多種多樣的元宇宙應(yīng)用案例,但安蒙在演講中也提到,“元宇宙如何影響和改變行業(yè)、人們的生活,我們目前的理解只是冰山一角”。
沿著這樣的邏輯,我們不免會問,元宇宙的未來是星辰大海,那么,入口在哪里呢?
這正是問題的關(guān)鍵,我們需要入口,它是連接物理世界和數(shù)字世界的通道。XR擴(kuò)展現(xiàn)實設(shè)備、增強(qiáng)現(xiàn)實、虛擬現(xiàn)實設(shè)備以及幾乎人手一部的智能手機(jī),甚至個人電腦都可以成為“入口”。
智能手表、智能家居等終端會成為元宇宙的物理鏈路。隨著網(wǎng)聯(lián)終端數(shù)量的持續(xù)增長,萬物互聯(lián)逐步實現(xiàn)。這些終端產(chǎn)生的數(shù)據(jù)將會反哺、助力構(gòu)建元宇宙,元宇宙進(jìn)一步完善,再促進(jìn)不同形態(tài)的終端出現(xiàn),如此構(gòu)成了一個螺旋上升的曲線。
終端也好,入口也罷,它們有一個共同的稱呼——邊緣側(cè)。邊緣側(cè)技術(shù)對元宇宙的發(fā)展至關(guān)重要。做個比喻,如果元宇宙是一個巨大的倉庫,邊緣側(cè)技術(shù)不突破,也只能望洋興嘆,倉庫只能看,不能用。
為了進(jìn)一步闡述這個問題,需要引出兩個概念加以對比:邊緣端和云端。云端的技術(shù)包括云計算、云端芯片,它的特點是性能強(qiáng)大。而邊緣端(邊緣芯片、邊緣計算、邊緣人工智能)的特點是使用場景眾多,而且不同場景對能耗也有需求。由此可以理解,邊緣端技術(shù)的部署更加復(fù)雜,同樣一個功能,放在智能手表上沒問題,如果轉(zhuǎn)移到手機(jī)上,很可能要重新設(shè)計一遍。
所以,為何不把所有的邊緣端的計算全部移到云端,借助云端強(qiáng)大的芯片徹底解放邊緣端呢?
對此我們只能說,“想法很好,但可能做不到”。
首先,云計算面臨帶寬不足的問題。雖然全球都在談5G,但實際情況是網(wǎng)絡(luò)傳輸?shù)乃俣群茈y趕上數(shù)據(jù)增長的速度,網(wǎng)絡(luò)傳輸是一個大問題。以無人駕駛汽車為例,高速行駛情況下,其響應(yīng)時間需要達(dá)到毫秒級,此時任何網(wǎng)絡(luò)延遲都會造成嚴(yán)重后果。
另一個例子,波音787飛機(jī)每秒鐘產(chǎn)生5GB數(shù)據(jù),但是飛機(jī)與衛(wèi)星之間的傳輸速度無法處理如此大的數(shù)據(jù)量,把所有數(shù)據(jù)都交給云端處理、再返回明顯不現(xiàn)實。此時,就不難理解邊緣側(cè)技術(shù)為何如此重要了——當(dāng)數(shù)據(jù)可以在本地(終端)處理,再與云端交互,那么以上問題就會迎刃而解。
第二,邊緣側(cè)技術(shù)更加穩(wěn)定可靠。一個經(jīng)常用的案例是,當(dāng)沒有網(wǎng)絡(luò),而家里門鎖需要人臉識別打開,數(shù)據(jù)又存放在云端,此時只能等待了。但如果智能門鎖使用的是邊緣人工智能,部署邊緣芯片,即便沒有網(wǎng)絡(luò)也不耽誤掃臉開門,這便是可靠性。
第三點是安全原因。對于某些數(shù)據(jù),用戶不愿意放在云端,存儲在本地更加放心。
至此,元宇宙、邊緣側(cè)技術(shù)和人工智能就產(chǎn)生了關(guān)聯(lián)。在未來,終端(邊緣側(cè))使用的人工智能芯片,具備的算力,幾乎完全決定了用戶體驗。這便是我們不厭其煩的強(qiáng)調(diào)“邊緣創(chuàng)新”的原因。用高通總裁兼首席執(zhí)行官的說法就是,“人工智能對于塑造用戶體驗至關(guān)重要,因為元宇宙需要學(xué)習(xí)和適應(yīng)不斷變化的環(huán)境及用戶偏好”。
也許正是深刻洞察到了這一點,高通一直在終端智能領(lǐng)域發(fā)力,積極賦能各類廠商、開發(fā)者。
經(jīng)過十多年在人工智能領(lǐng)域的深耕,高通已經(jīng)成為終端智能領(lǐng)域的全球領(lǐng)軍企業(yè)。幾乎已經(jīng)是家喻戶曉的“驍龍XR”平臺,就是專門為滿足空間互聯(lián)網(wǎng)需求而設(shè)計。作為先進(jìn)的邊緣側(cè)平臺,目前已經(jīng)有超過50款基于驍龍XR的商用設(shè)備發(fā)布。齊亞德·阿斯加爾(Ziad Asghar)是高通公司產(chǎn)品管理副總裁,在他看來,人工智能是一種水平化賦能技術(shù),能夠應(yīng)用于驍龍支持的各個領(lǐng)域,比如把人工智能用于語音、音頻。
前文提到,邊緣側(cè)人工智能既要良好的計算性能,又對功耗有更高的要求,畢竟它不是云計算中心。而就在去年底,第七代高通人工智能引擎推出,在性能-功耗能效上實現(xiàn)了新突破。根據(jù)阿斯加爾介紹,從第六代高通人工智能引擎到第七代,在相同功耗下人工智能能力提升了一倍。Hexagon處理器作為第七代人工智能引擎的核心組成部分,它由標(biāo)量、張量和矢量加速器組成,并且三個加速器享用統(tǒng)一的共享內(nèi)存,根據(jù)報道,第七代人工智能引擎推理速度比上一代提高了3倍。
在邊緣側(cè)部署人工智能,面臨的另一個難題是終端種類繁雜,并且某些時候需要協(xié)同工作。比如智能耳機(jī)和智能手機(jī)。不同終端,其運行要求的性能、功耗大不相同,因此解決方案必須要支持從500毫瓦~15瓦特、甚至200瓦特功耗區(qū)域。另一方面,不同終端產(chǎn)品所需的深度學(xué)習(xí)架構(gòu)差異也非常大。比如面向移動領(lǐng)域可能需要使用生成模型,面向計算領(lǐng)域需要使用Transformer模型,面向汽車ADAS需要激光雷達(dá)模型。與此同時,特性需求也大不相同。汽車和XR需要不同的并發(fā)環(huán)境,因為它們需要支持更多的并發(fā)場景。此外,所需數(shù)據(jù)類型也截然不同。
在這種情況下,高通的硬件是如何解決問題的?
通過調(diào)整Hexagon處理器內(nèi)的加速器和內(nèi)存組件,拼接多個Hexagon處理器,比如面向計算、云端、邊緣和汽車領(lǐng)域擴(kuò)展時,可以通過更多Hexagon處理器協(xié)同工作以擴(kuò)展提升性能。這帶來的好處是,產(chǎn)品既可以面向毫瓦級功耗需求,也可以面向微瓦級功耗需求。隨著高通將其引入更多高性能終端,上述功耗優(yōu)勢能夠規(guī)?;瘮U(kuò)展,形成驍龍的獨特優(yōu)勢。
上文所列都是高通利用其硬件優(yōu)勢賦能邊緣側(cè)的創(chuàng)新舉措。另一方面,相對于硬件,高通不久前發(fā)布了重磅產(chǎn)品——人工智能軟件棧。該產(chǎn)品的出現(xiàn),有望打破傳統(tǒng)的人工智能開發(fā)模式。
多場景、多終端開發(fā)始終是在邊緣側(cè)部署人工智能的瓶頸。同一個功能需要在不同終端下重復(fù)開發(fā),不僅是消耗開發(fā)人員的精力,同時限制了它們的創(chuàng)造力,因為更多的時間本可以用來專注產(chǎn)品創(chuàng)新。但是人工智能軟件棧的出現(xiàn)顛覆了這一老舊開發(fā)模式。
作為人工智能開發(fā)“全家桶”,一言以蔽之,人工智能軟件??梢詫崿F(xiàn)“一次開發(fā),多終端使用”。
這款產(chǎn)品覆蓋了當(dāng)前高通所有產(chǎn)品線,支持所有框架。包含TensorFlow Micro、Tensor Flow、Pytorch和ONNX。支持所有人工智能runtimes,包括高通神經(jīng)網(wǎng)絡(luò)處理SDK和高通人工智能引擎Direct。
人工智能軟件棧能夠讓用戶可以根據(jù)實際需求進(jìn)行模型開發(fā)和優(yōu)化。例如,在智能手機(jī)領(lǐng)域開發(fā)的軟件可以便捷地擴(kuò)展至物聯(lián)網(wǎng)或任何其他產(chǎn)品線。
除了在硬件、軟件上賦能開發(fā)者,高通還在模型壓縮技術(shù)上投入、從神經(jīng)網(wǎng)絡(luò)中移除冗余部分、打造更先進(jìn)的編譯技術(shù)等等。這些工作,有助于提高模型能效,幫助客戶建立優(yōu)勢。
通過使用人工智能模型增效工具包的無數(shù)據(jù)量化功能,模型僅損失不到1%的精度,就能夠?qū)⑵鋸腇P32模型轉(zhuǎn)化為INT8模型,能效提升16倍。
通過與谷歌就Google Vertex人工智能解決方案的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索展開合作,在移動端的自然語言處理方面,高通在不影響精度的情況下將時延降低了13%。此外,其還將汽車領(lǐng)域中的物體檢測這一功能,時延改善13%,并且精度提升1.3%,對于特定的汽車應(yīng)用場景,這是巨大的優(yōu)勢。
在人工智能領(lǐng)域,大眾對邊緣側(cè)技術(shù)了解較少,反而更多關(guān)注點在云端。這主要是因為終端場景太多,和用戶太近,反而產(chǎn)生了“只緣身在此山中”效果。然而,從全球市場來看,僅是邊緣人工智能芯片這個領(lǐng)域,大有超過云芯片市場的趨勢。
全球技術(shù)市場咨詢公司ABI Research的數(shù)據(jù)顯示,預(yù)計到2025年,邊緣人工智能芯片組市場的收入將達(dá)到122億美元,云人工智能芯片組市場的收入將達(dá)到119億美元。邊緣人工智能芯片組市場將超過云人工智能芯片組市場。
隨著人工智能技術(shù)的發(fā)展和在各行各業(yè)的應(yīng)用普及,企業(yè)需要解決越來越多有關(guān)的數(shù)據(jù)隱私、電源效率、低延遲和強(qiáng)大的設(shè)備上計算性能等問題,而這些“難題”,成為了推動邊緣側(cè)創(chuàng)新的原動力。
高通公司總裁兼首席執(zhí)行官之所以敢說“高通和驍龍,已成為通往元宇宙的鑰匙”,一定程度上是基于高通在邊緣側(cè)人工智能這一元宇宙入口多年的深耕和布局,驍龍平臺和一系列賦能人工智能的硬件、軟件工具,正在賦能其他廠商、合作伙伴以及開發(fā)者,提高他們的開發(fā)效率和創(chuàng)新能力。