加速邊緣人工智能落腳物聯(lián)網(wǎng)　淺談英特爾攜云圖睿視發(fā)布全新算法商城暨張宇博士專訪

如今人工智能已經(jīng)在我們身邊得到越來越多的應(yīng)用，特別是物聯(lián)網(wǎng)領(lǐng)域，人工智能的這一輪發(fā)展正在推動各個行業(yè)新生態(tài)、新應(yīng)用的落地，特別是視頻和圖像處理領(lǐng)域，人工智能獲得了最大的應(yīng)用前景：比如零售領(lǐng)域常用到的刷臉支付，交通領(lǐng)域用到的車牌識別，包括前幾年在圍棋上挑戰(zhàn)人類的AlphaGo，AlphaGo實際上也是將圍棋的棋盤看成了一個19×19的圖片，把這個圖片送到卷積神經(jīng)網(wǎng)絡(luò)里進行處理，來得到下一步行棋策略。視頻和圖像處理領(lǐng)域之外，語言處理領(lǐng)域也是另一個被人工智能大力推動的應(yīng)用場景，用人工智能技術(shù)進行自然語言處理如今在很多行業(yè)都得到了應(yīng)用。

今天我們?nèi)詫⑼ㄟ^英特爾，以及英特爾的合作伙伴成都云圖睿視科技有限公司（以下簡稱“云圖睿視”）的視角來審視行業(yè)的發(fā)展：比如他們?nèi)绾慰创苿颖据喨斯ぶ悄馨l(fā)展的根本力量;比如人工智能在邊緣上將以何種方式前進;還包括當前邊緣計算發(fā)展上遇到的瓶頸。除此之外，我們還將談及云圖睿視發(fā)布最新的算法商城解決方案到底有何意義。為此，我們特別專訪了英特爾公司物聯(lián)網(wǎng)事業(yè)部中國區(qū)首席技術(shù)官及高級首席工程師張宇博士和成都云圖睿視科技有限公司CEO孟瑩。

推動本輪人工智能發(fā)展的根本力量

在英特爾看來，對于本輪人工智能發(fā)展的核心要素主要有兩個，一是有了極大提升，二是有了大量的可供訓練的數(shù)據(jù)。一直以來，英特爾都處于掌握算力的最高峰上，特別是隨著摩爾定律的推動，算力在各個領(lǐng)域得到了極大的提升。

張宇博士提及：“擁有更多算力，就可以使我們在更短時間內(nèi)完成一個神經(jīng)網(wǎng)絡(luò)模型訓練，我們也可以去處理一個更加復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型。這樣就可以極大拉近人工智能技術(shù)和商業(yè)訴求之間的距離，推動人工智能技術(shù)發(fā)展，這是我們認為的第一個核心要素?！?/p>

如今各行和業(yè)都認同“數(shù)據(jù)即石油”的說法我們?yōu)g覽的網(wǎng)頁的習慣、我們行動的軌跡，乃至各個交通、工業(yè)、醫(yī)療等各行業(yè)每天產(chǎn)生的巨大數(shù)據(jù)，都擁有巨大的價值。如果說石油喂養(yǎng)內(nèi)燃機成就了第二次工業(yè)革命，那么數(shù)據(jù)同樣也是人工智能的養(yǎng)料——目前來看，人工智能技術(shù)網(wǎng)絡(luò)的訓練都是靠數(shù)據(jù)“喂”出來的，而且是海量的數(shù)據(jù)，從某種角度來說，用于訓練的數(shù)據(jù)越多，人工智能越成熟。在AlphaGo之后，科學家便通過世界人工智能圍棋大賽提升人工智能水平，其原因便是通地不同模型的對撞產(chǎn)生更多數(shù)據(jù)來訓練人工智能在圍棋上的水平。

如今數(shù)據(jù)越來越多，這需要足夠強大的存儲技術(shù)以及通信技術(shù)來支撐，特別是正在普及的5G技術(shù)，帶來了大的傳輸帶寬，更低的網(wǎng)絡(luò)傳輸延遲，使數(shù)據(jù)更容易獲取，更快地在各個節(jié)點間傳遞 ?！罢窃谟嬎?、通訊、存儲方面能力的不斷提升，才真正意義上推動了本輪人工智能的發(fā)展，所以我認為這是最核心的要素。”張宇博士的說法正印證了英特爾看待人工智能的方向。

英特爾計算、通訊、存儲三方面都擁有強大的技術(shù)實力，比如英特爾擁有CPU、GPU、FPGA、VPU等不同構(gòu)架的芯片技術(shù)，英特爾近期發(fā)布的第三代至強可擴展處理器便支持豐富的人工智能指令集DL Boost。利用這樣一些處理器指令集可以更加方便地把像圖像分類、推薦引擎或自然語言處理等人工智能訓練和推理更方便地部署在通用服務(wù)器平臺上。;而且從3G到5G，英特爾不提出自己的國際標準，而且還推出了面向5G無線基站的SoC芯片;存儲領(lǐng)域，英特爾則推出了3D XPoint（傲騰技術(shù)）。該技術(shù)擁有高存儲密度和高讀寫速度，提供更為方便、低價的數(shù)據(jù)存儲解決方案。

邊緣人工智能發(fā)展的方向

隨著人工智能技術(shù)在邊緣計算及物聯(lián)網(wǎng)領(lǐng)域得到了越來越廣泛的應(yīng)用，英特爾等廠商已經(jīng)開始利用人工智能技術(shù)在邊緣進行一些圖像處理工作，比如在工廠中利用邊緣視覺技術(shù)檢測攝像頭攝取的一些工件表面形態(tài)，以確認里面是否帶有一些缺陷。這實際上是通過數(shù)據(jù)中心里強大的算力，以及積累的大量數(shù)據(jù)去訓練一個網(wǎng)絡(luò)模型，把這個訓練的結(jié)果最終推送到邊緣進行推理。

這種邊緣推理模式并非完美，其最大弊端就是邊緣端對模型更新的頻率實際是有一定的限制的，這一模式下不可能動態(tài)、頻繁、實時、自適應(yīng)地調(diào)整這樣一個網(wǎng)絡(luò)模型，所以需要引入邊緣訓練。如今廢品回收行業(yè)現(xiàn)在已經(jīng)開始用機械臂去做廢品分揀，但是由于廢品形態(tài)很多，我們不可能用一個固定模型去涵蓋所有廢品形態(tài)，這就需要不斷根據(jù)新采集的數(shù)據(jù)去做動態(tài)訓練、增量訓練，不斷完善這個模型，使這個模型更適應(yīng)新進來的物品。所以邊緣人工智能的發(fā)展下一個階段一定會在邊緣訓練上發(fā)生。

張宇博士認為，邊緣訓練也不是邊緣人工智能發(fā)展的最高階段。從物聯(lián)網(wǎng)的發(fā)展階段來看，它需要經(jīng)過“互聯(lián)網(wǎng)—智能—自主”三個階段，最高階段“自主”便 是一個系統(tǒng)能夠感知使用者的意圖（也就是人的意圖），并且根據(jù)這個意圖自主進行調(diào)整。反映到人工智能方面，同樣也需要人工智能系統(tǒng)擁有自主能力能夠自主根據(jù)使用場景、使用意圖去設(shè)計適宜的人工智能網(wǎng)絡(luò)結(jié)構(gòu)。再利用它所收集到的數(shù)據(jù)主動分析、訓練一個合適的網(wǎng)絡(luò)模型，然后將這個網(wǎng)絡(luò)模型用于最終推理。

“所以我們認為，邊緣人工智能下一個發(fā)展階段就是自主學習階段。邊緣人工智能的發(fā)展會沿著邊緣推理，再到邊緣訓練，再到自主學習這樣三個階段的軌跡來進行發(fā)展?！睆堄畈┦恐苯雨U述了自己對邊緣人工智能的看法。不僅如此，他還提及了英特爾在邊緣人工智能方面推出的一系列硬件和軟件產(chǎn)品，比如Movidius第二代芯片Myriad X，可以提供2W的功耗及1T的算力，在攝像機有限的功耗中高清視頻計算的需求;另外利用神經(jīng)計算棒翻譯筆、智能門鎖，比如通過高性能通用處理器以及專用人工智能加速模塊與云圖睿視一起打造的AI-Box產(chǎn)品。在這些硬件基礎(chǔ)上，英特爾還提供了各種軟件：包括OpenVINO、Open Model Zoo，以及圍繞軟硬件進行的測試調(diào)優(yōu)工作。

針對物聯(lián)網(wǎng)垂直行業(yè)的需求，英特爾還提供了一些重點行業(yè)參考設(shè)計，英特爾統(tǒng)稱為“邊緣洞見軟件”（如針對工業(yè)、零售及視頻的邊緣洞見軟件等）。這些邊緣洞見軟件的作用類似于一個行業(yè)的PaaS，解決這些行業(yè)的共性問題，比如如何收集、解析這個行業(yè)的數(shù)據(jù)，如何在內(nèi)部進行分發(fā)、分析、存儲等這些共性問題。另外，邊緣洞見軟件包也能幫助行業(yè)解決方案快速部署在英特爾硬件平臺上，實現(xiàn)應(yīng)用的快速部署和落地。

與合作伙伴共同構(gòu)建物聯(lián)網(wǎng)和邊緣人工智能的生態(tài)鏈

為了構(gòu)建物聯(lián)網(wǎng)和邊緣人工智能的生態(tài)鏈，英特爾與生態(tài)合作伙伴展開了廣泛的合作，不僅全球與超過1200個合作伙伴有密切合作，還一起發(fā)布了超過300個邊緣計算解決方案，服務(wù)于智慧城市、智慧醫(yī)療、智慧零售、智慧工業(yè)等不同垂直行業(yè)，而且這些解決方案在超過了一萬個用戶當中得到了廣泛推廣。其中，英特爾與云圖睿視的合作就非常有意義。

作為推動邊緣計算發(fā)展的重要技術(shù)，人工智能正在強有力地加持邊緣計算負載整合和算力提升，但這一過程并不容易。以中國多達27.6億個攝像頭以例，它們分布在成千上萬的細分行業(yè)內(nèi)，但并沒有足夠資源能夠?qū)崟r查看和分析眾多攝像頭產(chǎn)生的海量數(shù)據(jù)，整個市場急需AIoT技術(shù)幫助人們對海量攝像頭數(shù)據(jù)進行采集和分析，進而產(chǎn)生有益的洞察。

為此，英特爾聯(lián)合云圖睿視發(fā)布的算法商城解決方案，通過通用算法應(yīng)用部署的方式，能夠極大提升算法模型的部署速度，并幫助算法供應(yīng)商和算法集成商快速驗證算法和業(yè)務(wù)匹配程度。整個解決方案共包含：人工智能邊緣計算終端（AI-Box）、Beacon OS（邊緣操作系統(tǒng)）和AI Store（算法商城）。其中云圖睿視AI-Box是一套基于英特爾第11代酷睿處理器（Tiger Lake）推出的標準算力平臺，提供4路視頻流的實時分析和最大8個算法模型的同時運行;Beacon OS則整合了英特爾OpenVINO、SVET等框架，能夠為AI運行提供系統(tǒng)級的標準支撐;最有意思莫過于AI Store，它將各類算法模型的集合放在一個標準的邊緣計算設(shè)備管理平臺之上，所有模型均可直接運行在基于Beacon OS的硬件設(shè)備上，無須再次開發(fā)。

云圖睿視的這一套方案旨在解決人工智能落地難的問題。在行業(yè)應(yīng)用中，使用算法的和系統(tǒng)集成商或終端用戶面臨缺乏對應(yīng)算法，而算法開發(fā)者卻限于自身渠道開拓能力，能難找到真正的需求用戶。成都云圖睿視科技有限公司CEO孟瑩指出，正是這樣難以溝通的行業(yè)壁壘，使得以往開發(fā)出的算法很難體現(xiàn)其價值，所以愿意投入開放算法的廠商越來越少，整個物聯(lián)網(wǎng)行業(yè)都面臨著缺乏算法的短板。正是通過與英特爾緊密合作，云圖睿視創(chuàng)建了一個標準化的軟件環(huán)境Beacon OS和便于算法使用和開放兩端握手的應(yīng)用商城。用戶只需要輸入需求，便能找到相應(yīng)算法，不需要再編譯。在孟瑩的演示下，我們看到一個成熟的算法部署在應(yīng)用場景下僅需要短短十數(shù)秒（根據(jù)算法和需求場景不同而有所不同）。

孟瑩表示，AI Store的最大優(yōu)勢便在于“標準的軟硬件平臺、完整流暢的算法購物體驗、經(jīng)濟豐富的行業(yè)算法、安全可靠的技術(shù)支撐、強大的遠程運維管理平臺”。無獨有偶，英特爾在官網(wǎng)的人工智能頁面也提出了“統(tǒng)一計算平臺，兼容多樣算法”的Slogen，恰與云圖推出方案的初衷不謀而合。與孟瑩的想法一致，張宇博士也表明了人工智能發(fā)展上的短板正在于算法之上，比如20世紀90年代已經(jīng)在用的卷積神經(jīng)網(wǎng)絡(luò)如今依舊沿用，僅是層數(shù)比以前更多，規(guī)模上雖有變化，但是算法理論基礎(chǔ)突破并不大。另外，英特爾也在針對不同負載的應(yīng)用提供統(tǒng)一接口，便于開發(fā)者通過統(tǒng)一接口和編程模型訪問不同硬件資源，這便是OneAPI項目。類似于OneAPI、OpenVINO等這樣一些可以幫助用戶做多算法融合的工具，將是人工智能研究院向開發(fā)者推廣的重點項目。

最后，我們問及AI Store是如何快速幫助用戶解決現(xiàn)有算法之外的新需求。孟瑩答道：“BeaconOS的上層有兩個獨立中間件，一套獨立中間件是以AI的運行為承載的獨立中間件，另外一套是基于EdgeX Foundry的IoT的中間件。這套產(chǎn)品其實完全可以獨立部署。如果用戶一定需要做獨立部署，我們會讓系統(tǒng)集成商做這件事情，中間產(chǎn)生的研發(fā)費用或開發(fā)費用都屬于系統(tǒng)集成商的收益。算法開發(fā)就只收取開發(fā)部分的費用，定制的部分由系統(tǒng)集成商收取，我們起中間橋梁搭建的工作。”

后記

在我們看來，英特爾與云圖睿視合作推出的AI Store在當前邊緣人工智能的前進中邁出了非常有意義的一步。尤其是在創(chuàng)新方案推動和生態(tài)構(gòu)建上加速了智能邊緣的應(yīng)用落地和升級。雖然當前Beacon OS、AI Store這樣的構(gòu)架方案還不夠完善，但通過它我們已經(jīng)能夠看到智能邊緣上的廣闊機遇。