視頻結(jié)構(gòu)化服務(wù)器，一帶多AI化組網(wǎng)方案
——比特大陸SophonSA3智能服務(wù)器簡(jiǎn)評(píng)

廠商說法

Sophon智能服務(wù)器是比特大陸研發(fā)的一款高密度服務(wù)器，如圖所示，該服務(wù)器應(yīng)用于人臉檢測(cè)、人體檢測(cè)、車輛檢測(cè)、非人檢測(cè)等安防場(chǎng)景。前端數(shù)據(jù)流進(jìn)入服務(wù)器中，由服務(wù)器進(jìn)行數(shù)據(jù)計(jì)算，對(duì)數(shù)據(jù)進(jìn)行智能分析后，將結(jié)果返回給業(yè)務(wù)應(yīng)用層，應(yīng)用層根據(jù)結(jié)果給予相應(yīng)的反饋。

典型應(yīng)用場(chǎng)景為人臉識(shí)別系統(tǒng)，系統(tǒng)主要采用了人臉檢測(cè)算法、人臉跟蹤算法、人臉質(zhì)量評(píng)分算法以及高速人臉對(duì)比識(shí)別算法，實(shí)現(xiàn)了實(shí)時(shí)人臉抓拍建模、實(shí)時(shí)黑名單對(duì)比報(bào)警和人臉后臺(tái)檢索等功能。

得益于迅猛增長(zhǎng)的算力，大數(shù)據(jù)、算法以及神經(jīng)網(wǎng)絡(luò)前所未有的突破，AI 已經(jīng)無處不在，成為了近十年和未來十年最具顛覆性的技術(shù)。AI，正箭在弦上！

市面上流行的AI安防解決方案主要分為兩類：前端型，大多數(shù)依靠架設(shè)在前端的單個(gè)AI IPC實(shí)現(xiàn)對(duì)重要卡口的捕捉監(jiān)控，算法需要大量的數(shù)據(jù)和算力來完成，依靠云服務(wù)來執(zhí)行計(jì)算；后端型，在不對(duì)前端普通IPC升級(jí)的情況下，只使用一臺(tái)或少量幾臺(tái)由 AI 驅(qū)動(dòng)的多路服務(wù)器使整套網(wǎng)絡(luò)具備AI功能。用戶面對(duì)兩種選擇該何去何從，分別構(gòu)建兩者所需的成本將制約用戶能否在AI時(shí)代占領(lǐng)制高點(diǎn)。

無論是提供計(jì)算資源的云服務(wù)供應(yīng)商，還是支撐強(qiáng)算力的服務(wù)器、GPU 廠商，亦或是致力于搭建深度學(xué)習(xí)框架的技術(shù)供應(yīng)商，都鉚足了勁兒借 AI 之力希望重新劃定市場(chǎng)格局。

Sophon智能服務(wù)器SA3-23是北京比特大陸科技有限公司研發(fā)的一款深度學(xué)習(xí)服務(wù)器。該服務(wù)器是基于比特大陸最新研發(fā)的Sophon AI智能芯片BM1682開發(fā)的，專門為視頻監(jiān)控、互聯(lián)網(wǎng)圖像處理等多種應(yīng)用場(chǎng)景提供強(qiáng)大的深度學(xué)習(xí)加速能力，標(biāo)準(zhǔn)功能包括人臉檢測(cè)、人臉識(shí)別、人體監(jiān)測(cè)、非人檢測(cè)分類等。此服務(wù)器為 19 英寸標(biāo)準(zhǔn) 2U 服務(wù)器，內(nèi)置3個(gè)智能分析單元，包含 18 個(gè)BM1682 芯片，可以提供 54TFLOPs FP32的峰值計(jì)算力。搭載第三方算法可實(shí)現(xiàn) 90路視頻結(jié)構(gòu)化分析，不低于每秒 600 張人臉分析。

市場(chǎng)定位

Sophon智能服務(wù)器是比特大陸研發(fā)的一款高密度服務(wù)器，如下圖所示，該服務(wù)器應(yīng)用于人臉檢測(cè)、人體檢測(cè)、車輛檢測(cè)、非人檢測(cè)等安防場(chǎng)景。前端數(shù)據(jù)流進(jìn)入服務(wù)器中，由服務(wù)器進(jìn)行數(shù)據(jù)計(jì)算，對(duì)數(shù)據(jù)進(jìn)行智能分析后，將結(jié)果傳遞給業(yè)務(wù)應(yīng)用層，應(yīng)用層根據(jù)結(jié)果給與相應(yīng)的反饋。

基于Sophon智能服務(wù)器可以構(gòu)建高性能計(jì)算平臺(tái)，提供圖片、視頻分析的端到端解決方案。基于比特大陸自主研發(fā)的Sophon智能服務(wù)器可以應(yīng)用于多種應(yīng)用場(chǎng)景如人車分類及檢索、深度學(xué)習(xí)技術(shù)應(yīng)用、視頻結(jié)構(gòu)化技術(shù)應(yīng)用等對(duì)海量數(shù)據(jù)進(jìn)行預(yù)處理。Sophon智能服務(wù)器系統(tǒng)應(yīng)用由三層架構(gòu)組成，包括前端媒體接入的感知層、智能云分析層、以及業(yè)務(wù)應(yīng)用層。

性能特點(diǎn)

Sophon智能服務(wù)器采用比特大陸自主研發(fā)的AI智能芯片BM1682，BM1682運(yùn)行在SOC模式，每顆芯片集成4核Cortex-A53的處理器運(yùn)行獨(dú)立的Linux操作系統(tǒng)，提供SDK控制TPU神經(jīng)網(wǎng)絡(luò)加速單元、H.264/H.265/Jpeg 硬件解碼單元、視頻后處理硬件單元。芯片間通過網(wǎng)絡(luò)連接形成集群，可提供超強(qiáng)的計(jì)算能力。

高性能：Sophon智能服務(wù)器單臺(tái)服務(wù)器最高可支持90路視頻結(jié)構(gòu)化、每秒約600張人臉圖片檢測(cè)分析。

高能效比：Sophon智能服務(wù)器基于高能效比的AI專用芯片，采用低功耗的 ARM 處理器作為主控制芯片，在提供超強(qiáng)算力的同時(shí)，降低了整機(jī)的功耗，提供了更高能效比的解決方案。主要面向數(shù)據(jù)中心及中小型邊緣節(jié)點(diǎn)，提供超強(qiáng)的視頻結(jié)構(gòu)化處理能力，滿足中小站點(diǎn)的智能化改造及數(shù)據(jù)中心的分布式部署訴求。

高計(jì)算密度：Sophon智能服務(wù)器是比特大陸自主研發(fā)的一款高密度算力服務(wù)器，內(nèi)部集成了多個(gè)高密度智能分析算力板，在單臺(tái)服務(wù)器2U空間里內(nèi)置多達(dá)18顆AI專用芯片BM1682，使得單位機(jī)架空間的計(jì)算密度得到極大提升，在同樣的計(jì)算能力下占用更小的機(jī)架空間，從而減少了在數(shù)據(jù)中心部署的總體擁有成本(TCO)。

高可擴(kuò)展性：Sophon智能服務(wù)器之間采用分布式架構(gòu)，各服務(wù)器可通過10G網(wǎng)絡(luò)互聯(lián)，算力芯片通過網(wǎng)絡(luò)路由方式和控制板直連降低了數(shù)據(jù)轉(zhuǎn)發(fā)時(shí)延，在節(jié)省板卡空間的同時(shí)提升了服務(wù)器整體性能。

擁有統(tǒng)一的系統(tǒng)管理平臺(tái)可以根據(jù)業(yè)務(wù)彈性增加服務(wù)器，具備很好的可擴(kuò)展性和可管理性。在海量計(jì)算需求的情況下，可采用多臺(tái)服務(wù)器堆疊集群部署的方式，服務(wù)器之間通過萬兆以太網(wǎng)互聯(lián)，實(shí)現(xiàn)在數(shù)據(jù)中心的可擴(kuò)展性。支持統(tǒng)一的管理 Portal和管理服務(wù)，可以在算力云/資源池/算力集群/容器等多種環(huán)境下部署，具備良好的可擴(kuò)展性和可管理性。

兼容性：Sophon智能服務(wù)器提供對(duì)外統(tǒng)一服務(wù)API(Zeus),Zeus是高密度服務(wù)器管理軟件，通過http協(xié)議即可管理系統(tǒng)所有的軟硬件信息。與多個(gè)應(yīng)用平臺(tái)兼容，各應(yīng)用平臺(tái)可根據(jù)REST API使用服務(wù)器功能以及集成不同的算法開發(fā)各自的應(yīng)用需求。已經(jīng)對(duì)接的算法廠家包括云從、以薩、考斯、?？怠⑶б曂?、百度、Seemmo等。

低功耗：Sophon智能服務(wù)器采用低功耗的自主研發(fā)TPU處理器BM1682作為主控制芯片，以超低功耗支撐超強(qiáng)算力。

低成本：Sophon智能服務(wù)器多個(gè)算力板高度集成，使得在同樣的計(jì)算能力下占用更小的機(jī)架空間、更少的電力功耗，可有效減少數(shù)據(jù)中心部署的成本。

推薦理由

AI在安防行業(yè)已經(jīng)得到了廣泛的應(yīng)用，既然談到“廣泛”，必然會(huì)有“前、后、左、右”之分，不同用戶，不同的對(duì)象，對(duì)AI應(yīng)用也會(huì)有不一樣的需求。就像當(dāng)年模擬攝像機(jī)接入DVS可以組成混合網(wǎng)絡(luò)監(jiān)控架構(gòu)類似，選擇組建AI監(jiān)控網(wǎng)絡(luò)時(shí)，也可以將IPC接入運(yùn)行AI工作負(fù)載的服務(wù)器，按需采購(gòu)不同“檔位”的AI服務(wù)器。以TPU方案出現(xiàn)的比特大陸SophonSA3智能服務(wù)器的出現(xiàn)，很好地終結(jié)了傳統(tǒng)服務(wù)器僅靠CPU+GPU和CPU+FPGA的異構(gòu)堆核時(shí)代，為行業(yè)客戶帶來了耳目一新的不同選擇。