面向智慧工廠的工業(yè)互聯(lián)網(wǎng)邊緣智能協(xié)同計(jì)算技術(shù)研究工業(yè)互聯(lián)網(wǎng)邊緣智能協(xié)同計(jì)算技術(shù)研究

朱禹濤 肖霖 陳澤仁 陳曉東

(1.金磚國(guó)家未來(lái)網(wǎng)絡(luò)研究院中國(guó)分院，深圳 518000；2.南昌大學(xué)，南昌 330031；3.江西鑫鉑瑞科技有限公司，鷹潭 338000)

0 引言

工業(yè)互聯(lián)網(wǎng)已成為全球制造業(yè)發(fā)展的新趨勢(shì)，我國(guó)作為制造業(yè)大國(guó)，為了應(yīng)對(duì)新一輪科技革命和產(chǎn)業(yè)變革，從戰(zhàn)略規(guī)劃與技術(shù)推動(dòng)等多方面開(kāi)展了相關(guān)行動(dòng)。習(xí)近平總書(shū)記在制造強(qiáng)國(guó)戰(zhàn)略重要論述中要求，推動(dòng)制造業(yè)高質(zhì)量發(fā)展，堅(jiān)定不移建設(shè)制造強(qiáng)國(guó)。在新基建的推動(dòng)下，5G、人工智能、云計(jì)算等技術(shù)與傳統(tǒng)工業(yè)深度融合，為實(shí)現(xiàn)智能制造提供了技術(shù)支撐，將有力促進(jìn)制造強(qiáng)國(guó)早日實(shí)現(xiàn)。國(guó)際上，德國(guó)提出“工業(yè)4.0”、美國(guó)提出“先進(jìn)制造業(yè)國(guó)家戰(zhàn)略計(jì)劃”、日本提出“科技工業(yè)聯(lián)盟”、英國(guó)提出“工業(yè)2050戰(zhàn)略”，也都是為了實(shí)現(xiàn)信息技術(shù)與制造技術(shù)深度融合的數(shù)字化、網(wǎng)絡(luò)化、智能化制造，實(shí)現(xiàn)智慧工廠[1]。在智慧工廠建設(shè)中，工業(yè)互聯(lián)網(wǎng)賦能智能制造，工業(yè)互聯(lián)網(wǎng)作為關(guān)鍵技術(shù)手段，通過(guò)對(duì)工業(yè)要素的互聯(lián)互通、相關(guān)要素的深度協(xié)同，實(shí)現(xiàn)了設(shè)備管理精細(xì)化、生產(chǎn)過(guò)程一體化、企業(yè)管理標(biāo)準(zhǔn)化、分析應(yīng)用數(shù)據(jù)化和決策支持科學(xué)化[2]。

邊緣智能是邊緣計(jì)算與人工智能相互結(jié)合的一種新興技術(shù)方案，其發(fā)展對(duì)邊緣計(jì)算和人工智能具有雙贏優(yōu)勢(shì)：一方面，邊緣數(shù)據(jù)可以借助智能算法釋放潛力，提供更高的可用性。隨著萬(wàn)物互聯(lián)的發(fā)展，邊緣數(shù)據(jù)需要借鑒智能算法進(jìn)行分析，實(shí)現(xiàn)智能化的功能。以深度學(xué)習(xí)為代表的智能算法能從邊緣數(shù)據(jù)中提取實(shí)時(shí)信息以提高決策的效率和準(zhǔn)確性[3-4]。另一方面，邊緣計(jì)算能為智能算法提供更多的數(shù)據(jù)和應(yīng)用場(chǎng)景。傳統(tǒng)的人工智能和大數(shù)據(jù)應(yīng)用都存放在云端服務(wù)器和大數(shù)據(jù)中心[3-4]，而邊緣智能技術(shù)在網(wǎng)絡(luò)邊緣部署具備通信與計(jì)算能力的邊緣設(shè)備(稱(chēng)為邊緣節(jié)點(diǎn))，直接從物端設(shè)備獲取海量數(shù)據(jù)并實(shí)現(xiàn)智能計(jì)算，將有力推動(dòng)人工智能應(yīng)用的進(jìn)一步普及與發(fā)展，特別是工業(yè)互聯(lián)網(wǎng)相關(guān)的應(yīng)用[5]。但邊緣智能技術(shù)發(fā)展面臨多方面困難，包括人工智能算法的資源需求與邊緣節(jié)點(diǎn)資源有限之間的矛盾、智能任務(wù)需求多樣與邊緣節(jié)點(diǎn)設(shè)備能力單一之間的矛盾等。邊緣智能協(xié)同計(jì)算系統(tǒng)由中心云服務(wù)器、邊緣節(jié)點(diǎn)、物端設(shè)備之間的協(xié)作組成，可以有效地解決上述矛盾。

基于邊緣智能協(xié)同的工業(yè)互聯(lián)網(wǎng)體系，解決了邊緣節(jié)點(diǎn)計(jì)算資源受限的難題，滿足了智能制造等工業(yè)應(yīng)用場(chǎng)景對(duì)任務(wù)響應(yīng)時(shí)延的要求。本文所提邊緣智能協(xié)同計(jì)算主要是考慮多個(gè)邊緣節(jié)點(diǎn)之間的協(xié)同，通過(guò)合理優(yōu)化任務(wù)分配策略，在工業(yè)互聯(lián)網(wǎng)網(wǎng)絡(luò)邊緣完成各種應(yīng)用的智能計(jì)算，既可以減輕單一邊緣節(jié)點(diǎn)的計(jì)算壓力又可以滿足各類(lèi)人工智能算法對(duì)算力的需求，在滿足工業(yè)互聯(lián)網(wǎng)智能計(jì)算應(yīng)用需求的同時(shí)避免了云服務(wù)器到物端設(shè)備的計(jì)算任務(wù)的通信開(kāi)銷(xiāo)。進(jìn)一步地，為了降低邊緣節(jié)點(diǎn)部署的軟硬件開(kāi)銷(xiāo)，本文提出了相應(yīng)的邊緣智能模型輕量化方法，提升邊緣智能協(xié)同計(jì)算技術(shù)的可擴(kuò)展性，有助于面向智慧工廠的工業(yè)互聯(lián)網(wǎng)絡(luò)的廣泛應(yīng)用。

1 基于邊緣智能協(xié)同的工業(yè)互聯(lián)網(wǎng)體系

未來(lái)智慧工廠的應(yīng)用需求，例如基于視覺(jué)檢測(cè)的故障缺陷自動(dòng)檢測(cè)、集中遠(yuǎn)程操控等，需要實(shí)現(xiàn)工業(yè)生產(chǎn)效率提升、工業(yè)投資有效提升、安全生產(chǎn)性能提升。在智慧工廠中，遠(yuǎn)程操控類(lèi)、無(wú)人搬運(yùn)車(chē)及移動(dòng)監(jiān)控類(lèi)業(yè)務(wù)對(duì)于響應(yīng)時(shí)延要求非常高，除了網(wǎng)絡(luò)傳輸時(shí)延之外，人工智能的計(jì)算時(shí)延、大數(shù)據(jù)分析的處理時(shí)延等也至關(guān)重要。因此，本文在工業(yè)互聯(lián)網(wǎng)體系中引入了邊緣智能協(xié)同概念，設(shè)計(jì)了相應(yīng)的基于邊緣智能協(xié)同的工業(yè)互聯(lián)網(wǎng)體系架構(gòu)。

在如圖1所示基于邊緣智能協(xié)同的工業(yè)互聯(lián)網(wǎng)體系架構(gòu)中，從邊緣設(shè)備到云端主要包括以下功能模塊。

圖1 基于邊緣智能協(xié)同的工業(yè)互聯(lián)網(wǎng)體系架構(gòu)

(1)工藝建模與參數(shù)優(yōu)化模塊：通過(guò)邊緣設(shè)備和傳感器等采集工廠生產(chǎn)線、運(yùn)營(yíng)系統(tǒng)等數(shù)據(jù)，通過(guò)大數(shù)據(jù)分析與工藝建模，得到最優(yōu)的工藝參數(shù)配置，并結(jié)合人工智能算法獲得工藝參數(shù)調(diào)優(yōu)方法，實(shí)現(xiàn)工業(yè)生產(chǎn)效率的提升。

(2)邊緣智能協(xié)同與算法實(shí)現(xiàn)模塊：針對(duì)智慧工廠基于人工智能的垂直應(yīng)用高計(jì)算容量需求與實(shí)際生產(chǎn)環(huán)境下邊緣設(shè)備計(jì)算能力有限的典型矛盾，利用邊緣智能協(xié)同計(jì)算技術(shù)實(shí)現(xiàn)邊緣設(shè)備高效實(shí)時(shí)信息采集與處理。典型應(yīng)用包括有色金屬加工行業(yè)中的銅箔質(zhì)量實(shí)時(shí)監(jiān)測(cè)與生產(chǎn)設(shè)備故障預(yù)檢等。

(3)無(wú)線空口安全防護(hù)模塊：針對(duì)工業(yè)互聯(lián)網(wǎng)應(yīng)用中無(wú)線傳播特性下存在的空口安全隱患，提供無(wú)線空口安全防護(hù)能力，例如檢測(cè)違法終端與基站、防御多種安全攻擊等，以確保廠區(qū)無(wú)線通信環(huán)境安全可控，提升安全生產(chǎn)性能。

(4)云邊協(xié)同智能管控平臺(tái)：針對(duì)上述功能模塊，形成云邊端一體化系統(tǒng)與管控平臺(tái)，支持大數(shù)據(jù)存儲(chǔ)分析、人工智能建模與算法實(shí)現(xiàn)、可視化界面管理。

本文給出的基于邊緣智能協(xié)同的工業(yè)互聯(lián)網(wǎng)體系架構(gòu)設(shè)計(jì)方案充分利用了邊緣智能協(xié)同計(jì)算能力，滿足智慧工廠各類(lèi)應(yīng)用的性能要求，提供確定性業(yè)務(wù)保證的能力。

2 邊緣智能的協(xié)同計(jì)算任務(wù)分配

通過(guò)進(jìn)一步利用邊緣節(jié)點(diǎn)強(qiáng)大的可計(jì)算的擴(kuò)展能力，可以在邊緣環(huán)境架構(gòu)下實(shí)現(xiàn)對(duì)深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型的并行訓(xùn)練，以達(dá)到時(shí)延更小的目的，更好地將云服務(wù)器計(jì)算量卸載到邊緣。分布式模型的并行訓(xùn)練包括不同任務(wù)網(wǎng)絡(luò)模型間的并行訓(xùn)練、同一任務(wù)網(wǎng)絡(luò)模型內(nèi)部的并行訓(xùn)練兩個(gè)方面。

2.1 不同任務(wù)網(wǎng)絡(luò)模型間的并行訓(xùn)練

在實(shí)際場(chǎng)景中通常存在多種任務(wù)需要同時(shí)進(jìn)行處理，包括質(zhì)量檢測(cè)、視頻監(jiān)控、危險(xiǎn)預(yù)警等任務(wù)。受益于邊緣節(jié)點(diǎn)的多任務(wù)計(jì)算能力，可以在邊緣節(jié)點(diǎn)中部署多種任務(wù)的子模型，以達(dá)到在某一邊緣節(jié)點(diǎn)進(jìn)行不同的數(shù)據(jù)分析處理任務(wù)的目的。

邊緣節(jié)點(diǎn)可以將從傳感器設(shè)備接收到的數(shù)據(jù)執(zhí)行分配到的任務(wù)，通過(guò)將自身的子任務(wù)模型得到的結(jié)果傳輸至云服務(wù)器，并且同時(shí)對(duì)自身的子任務(wù)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，而后將多個(gè)子任務(wù)網(wǎng)絡(luò)模型訓(xùn)練得到的權(quán)重分別傳輸至云服務(wù)器進(jìn)行模型同步。云服務(wù)器一般具有任務(wù)分配、資源分配、數(shù)據(jù)管理以及數(shù)據(jù)可視化功能。云服務(wù)器可以根據(jù)邊緣節(jié)點(diǎn)的算力不同以及任務(wù)的優(yōu)先級(jí)不同給邊緣節(jié)點(diǎn)分配不同的子任務(wù)與資源，并且根據(jù)各個(gè)邊緣節(jié)點(diǎn)更新得到的任務(wù)網(wǎng)絡(luò)模型的權(quán)重對(duì)模型進(jìn)行同步，而后分析匯總各個(gè)邊緣節(jié)點(diǎn)的子任務(wù)執(zhí)行結(jié)果，對(duì)相應(yīng)數(shù)據(jù)結(jié)果進(jìn)行可視化展示。為了進(jìn)一步降低時(shí)延，每隔一定周期根據(jù)任務(wù)復(fù)雜度與邊緣節(jié)點(diǎn)的計(jì)算能力之間的關(guān)系分配任務(wù)，以達(dá)到減少信號(hào)處理任務(wù)完成時(shí)間的目的。

2.2 同一任務(wù)網(wǎng)絡(luò)模型內(nèi)部的并行訓(xùn)練

對(duì)于質(zhì)量檢測(cè)、視頻監(jiān)控等涉及圖像處理的任務(wù)，可以在不同邊緣節(jié)點(diǎn)之間實(shí)現(xiàn)同一任務(wù)網(wǎng)絡(luò)模型內(nèi)部的并行訓(xùn)練，包括卷積層與全連接層的訓(xùn)練并行化。

(1)卷積層的訓(xùn)練并行化：假設(shè)輸入卷積層的圖像或者視頻幀數(shù)據(jù)矩陣為X，卷積核矩陣為F，將X與F進(jìn)行卷積相乘后得到特征矩陣A。根據(jù)卷積層的特性，多個(gè)卷積區(qū)域間互不產(chǎn)生影響，因此可以將X拆分為多個(gè)卷積區(qū)域進(jìn)行并行卷積，從而達(dá)到進(jìn)一步降低時(shí)延的目的。將每個(gè)卷積區(qū)域分別與濾波器參數(shù)矩陣卷積，可以組成特征矩陣A，其中的每個(gè)元素都是基于X和F中對(duì)應(yīng)的卷積區(qū)域計(jì)算的。不同的任務(wù)可以同時(shí)訪問(wèn)X中不同的卷積區(qū)域而不需要更新它們的值，這些任務(wù)之間不存在數(shù)據(jù)依賴(lài)性。

(2)全連接層的訓(xùn)練并行化：全連接層部署著多個(gè)神經(jīng)元，每層的神經(jīng)元均與前一層的神經(jīng)元全部相連。設(shè)在第i層的Li一共有ni個(gè)神經(jīng)元，每個(gè)神經(jīng)元與前一層的ni-1個(gè)神經(jīng)元全部相連，但是此層的神經(jīng)元均相互獨(dú)立，因此每層的每個(gè)獨(dú)立的神經(jīng)元可以進(jìn)行并行計(jì)算。

2.3 權(quán)重更新與模型同步

對(duì)于每一個(gè)邊緣節(jié)點(diǎn)，需要根據(jù)傳感器接收到的數(shù)據(jù)進(jìn)行實(shí)時(shí)的子任務(wù)模型訓(xùn)練與更新，而由于邊緣節(jié)點(diǎn)的算力不同、存儲(chǔ)資源不同可能導(dǎo)致多個(gè)邊緣節(jié)點(diǎn)的工作負(fù)載、傳輸能力不在同一等級(jí)上，因此需要云服務(wù)器對(duì)邊緣節(jié)點(diǎn)的子任務(wù)模型進(jìn)行同步。權(quán)重更新與模型同步的步驟如下。

(1)協(xié)同初始化：云服務(wù)器在給各個(gè)邊緣節(jié)點(diǎn)分配子任務(wù)時(shí)，由云服務(wù)器同時(shí)給每個(gè)子任務(wù)網(wǎng)絡(luò)模型賦予相同的全局權(quán)重系數(shù)W0，其可以由云服務(wù)器提前對(duì)一些輸入數(shù)據(jù)進(jìn)行訓(xùn)練得到。

3 邊緣智能計(jì)算模型輕量化

在智慧工廠應(yīng)用中，大部分面向機(jī)器視覺(jué)的智能計(jì)算任務(wù)一般使用深度卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行計(jì)算，其巨大的參數(shù)量和通道量使習(xí)得的神經(jīng)網(wǎng)絡(luò)模型在應(yīng)用中需要消耗大量的存儲(chǔ)和計(jì)算資源，這對(duì)模型在移動(dòng)端和嵌入式設(shè)備上落地帶來(lái)困難。因此，為了適應(yīng)終端有限的內(nèi)存和計(jì)算條件，有必要在模型正式部署前對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化。本文采用基于知識(shí)蒸餾的邊緣智能計(jì)算模型輕量化方法。知識(shí)蒸餾是一種通用的神經(jīng)網(wǎng)絡(luò)輕量化方法，通過(guò)對(duì)教師模型所習(xí)得的知識(shí)進(jìn)行學(xué)習(xí)，以獲得網(wǎng)絡(luò)更加緊湊的學(xué)生模型，并且能夠在節(jié)省內(nèi)存占用的同時(shí)很好地保留原始網(wǎng)絡(luò)的性能。

基于知識(shí)蒸餾的神經(jīng)網(wǎng)絡(luò)輕量化訓(xùn)練流程如圖2(a)所示?？刹捎枚嗳蝿?wù)的學(xué)習(xí)方法，將訓(xùn)練好的教師模型的輸出結(jié)果sT以及數(shù)據(jù)的真實(shí)標(biāo)簽y作為學(xué)生模型的目標(biāo)來(lái)訓(xùn)練學(xué)生模型，以使學(xué)生網(wǎng)絡(luò)的輸出結(jié)果接近目標(biāo)值。訓(xùn)練完的學(xué)生模型還可直接應(yīng)用到實(shí)際部署的具備邊緣智能能力的設(shè)備中，具體參見(jiàn)圖2(b)。

圖2 基于知識(shí)蒸餾的神經(jīng)網(wǎng)絡(luò)輕量化訓(xùn)練流程

4 結(jié)束語(yǔ)

本文提出了基于邊緣智能協(xié)同的工業(yè)互聯(lián)網(wǎng)體系，研究了邊緣智能協(xié)同計(jì)算任務(wù)分配與邊緣智能模型輕量化方法。邊緣智能協(xié)同計(jì)算技術(shù)實(shí)現(xiàn)了在工業(yè)互聯(lián)網(wǎng)網(wǎng)絡(luò)邊緣完成各種應(yīng)用的智能計(jì)算，解決了邊緣節(jié)點(diǎn)計(jì)算資源受限的難題，滿足了智能制造等工業(yè)應(yīng)用場(chǎng)景中對(duì)任務(wù)響應(yīng)時(shí)延的要求，有助于面向智慧工廠的工業(yè)互聯(lián)網(wǎng)絡(luò)的廣泛部署與應(yīng)用。