面向邊緣智能的空中計(jì)算

曹曉雯/CAO Xiaowen,莫小鵬/MO Xiaopeng,許杰/XU Jie

（1.香港中文大學(xué)（深圳），中國深圳440307；2.廣東工業(yè)大學(xué)，中國廣州510006）

1 邊緣智能的概念

隨著人工智能和物聯(lián)網(wǎng)等技術(shù)的快速發(fā)展，信息技術(shù)與通信技術(shù)不斷融合，通信網(wǎng)絡(luò)已不再局限于提供數(shù)據(jù)傳輸服務(wù)，而正逐漸演變?yōu)橹蜗乱淮ヂ?lián)網(wǎng)、智能城市、自動(dòng)駕駛、工業(yè)自動(dòng)化的核心基礎(chǔ)設(shè)施。近年來，通信網(wǎng)絡(luò)支撐的終端設(shè)備數(shù)目和承載的業(yè)務(wù)量都急劇增加。據(jù)思科預(yù)測(cè)，到2023年，全球聯(lián)網(wǎng)設(shè)備總數(shù)將達(dá)到293億，而從2017—2022年，平均每年全球業(yè)務(wù)量增長將達(dá)到42%[1]；因此，未來通信網(wǎng)絡(luò)需要支持海量設(shè)備節(jié)點(diǎn)的隨時(shí)隨地接入，并提供超可靠低時(shí)延的信息感知、傳輸、處理、控制。

在通信網(wǎng)絡(luò)中融入智能能力，是實(shí)現(xiàn)自動(dòng)駕駛和工業(yè)自動(dòng)化等新型應(yīng)用的關(guān)鍵。未來的智能通信網(wǎng)絡(luò)需要根據(jù)基站和終端設(shè)備所采集的海量數(shù)據(jù)進(jìn)行學(xué)習(xí)和理解，進(jìn)行智能的推理、規(guī)劃和決策，并對(duì)物理世界進(jìn)行反饋和執(zhí)行控制。例如，在自動(dòng)駕駛場(chǎng)景中，網(wǎng)絡(luò)將匯總車輛的環(huán)境感知信息，并結(jié)合超高分辨率地圖和實(shí)時(shí)交通信息，利用人工智能算法進(jìn)行智能推理和決策，輔助車輛進(jìn)行導(dǎo)航路徑規(guī)劃和精準(zhǔn)避障駕駛[2]。由于海量數(shù)據(jù)產(chǎn)生于無線網(wǎng)絡(luò)邊緣，為實(shí)現(xiàn)快速的智能信息處理和實(shí)時(shí)控制，人們需要將傳統(tǒng)云服務(wù)器的計(jì)算、存儲(chǔ)和智能能力下沉到網(wǎng)絡(luò)邊緣的基站和終端設(shè)備；因此，邊緣網(wǎng)絡(luò)智能（或邊緣智能）成為大勢(shì)所趨，并成為未來6G研究的一個(gè)重要方向[3-5]。與傳統(tǒng)單機(jī)智能相比，邊緣智能能夠避免單個(gè)終端設(shè)備存儲(chǔ)計(jì)算能力受限問題，打破設(shè)備間的數(shù)據(jù)孤島；與傳統(tǒng)云智能相比，邊緣智能能夠有效降低網(wǎng)絡(luò)帶寬需求，降低網(wǎng)絡(luò)時(shí)延，保護(hù)數(shù)據(jù)隱私安全。

從技術(shù)上看，邊緣智能主要包括在無線網(wǎng)絡(luò)邊緣對(duì)人工智能或機(jī)器學(xué)習(xí)模型進(jìn)行分布式的智能訓(xùn)練和智能推理兩個(gè)過程。其中，機(jī)器學(xué)習(xí)模型的智能訓(xùn)練對(duì)數(shù)據(jù)量和計(jì)算量有很高的要求，因此，本文中我們著重討論機(jī)器學(xué)習(xí)模型的智能訓(xùn)練。在多種不同的分布式模型訓(xùn)練方法中，聯(lián)邦學(xué)習(xí)[6]在保障用戶隱私和數(shù)據(jù)安全方面具有獨(dú)特的優(yōu)勢(shì)，因此獲得了非常廣泛的關(guān)注。在聯(lián)邦學(xué)習(xí)中，海量終端設(shè)備利用各自的本地?cái)?shù)據(jù)，在邊緣服務(wù)器的協(xié)調(diào)下，聯(lián)合訓(xùn)練共同的機(jī)器學(xué)習(xí)模型。聯(lián)邦學(xué)習(xí)的訓(xùn)練過程可以基于分布式梯度下降法迭代進(jìn)行：在每一次迭代中，不同終端設(shè)備根據(jù)各自的本地?cái)?shù)據(jù)，更新局部模型參數(shù)，并通過無線信道將各自的局部模型參數(shù)上傳至邊緣服務(wù)器進(jìn)行模型匯總，以更新全局模型參數(shù)。上述步驟迭代進(jìn)行，直至全局模型參數(shù)收斂。聯(lián)邦學(xué)習(xí)能夠在終端設(shè)備不進(jìn)行原始數(shù)據(jù)共享的情況下，充分挖掘邊緣網(wǎng)絡(luò)蘊(yùn)藏的分布式計(jì)算存儲(chǔ)能力，進(jìn)行高效的模型訓(xùn)練。

空中計(jì)算是解決上述問題的一種有效技術(shù)[9]。與傳統(tǒng)多址接入方式對(duì)多用戶數(shù)據(jù)單獨(dú)解碼、通信計(jì)算分離設(shè)計(jì)不同，空中計(jì)算技術(shù)可以利用無線鏈路上行多址接入信道的信號(hào)疊加特性，直接在空中進(jìn)行計(jì)算，完成終端數(shù)據(jù)的快速匯總平均。空中計(jì)算技術(shù)通過通信和計(jì)算的一體化設(shè)計(jì)，可以有效降低分布式訓(xùn)練過程中的通信開銷和時(shí)延，提高邊緣智能網(wǎng)絡(luò)和聯(lián)邦學(xué)習(xí)的訓(xùn)練效率；因此，基于空中計(jì)算的聯(lián)邦學(xué)習(xí)，已成為邊緣智能的一個(gè)重要研究熱點(diǎn)。

2 空中計(jì)算的基本原理

在實(shí)際的空中計(jì)算過程中，系統(tǒng)受到無線信道的衰落特性以及接收機(jī)噪聲的影響，而終端設(shè)備的發(fā)送功率也往往有限；因此，如何在實(shí)際系統(tǒng)約束下，設(shè)計(jì)發(fā)送信號(hào)和接收機(jī)算法，是有效恢復(fù)期望信號(hào)f的關(guān)鍵。在無線網(wǎng)絡(luò)中，空中計(jì)算具體有兩種實(shí)現(xiàn)方式：模擬和數(shù)字的空中計(jì)算。

對(duì)于模擬的空中計(jì)算，每個(gè)終端設(shè)備不需要對(duì)感知到的環(huán)境數(shù)據(jù)進(jìn)行編碼，只需要對(duì)原始數(shù)據(jù)進(jìn)行預(yù)處理，緊接著通過無線信道發(fā)送到邊緣服務(wù)器，并進(jìn)行平均處理[10-11]。針對(duì)模擬空中計(jì)算，一般使用計(jì)算失真率作為主要衡量指標(biāo)，以有效衡量空中計(jì)算的鏈路性能。例如，計(jì)算均方誤差（MSE）是一種有效衡量空中計(jì)算失真的指標(biāo)，其定義為MSE=E[(^-f)2]。針對(duì)單天線加性高斯白噪聲信道，本地信息{Xk}獨(dú)立的場(chǎng)景，計(jì)算均方誤差可以表示為[11]：

公式（1）中，σ2為噪聲功率。在這種情況下，可以利用發(fā)送端的自適應(yīng)功率分配，平衡信號(hào)的不對(duì)準(zhǔn)以及噪聲的影響，有效降低系統(tǒng)均方誤差[11]。除此之外，為進(jìn)一步提高空中計(jì)算性能，文獻(xiàn)[12-14]采用多天線技術(shù)，利用多天線的空間復(fù)用和陣列增益，聯(lián)合設(shè)計(jì)發(fā)送端和接收端波束賦形，可以同時(shí)實(shí)現(xiàn)多模態(tài)傳感信息的矢量值函數(shù)計(jì)算，最大程度地降低均方誤差。

2)傳感器包括捷聯(lián)慣導(dǎo)、超聲波傳感器、激光測(cè)距傳感器和視覺測(cè)量系統(tǒng)，其中視覺測(cè)量系統(tǒng)由防爆除塵相機(jī)和16點(diǎn)紅外LED標(biāo)靶組成，相機(jī)安裝在掘進(jìn)機(jī)機(jī)身上，紅外LED標(biāo)靶安裝在截割臂靠近回轉(zhuǎn)臺(tái)的位置。前期研究[4]表明，多點(diǎn)狀紅外LED標(biāo)靶可以防止因灰塵過大而導(dǎo)致視覺計(jì)算不正確，并且視覺測(cè)量的精度為垂直擺角誤差在±0.8°以內(nèi)，水平擺角誤差為±0.5°。

公式（2）中，(x)+=max(x,0)。針對(duì)不同場(chǎng)景，功率分配、多天線、非正交多址接入技術(shù)[16]都是提高計(jì)算速率的有效手段。

3 空中計(jì)算驅(qū)動(dòng)的邊緣智能

邊緣智能是指通過挖掘基站和終端設(shè)備散布的數(shù)據(jù)和通信計(jì)算資源，在邊緣網(wǎng)絡(luò)中對(duì)人工智能或機(jī)器學(xué)習(xí)模型進(jìn)行分布式的訓(xùn)練和推演。本節(jié)中我們主要關(guān)注聯(lián)邦學(xué)習(xí)的分布式訓(xùn)練過程[6]。如圖2所示，系統(tǒng)中的K個(gè)終端設(shè)備利用各自的本地?cái)?shù)據(jù)，在邊緣服務(wù)器的協(xié)調(diào)下，聯(lián)合訓(xùn)練一個(gè)共同的機(jī)器學(xué)習(xí)模型。

▲圖1 空中計(jì)算示意圖

▲圖2 聯(lián)邦學(xué)習(xí)示意圖

近年來，利用空中計(jì)算進(jìn)行高效的模型參數(shù)傳輸聚合，已成為解決聯(lián)邦學(xué)習(xí)的通信瓶頸的一個(gè)研究熱門[18-22]。文獻(xiàn)[18-22]研究了基于（模擬的）空中計(jì)算技術(shù)的邊緣聯(lián)邦學(xué)習(xí)，充分利用多址接入信道的信號(hào)疊加特性，提高聯(lián)邦學(xué)習(xí)的收斂速度和準(zhǔn)確度。由于在信息匯總過程中，信道較差的終端上傳的模型參數(shù)將會(huì)產(chǎn)生較大的失真，影響網(wǎng)絡(luò)整體的模型訓(xùn)練收斂速度。針對(duì)此問題，文獻(xiàn)[18-22]分別從用戶調(diào)度和功率控制的角度進(jìn)行了研究。例如，文獻(xiàn)[18]結(jié)合用戶篩選和接收端波束賦形設(shè)計(jì)，在滿足計(jì)算均方誤差要求的情況下，最大化參與聯(lián)邦學(xué)習(xí)的終端設(shè)備數(shù)目，以提高模型訓(xùn)練的性能；在功率控制方面，文獻(xiàn)[19]針對(duì)一個(gè)寬帶正交頻分多址接入系統(tǒng)，提出一種截?cái)喙β士刂品椒?，排除遭受深度衰落信道的終端設(shè)備，在學(xué)習(xí)性能和聚合誤差之間取得良好的折衷；文獻(xiàn)[20]研究了聯(lián)邦學(xué)習(xí)中基于梯度統(tǒng)計(jì)信息的空中計(jì)算功率控制問題，關(guān)注衰落信道下的最優(yōu)功率控制問題，通過聯(lián)合設(shè)計(jì)發(fā)射端的功率控制和接收端的降噪處理，最小化計(jì)算誤差，進(jìn)而提高收斂速度；此外，針對(duì)模擬空中計(jì)算中出現(xiàn)的噪聲干擾問題，文獻(xiàn)[21]研究了聯(lián)邦學(xué)習(xí)中由于采用空中計(jì)算進(jìn)行信息匯總出現(xiàn)的迭代噪聲問題，依據(jù)子空間學(xué)習(xí)與跟蹤技術(shù)解決了存在的傳輸數(shù)據(jù)缺失情況；文獻(xiàn)[22]研究了基于空中計(jì)算的聯(lián)邦學(xué)習(xí)出現(xiàn)的隱私保護(hù)問題，為了防止邊緣服務(wù)器等聚合中心惡意揣測(cè)用戶的隱私數(shù)據(jù)，通過對(duì)終端用戶的功率進(jìn)行控制，進(jìn)而控制接收機(jī)接收到的注入到在聚合的全局模型中的噪聲干擾，從而實(shí)現(xiàn)對(duì)保密級(jí)別和信噪比之間的最佳權(quán)衡。

4 未來研究展望

空中計(jì)算驅(qū)動(dòng)的邊緣智能具有巨大的應(yīng)用前景，但其研究還處于初始階段。例如，如何將數(shù)字空中計(jì)算與邊緣智能進(jìn)行有效結(jié)合？如何建立準(zhǔn)確的性能度量體系，刻畫空中計(jì)算下分布式邊緣智能網(wǎng)絡(luò)的性能極限？這些都還需要研究。除此之外，本節(jié)中我們對(duì)空中計(jì)算驅(qū)動(dòng)的邊緣智能的幾個(gè)未來研究方向進(jìn)行展望。

1）分層網(wǎng)絡(luò)的空中計(jì)算

已有工作主要研究單個(gè)邊緣服務(wù)器和多個(gè)終端設(shè)備協(xié)作進(jìn)行機(jī)器學(xué)習(xí)模型訓(xùn)練的場(chǎng)景。為充分挖掘邊緣智能的潛力，需要利用大規(guī)模網(wǎng)絡(luò)中海量終端設(shè)備的分布數(shù)據(jù)進(jìn)行學(xué)習(xí)。在這種情況下，單個(gè)邊緣服務(wù)器可能無法滿足海量設(shè)備連接和計(jì)算能力的要求，因此，人們需要設(shè)計(jì)新的分層網(wǎng)絡(luò)架構(gòu)，通過依靠多個(gè)邊緣服務(wù)器甚至云服務(wù)器，實(shí)現(xiàn)海量節(jié)點(diǎn)的分布式數(shù)據(jù)聚合和模型訓(xùn)練。針對(duì)分層網(wǎng)絡(luò)，空中計(jì)算是提高分布式模型訓(xùn)練性能的一種有效手段。以圖3的三層網(wǎng)絡(luò)為例，每個(gè)邊緣服務(wù)器連接了不同的終端設(shè)備，而不同邊緣服務(wù)器連接到上層服務(wù)器進(jìn)行數(shù)據(jù)和模型的匯總更新。該三層網(wǎng)絡(luò)可以通過兩跳的空中計(jì)算實(shí)現(xiàn)大規(guī)模終端設(shè)備的模型匯總平均：在模型訓(xùn)練過程中，不同終端可以利用第一跳的空中計(jì)算，將更新后的局部模型參數(shù)上傳至中間邊緣服務(wù)器；邊緣服務(wù)器則進(jìn)行第二跳的空中計(jì)算，將其部分匯總的模型參數(shù)上傳至上層服務(wù)器，進(jìn)行全局模型匯總聚合。在這種情況下，如何確定中間邊緣服務(wù)器的轉(zhuǎn)發(fā)策略（基于模擬空中計(jì)算的放大轉(zhuǎn)發(fā)或基于數(shù)字空中計(jì)算的解碼轉(zhuǎn)發(fā)）？如何確保兩跳空中計(jì)算的時(shí)間同步？如何抑制或利用終端設(shè)備到不同中間邊緣服務(wù)器的共道干擾？這些都是值得深入探索的問題。

2）設(shè)備間通信輔助的多跳空中計(jì)算

未來網(wǎng)絡(luò)將存在海量終端設(shè)備，其中部分設(shè)備可能距離邊緣服務(wù)器較遠(yuǎn)，這將大大影響空中計(jì)算和邊緣智能的性能。為解決該問題，可以采用設(shè)備間通信技術(shù)，利用附近的一些閑置終端設(shè)備幫助偏遠(yuǎn)的設(shè)備終端進(jìn)行信息匯總。例如，通過在網(wǎng)絡(luò)中將終端設(shè)備劃分為多個(gè)簇，每個(gè)簇具有一個(gè)簇頭和多個(gè)鄰近的簇成員。由于相同簇中的終端設(shè)備之間距離很近，利用設(shè)備間通信能夠保證較好的傳輸性能。如圖4所示，簇成員通過將各自信息經(jīng)由空中計(jì)算匯總到簇頭端。所有簇頭作為一個(gè)信息匯總中繼節(jié)點(diǎn)，將接收到的信息通過空中計(jì)算匯總到邊緣服務(wù)器。如何根據(jù)網(wǎng)絡(luò)規(guī)模，設(shè)計(jì)分簇大小并選擇適當(dāng)?shù)拇仡^節(jié)點(diǎn)？如何基于分簇情況，聯(lián)合優(yōu)化通信和計(jì)算資源，并設(shè)計(jì)設(shè)備間通信與空中計(jì)算技術(shù)的融合機(jī)制？這些都是未來重要的研究方向。此外，已有研究表明，通過在有限的信任簇群中通過設(shè)備間通信傳輸對(duì)數(shù)據(jù)進(jìn)行共享，能有效改善分布式機(jī)器學(xué)習(xí)面臨的數(shù)據(jù)非獨(dú)立同分布問題[23];因此，針對(duì)一些需要進(jìn)行數(shù)據(jù)共享的邊緣智能應(yīng)用場(chǎng)景，如何有效結(jié)合設(shè)備間通信以及數(shù)據(jù)分布重塑增益，提升設(shè)備間通信輔助的空中計(jì)算性能，也是未來值得研究的方向。

▲圖3 三層網(wǎng)絡(luò)下的空中計(jì)算

3）隱私保護(hù)

在邊緣智能網(wǎng)絡(luò)中，移動(dòng)終端訓(xùn)練的模型數(shù)據(jù)需要通過無線信道發(fā)送到邊緣服務(wù)器進(jìn)行聚合匯總。盡管在聯(lián)邦學(xué)習(xí)中，終端設(shè)備不需要將其私有數(shù)據(jù)公開，但其仍然面臨隱私泄露的風(fēng)險(xiǎn)。這是由于終端設(shè)備上傳的模型參數(shù)仍然存在有用信息，邊緣服務(wù)器（或環(huán)境中的竊聽者）可以從接收到的每個(gè)終端設(shè)備發(fā)送的信息中惡意地推斷出終端設(shè)備的私有信息（例如數(shù)據(jù)的標(biāo)簽等）。空中計(jì)算則可以利用無線信道的疊加特性避免這一方面的隱私泄露。當(dāng)網(wǎng)絡(luò)中的終端設(shè)備將信息發(fā)送到空中后，邊緣服務(wù)器接收到的是所有信息的疊加信號(hào)，無法從中推斷出具體某一個(gè)終端設(shè)備的信息，從而避免終端設(shè)備的隱私被惡意推測(cè)；因此，在這種情況下，如何通過配置最優(yōu)無線資源分配實(shí)現(xiàn)保密性高的空中計(jì)算？如何刻畫聯(lián)邦學(xué)習(xí)訓(xùn)練的收斂性、無線資源優(yōu)化和隱私保護(hù)之間的最優(yōu)折衷關(guān)系？這些都是值得深入探討的關(guān)鍵問題。

4）能量效率問題

在未來大規(guī)模物聯(lián)網(wǎng)應(yīng)用中，終端設(shè)備尤其是低功耗物聯(lián)網(wǎng)節(jié)點(diǎn)的能量效率問題，顯得至關(guān)重要。針對(duì)空中計(jì)算驅(qū)動(dòng)的邊緣智能網(wǎng)絡(luò)，如何提高系統(tǒng)的能量效率是一個(gè)重要的問題。例如，聯(lián)合優(yōu)化終端的計(jì)算和通信資源分配是一個(gè)有效的方案。此外，也可以利用先進(jìn)的能量技術(shù)（如能量采集和無線能量傳輸?shù)龋瑥哪芰抗┙o側(cè)提高邊緣智能網(wǎng)絡(luò)的能量效率和成本效益[24]。例如，圖5給出了一個(gè)可持續(xù)邊緣智能網(wǎng)絡(luò)的示意圖，其中，邊緣服務(wù)器利用環(huán)境中的可再生能源（比如太陽能、風(fēng)能等）進(jìn)行供能，而終端設(shè)備則利用無線能量傳輸供能，或利用無線反射通信進(jìn)行模型上傳。由于可再生能量到達(dá)具有隨機(jī)性和間歇性，而無線能量傳輸效率則取決于發(fā)射端的功率和距離，因此，如何聯(lián)合優(yōu)化能量管理和空中計(jì)算的無線資源是一個(gè)值得深入研究的課題。

5 結(jié)束語

空中計(jì)算打破了傳統(tǒng)無線網(wǎng)絡(luò)通信計(jì)算分離的架構(gòu)，實(shí)現(xiàn)“通信計(jì)算一體化”，能有效降低邊緣智能網(wǎng)絡(luò)的通信計(jì)算開銷，進(jìn)而提高訓(xùn)練性能。目前，針對(duì)空中計(jì)算驅(qū)動(dòng)的邊緣智能研究尚處于起步階段。針對(duì)分層網(wǎng)絡(luò)和設(shè)備間通信等不同網(wǎng)絡(luò)架構(gòu)，考慮隱私保護(hù)和能量效率等實(shí)際因素，研究先進(jìn)的空中計(jì)算方法，刻畫邊緣智能的性能極限，是未來研究亟待深入探討的理論問題。這對(duì)推動(dòng)空中計(jì)算走向6G應(yīng)用具有重要的實(shí)際價(jià)值。

▲圖4 設(shè)備間通信輔助的空中計(jì)算

▲圖5 可持續(xù)邊緣智能網(wǎng)絡(luò)示意圖