張澤中 劉沛西 朱光旭
摘要:針對多場景多設(shè)備與單場景多視角兩類代表性的協(xié)作感知場景,提出了針對性的基于聯(lián)邦學習的協(xié)作感知學習框架,并針對在無線通信場景下,通信與感知資源有限以及信道隨機性等挑戰(zhàn),提出了相對應的資源分配方案與用戶調(diào)度策略。保證了提出的學習算法能夠在無線網(wǎng)絡下實現(xiàn)高質(zhì)量且穩(wěn)定的協(xié)同感知,并通過仿真驗證并分析了算法的正確性與有效性。
關(guān)鍵詞:通信感知一體化;聯(lián)邦學習;資源分配;用戶調(diào)度
Abstract: Two typical cooperative sensing scenarios, including multiple-scene-multiple-device and single-scene-multiple-view are consid? ered, and specific federated learning architectures for the two cooperative sensing scenarios are proposed. Moreover, under the situation where the communication and sensing resources are limited and the channel conditions are stochastic, a resource allocation scheme and a user scheduling policy for the two learning architectures are respectively proposed. It shows that the proposed algorithms can guarantee high-quality and robust cooperative sensing, and verify the effectiveness of the algorithms through simulations.
Keywords: integrated sensing and communication; federated learning; resource allocation; user scheduling
近年來,隨著無線通信與互聯(lián)網(wǎng)技術(shù)的蓬勃發(fā)展,遠程醫(yī)療、智能駕駛、智慧城市等新興技術(shù)不斷涌現(xiàn)并逐步融入日常生活[1-2]。這些新興技術(shù)都需要穩(wěn)健且高精度的感知能力,并依賴于快速且穩(wěn)定的無線通信技術(shù)。因此,研究以高效感知為目標的新型無線通信技術(shù)以及通信感知一體化技術(shù),對實現(xiàn)對6G網(wǎng)絡下各類新興應用的技術(shù)支撐具有重要的意義[3]。
隨著邊緣計算與物聯(lián)網(wǎng)技術(shù)的興起,各類新興應用呈現(xiàn)出個人化、社區(qū)化的特征,生成的數(shù)據(jù)也呈現(xiàn)出邊緣化與分布式的特征,這也使得數(shù)據(jù)的聚集與統(tǒng)一化處理變得難以實現(xiàn)。一方面,單個設(shè)備或單個視角收集到的數(shù)據(jù)受到周圍特定環(huán)境影響,可靠性較低,因此需要聯(lián)合多個設(shè)備收集到的數(shù)據(jù)進行協(xié)作處理,以實現(xiàn)高精度的可靠的智能感知;另一方面,應用數(shù)量與使用頻率的急劇增長,使得分布在網(wǎng)絡邊緣的數(shù)據(jù)量大幅增加,并且由于數(shù)據(jù)隱私受到越來越廣泛的關(guān)注,數(shù)據(jù)的收集與分享變得越發(fā)困難。考慮到上述挑戰(zhàn),現(xiàn)階段亟需開發(fā)在不影響數(shù)據(jù)隱私的前提下,能夠?qū)崿F(xiàn)高效智能感知的分布式算法。作為邊緣智能中的一類重要學習范式,聯(lián)邦學習旨在不涉及原始數(shù)據(jù)轉(zhuǎn)移的情況下實現(xiàn)多設(shè)備間的協(xié)作訓練[4],因此將聯(lián)邦學習范式用于協(xié)作感知任務是目前熱門的研究方向之一。由于不同場景下數(shù)據(jù)的分布情況不同,因此我們需要設(shè)計針對性的聯(lián)邦學習架構(gòu)以匹配相應的數(shù)據(jù)分布情況。本工作中,我們考慮的是多場景多設(shè)備與單場景多視角兩類代表性的場景,它們分別對應以下兩種典型的數(shù)據(jù)分布情況[5]。
(1)數(shù)據(jù)橫向分布:不同設(shè)備中的數(shù)據(jù)處于相同特征空間,但區(qū)分于樣本空間;
(2)數(shù)據(jù)縱向分布:不同設(shè)備中的數(shù)據(jù)處于相同的樣本空間,但區(qū)分于特征空間。
針對以上兩類場景,我們分別采用對應的橫向聯(lián)邦學習與縱向聯(lián)邦學習架構(gòu),以聯(lián)合邊緣設(shè)備進行模型訓練,從而實現(xiàn)基于學習模型的智能感知??紤]到無線網(wǎng)絡下通信與感知往往都依賴于無線信號的收發(fā),而時頻資源有限,因此需要對系統(tǒng)中的通信、感知、計算資源進行聯(lián)合優(yōu)化,達成合理的資源分配,以實現(xiàn)高質(zhì)量感知。同時,由于信道狀態(tài)具有不確定性,少數(shù)信道衰落嚴重的鏈路會導致單個通信回合時延過大,因此需要結(jié)合適當?shù)挠脩粽{(diào)度策略以降低模型訓練的時延,實現(xiàn)快速準確的感知。在本工作中,針對上述挑戰(zhàn),我們分別設(shè)計了相應的資源分配方案與用戶調(diào)度策略,并通過具體的分析與仿真驗證了算法的正確性與有效性。
1橫向協(xié)作感知
針對多個設(shè)備分布于不同場景且采集的數(shù)據(jù)處于相同特征空間的情況,如圖1(a)所示,我們考慮基于無線反射信號的動作識別感知任務,采用橫向聯(lián)邦學習架構(gòu),并設(shè)計了相應的通感算資源分配策略。
1.1系統(tǒng)模型及性能指標
1.1.1橫向聯(lián)邦學習架構(gòu)
方案1,采用最大通信功率,其他參數(shù)按提出的最優(yōu)方案設(shè)置;
方案2,每回合采用相同的感知樣本數(shù),其他參數(shù)按提出的最優(yōu)方案設(shè)置;
方案3,每回合采用遞減的感知樣本數(shù),其他參數(shù)按提出的最優(yōu)方案設(shè)置。
圖6給出了所提的資源配置優(yōu)化方案與各對照方案在訓練集與測試集上的對比效果。其中,所提的資源優(yōu)化方案的收斂速度明顯快于對照方案1。其原因是方案1分配了過多的功率用于通信,這導致感知樣本數(shù)量較少,更快地耗盡能量,提前終止訓練過程。另外,相比于對照方案2和3,所提方案具有更好的收斂效果,這體現(xiàn)了提出的感知樣本數(shù)量調(diào)節(jié)設(shè)置能夠有效地加快訓練過程的收斂。
另外,在縱向聯(lián)邦學習架構(gòu)下,考慮頻譜聯(lián)合感知任務,我們驗證了2.2節(jié)中的用戶調(diào)度策略與神經(jīng)網(wǎng)絡設(shè)計的實際效果,具體如圖7所示。
觀察圖9后我們可知,采用用戶調(diào)度方案能夠有效加速整體訓練過程,且設(shè)備激活概率在一個較大范圍([0.1,0.8])內(nèi)調(diào)節(jié)均可以達到或接近最優(yōu)收斂速率的效果。另外,對比圖8和圖9可知,采用神經(jīng)網(wǎng)絡2結(jié)構(gòu)時能夠取得更為穩(wěn)定的收斂效果,其原因是在神經(jīng)網(wǎng)絡2結(jié)構(gòu)中中心神經(jīng)網(wǎng)絡占更大比重,因此即使遇到用戶調(diào)度策略設(shè)置得較為極端的情況,也能夠保證訓練過程的收斂不會過慢,這與2.2.3節(jié)中的設(shè)計準則2相吻合。另外,在該頻譜聯(lián)合感知任務中,需感知發(fā)射機的位置信息,我們考慮兩臺發(fā)射機的情況,并在圖10中體現(xiàn)了增加感知機設(shè)備數(shù)量對感知準確度的影響。由圖10中的結(jié)果對比可知,增加感知機數(shù)量能夠有效提升感知準確度,這也是采用縱向聯(lián)邦學習架構(gòu)進行聯(lián)合感知相較于傳統(tǒng)單感知機方案的主要優(yōu)勢所在。
4結(jié)束語
在B5G及未來的6G時代,邊緣網(wǎng)絡中基于無線通信的感知相關(guān)的智能應用將成為主流。因此,探索新型分布式學習架構(gòu),并設(shè)計與之相匹配的無線通信方案,聯(lián)合優(yōu)化系統(tǒng)資源分配,實現(xiàn)感知準確度與感知響應速率的有效提升,是未來通信技術(shù)發(fā)展的一個重要方向。本文提供的設(shè)計是通信感知一體化道路上的初步嘗試,也為未來更為系統(tǒng)化多樣化的設(shè)計提供了思路。
參考文獻
[1] ZHOU Z, CHEN X, LI E, et al. Edge intelligence: paving the last mile of artificial intelligence with edge computing [J]. Proceedings of the IEEE, 2019, 107(8): 1738-1762. DOI: 10.1109/JPROC.2019.2918951
[2] ZHANG T, WANG S, LI G L, et al. Accelerating edge intelligence via integrated sensing and communication [C]//Proceedings of ICC 2022-IEEE International Conference on Communications. IEEE: 1586-1592. DOI: 10.1109/ICC45855.2022.9839016
[3] LIUF,CUIYH,MASOUROSC,etal.Integratedsensingand communications: toward dual-functional wireless networks for 6G and beyond [J]. IEEE journal on selected areas in communications, 2022, 40(6): 1728-1767. DOI: 10.1109/JSAC.2022.3156632
[4] MCMANHAN B, MOORE E, RAMAGE D, et al. Communication-efficient learning of deep networks from decentralized data[C]//Artificial Intelligence and Statistics. PMLR, 2017: 1273-1282
[5] YANG Q, LIU Y, CHEN T J, et al. Federated machine learning [J]. ACM transactions on intelligent systems and technology, 2019, 10(2): 1-19. DOI: 10.1145/3298981
[6] GRADSHTEYN I S, RYZHIK I M, ROMER R H. Tables of integrals, series, and products [J]. American journal of physics, 1988, 56(10): 958. DOI: 10.1119/1.15756
[7] LIU P, ZHU G, WANG S, et al. Toward ambient intelligence: federated edge learning with task-oriented sensing, computation, and communication integration [EB/OL]. (2022-06-13) [2022-08-10]. https://arxiv. org/abs/ 2206.05949v1
[8] MAO Y Y, ZHANG J, LETAIEF K B. Dynamic computation offloading for mobile-edge computing with energy harvesting devices [J]. IEEE journal on selected areas in communications, 2016, 34(12): 3590-3605. DOI: 10.1109/ JSAC.2016.2611964
[9] LIU Y, KANG Y, ZHANG X W, et al. A communication efficient collaborative learning framework for distributed features [EB/OL]. [2022-09-20]. https:// arxiv.org/abs/1912.11187
[10] ZHU G X, WANG Y, HUANG K B. Broadband analog aggregation for lowlatency federated edge learning [J]. IEEE transactions on wireless communications, 2020, 19(1): 491-506. DOI: 10.1109/TWC.2019.2946245
[11] ZHANG Z, ZHU G, CUI S. Low-latency cooperative spectrum sensing via truncated vertical federated learning [EB/OL]. (2022-08-07)[2022-09-20]. https://arxiv.org/abs/2208.03694v1
作者簡介
張澤中,香港中文大學(深圳)博士后,工學博士;主要研究領(lǐng)域為邊緣智能、聯(lián)邦學習、車聯(lián)網(wǎng)及通信感知一體化等前沿技術(shù);已發(fā)表論文17篇,擁有專利5項。
劉沛西,北京大學電子學院博士畢業(yè)生;主要研究領(lǐng)域為聯(lián)邦邊緣學習、通信感知計算一體化等;已發(fā)表論文7篇。
朱光旭,深圳市大數(shù)據(jù)研究院副研究員;主要從事無線通信理論研究,包括智能通信、5G/B5G通信技術(shù)等;先后主持國家自然科學基金、廣東省面上基金等資助,并作為骨干成員參與國家重點研發(fā)計劃及廣東省重點領(lǐng)域項目;曾獲香港政府獎學金資助,獲國際會議(WCSP)最佳論文獎;發(fā)表論文50余篇。