一種使能5G的AI深度學(xué)習(xí)訓(xùn)練與服務(wù)平臺(tái)

楊 平，裴 霽（.中博信息技術(shù)研究院有限公司，江蘇南京 00；.中國移動(dòng)江蘇公司常州分公司，江蘇常州 3000）

0 引言

近年來，AI 技術(shù)應(yīng)用于通信網(wǎng)絡(luò)的研究取得了重大進(jìn)展，在網(wǎng)絡(luò)運(yùn)營編排、運(yùn)維管理、智能化網(wǎng)元3 個(gè)層次上，挖掘出越來越多的場景。但在針對(duì)5G所要求的快速響應(yīng)業(yè)務(wù)變化、簡化網(wǎng)絡(luò)運(yùn)維管理、提升網(wǎng)絡(luò)資源利用效率等爆發(fā)性需求，運(yùn)營商還要能夠持續(xù)增加業(yè)務(wù)收入、降低運(yùn)維成本、優(yōu)化投資收益，AI則成為電信運(yùn)營商在應(yīng)對(duì)這些挑戰(zhàn)時(shí)必須利用的工具之一。

因此，如何最大化地利用AI 工具使能5G，推行一種使能5G 的AI 深度學(xué)習(xí)訓(xùn)練與服務(wù)平臺(tái)已成當(dāng)務(wù)之急。

1 AI使能5G的應(yīng)用策略

1.1 基于AI的智能編排和運(yùn)營

5G 端到端切片智能編排，即AI 工具通過采集數(shù)據(jù)掌握網(wǎng)絡(luò)的實(shí)時(shí)運(yùn)行狀況，根據(jù)歷史數(shù)據(jù)和實(shí)時(shí)數(shù)據(jù)對(duì)網(wǎng)絡(luò)業(yè)務(wù)以及相應(yīng)的資源需求進(jìn)行預(yù)測和評(píng)估，給出適當(dāng)?shù)慕ㄗh措施（如網(wǎng)絡(luò)切片的擴(kuò)容、縮容、變更等）。

5G 端到端切片智能運(yùn)營，即可以通過AI 完成智能化的端到端切片業(yè)務(wù)開通和按需變更。同時(shí)引入智能客服，能夠提供智能化的交流、咨詢、切片套餐推薦服務(wù)。

1.2 基于AI的智能天線優(yōu)化

5G 引入Massive MIMO 技術(shù)后，無線側(cè)配置參數(shù)的pattern組合有了指數(shù)級(jí)的增加，從3G的幾百種配置到5G 的上萬種配置。AI 可以實(shí)現(xiàn)5G 大規(guī)模天線復(fù)雜參數(shù)的智能化配置。

a）智能權(quán)值搜索和監(jiān)控?；赨E 的分布情況，根據(jù)覆蓋用戶數(shù)最多的原則，搜索和預(yù)測最優(yōu)的水平/垂直波瓣寬度、方位角和下傾角。

b）UE 位置估算和預(yù)測?；局芷谛允占欢螘r(shí)間內(nèi)小區(qū)內(nèi)所有UE 的位置信息，基于收集的信息可以估算UE的位置及分布。

c）場景自學(xué)習(xí)。利用測量信息描繪出終端的大致分布，進(jìn)一步利用分布識(shí)別場景。根據(jù)不同場景，推薦最優(yōu)權(quán)值，并將最終的權(quán)值反饋到場景識(shí)別模塊，使得推薦不斷進(jìn)化。

1.3 基于AI的智能邊緣計(jì)算

邊緣計(jì)算具備支持AI運(yùn)算的能力，使得可以在邊緣節(jié)點(diǎn)上，配合中心的DC 以及用戶的終端來做AI 業(yè)務(wù)的智能優(yōu)化。

a）本地緩存?；贏I 對(duì)用戶的業(yè)務(wù)流和用戶移動(dòng)模式進(jìn)行預(yù)測分析，有針對(duì)性地確定預(yù)存內(nèi)容和推送內(nèi)容，從而提高內(nèi)容分發(fā)效率。

b）智能定位。通過位置已知的終端測量的各無線通信系統(tǒng)信號(hào)特征，借助AI、大數(shù)據(jù)收集分析和邊緣計(jì)算節(jié)點(diǎn)的實(shí)時(shí)計(jì)算能力，利用指紋信息指導(dǎo)實(shí)際應(yīng)用中的終端定位。

c）頻譜感知。邊緣計(jì)算節(jié)點(diǎn)基于不同無線系統(tǒng)的頻譜測量結(jié)果，利用AI技術(shù)對(duì)各無線系統(tǒng)在不同區(qū)域的無線環(huán)境特征、用戶行為特征進(jìn)行分析建模，支撐具體應(yīng)用場景。

d）業(yè)務(wù)感知。在邊緣節(jié)點(diǎn)上部署高算力的硬件解析資源，結(jié)合AI和大數(shù)據(jù)能力，分析挖掘數(shù)據(jù)、業(yè)務(wù)和無線環(huán)境之間的內(nèi)在關(guān)聯(lián)，提供更為準(zhǔn)確的業(yè)務(wù)特性識(shí)別。

1.4 基于AI的智能運(yùn)維

a）網(wǎng)絡(luò)健康度檢查。基于大數(shù)據(jù)和人工智能技術(shù)的網(wǎng)絡(luò)健康度分析，預(yù)測網(wǎng)格內(nèi)未來某周期內(nèi)的小區(qū)網(wǎng)絡(luò)質(zhì)量并進(jìn)行預(yù)警，針對(duì)質(zhì)差小區(qū)，分析引起質(zhì)差的關(guān)鍵指標(biāo)及可能的原因。

b）網(wǎng)絡(luò)告警關(guān)聯(lián)和故障定位。傳統(tǒng)網(wǎng)絡(luò)運(yùn)維管理人員分析網(wǎng)絡(luò)警告、判斷告警原因、查找告警根源、定位并排除故障，耗時(shí)耗力。神經(jīng)網(wǎng)絡(luò)系統(tǒng)通過不斷學(xué)習(xí)和訓(xùn)練，計(jì)算、翻譯和調(diào)整分布于神經(jīng)網(wǎng)絡(luò)當(dāng)中的連接權(quán)值，以整體的方式表達(dá)關(guān)聯(lián)規(guī)則和故障診斷結(jié)果，準(zhǔn)確定位網(wǎng)絡(luò)故障。

c）基于AI 的智能基站節(jié)能。在5G 基站中，通過AI 輔助的業(yè)務(wù)分析、場景識(shí)別建立一個(gè)流量變化模型，來控制載波的智能關(guān)斷，從而降低基站功耗。

2 深度學(xué)習(xí)訓(xùn)練與服務(wù)平臺(tái)

2.1 總體技術(shù)框架

基于AI 的深度學(xué)習(xí)訓(xùn)練與服務(wù)平臺(tái)利用AutoML等相關(guān)技術(shù)，通過硬件虛擬化、算法服務(wù)化以及軟件平臺(tái)化等相關(guān)技術(shù)，在支持Tensorflow、Torch/Pytorch、MxNet、PaddlePaddle 等深度學(xué)習(xí)框架的基礎(chǔ)上，提供通用的網(wǎng)絡(luò)模型（如VGG、LSTM、seq2seq、Inception-Net、mobileNet）支持，并支持多種不同數(shù)據(jù)結(jié)構(gòu)的數(shù)據(jù)預(yù)處理和標(biāo)注。

整個(gè)平臺(tái)包括硬件層、數(shù)據(jù)/算法層、模型訓(xùn)練層以及模型部署層，以及貫穿各個(gè)不同層次管理相關(guān)功能，如圖1所示。

硬件環(huán)境層主要通過虛擬化的方式提供本地的GPU計(jì)算環(huán)境，或者直接訪問云端的相應(yīng)計(jì)算環(huán)境。

數(shù)據(jù)與模型層主要包括樣本數(shù)據(jù)中心和模型算法管理中心。樣本數(shù)據(jù)中心從樣本的種類來說，支持圖像樣本數(shù)據(jù)和文本樣本數(shù)據(jù)，從數(shù)據(jù)模型角度來說，支持文檔數(shù)據(jù)、圖數(shù)據(jù)庫、對(duì)象數(shù)據(jù)庫等。模型算法管理主要包括模型庫和相關(guān)的模型配置庫。模型庫中的模型支持tensorflow、pytorch、Caffe 以及CNKT等多種不同的深度學(xué)習(xí)框架，并涵蓋了多種常用的網(wǎng)絡(luò)結(jié)構(gòu)。平臺(tái)將提供對(duì)樣本數(shù)據(jù)以及模型的相關(guān)管理功能，如查詢、更新、新建、導(dǎo)入導(dǎo)出等。

模型訓(xùn)練與優(yōu)化層主要是算法的開發(fā)人員根據(jù)應(yīng)用需求，檢索相應(yīng)的模型以及模型配置信息，采用相應(yīng)的數(shù)據(jù)標(biāo)注工具，生成特定的標(biāo)注數(shù)據(jù)，并基于此數(shù)據(jù)，選定特定的模型以及相應(yīng)的實(shí)現(xiàn)框架，通過人工或自動(dòng)的方式對(duì)模型的超參數(shù)進(jìn)行選擇，并對(duì)模型訓(xùn)練結(jié)果進(jìn)行相應(yīng)的評(píng)估，來實(shí)施對(duì)模型超參數(shù)（如學(xué)習(xí)率、隱含層層數(shù)，卷積核大小等）的調(diào)節(jié)，從而構(gòu)建出最優(yōu)化的深度學(xué)習(xí)模型。

圖1 平臺(tái)總體框架

模型部署與服務(wù)提供層主要針對(duì)最終的模型用戶。該層主要將模型訓(xùn)練層所得到的最佳模型進(jìn)行打包部署。部署的模式有2種：基于WebAPI的部署和離線SDK 部署?；赪ebAPI 的部署將模型部署在平臺(tái)環(huán)境中，并利用平臺(tái)所提供的軟/硬件環(huán)境和相關(guān)的計(jì)算資源，為用戶提供服務(wù)，用戶可通過OpenAPI的方式來調(diào)用和使用服務(wù)。離線SDK 將和模型運(yùn)行相關(guān)的所有軟件環(huán)境打包，并通過SDK 的方式部署到用戶的生產(chǎn)環(huán)境中，利用用戶自身的硬件資源來進(jìn)行計(jì)算。離線SDK可以脫離本平臺(tái)環(huán)境獨(dú)立使用。

2.2 平臺(tái)主要功能

端到端的深度學(xué)習(xí)訓(xùn)練和服務(wù)平臺(tái)將在分析現(xiàn)有模型和框架的基礎(chǔ)上，為用戶提供統(tǒng)一的模型和框架選擇結(jié)構(gòu)，并進(jìn)一步給出模型所需要設(shè)定的超參數(shù)集合以及參數(shù)的選擇范圍。主要包括以下功能。

a）數(shù)據(jù)處理與數(shù)據(jù)標(biāo)注。完成對(duì)樣本數(shù)據(jù)的標(biāo)注處理，并將標(biāo)注后的數(shù)據(jù)根據(jù)模型需要轉(zhuǎn)換成特定的格式。深度學(xué)習(xí)模型的訓(xùn)練和應(yīng)用依賴于海量的數(shù)據(jù)積累，特別是對(duì)于模式有監(jiān)督學(xué)習(xí)，還需要對(duì)海量數(shù)據(jù)進(jìn)行標(biāo)注。深度學(xué)習(xí)所采用的網(wǎng)絡(luò)模型和算法根據(jù)確定樣本數(shù)據(jù)的格式和標(biāo)注方法，我們將通過分析現(xiàn)有的模型和樣本數(shù)據(jù)的關(guān)系，建立起常用的數(shù)據(jù)格式，并提供相應(yīng)的樣本標(biāo)注工具來生成相應(yīng)的標(biāo)注數(shù)據(jù)。項(xiàng)目將根據(jù)業(yè)務(wù)的需求構(gòu)建多種不同的樣本標(biāo)注工具，包括圖像的標(biāo)注工具，文本的標(biāo)注工具（包括文本的意圖標(biāo)注、文本的情感標(biāo)注、文本的命名實(shí)體標(biāo)注、文本的語言模型標(biāo)注等）。

b）模型選擇與優(yōu)化。根據(jù)應(yīng)用需求，選定相應(yīng)的深度學(xué)習(xí)框架和網(wǎng)絡(luò)模型結(jié)構(gòu)，并對(duì)模型的超參數(shù)進(jìn)行調(diào)優(yōu)，內(nèi)容涉及模型的訓(xùn)練、評(píng)估、對(duì)比以及模型調(diào)參。隨著深度學(xué)習(xí)技術(shù)的不斷發(fā)展，深度學(xué)習(xí)框架越來越多，不同的框架所生成的模型都有所不同，需要支持這些不同框架所提供的深度學(xué)習(xí)模型。另一方面，為了滿足業(yè)務(wù)的需求，研究人員已經(jīng)提出了大量的網(wǎng)絡(luò)模型。針對(duì)不同的業(yè)務(wù)需求，開發(fā)人員需要對(duì)網(wǎng)絡(luò)機(jī)構(gòu)和深度框架進(jìn)行選擇，該選擇需要開發(fā)人員具有全面的網(wǎng)絡(luò)和框架基礎(chǔ)。平臺(tái)在分析現(xiàn)有模型和框架的基礎(chǔ)上，為用戶提供統(tǒng)一的模型和框架選擇結(jié)構(gòu)，并進(jìn)一步給出模型所需要的設(shè)定的超參數(shù)集合以及參數(shù)的可能選擇范圍。

c）模型的部署和服務(wù)。根據(jù)應(yīng)用的需求，將訓(xùn)練好的模型進(jìn)行一鍵部署，為用戶提供WebAPI 或者離線SDK供客戶端調(diào)用。

2.3 重點(diǎn)解決問題

平臺(tái)針對(duì)特定的5G應(yīng)用領(lǐng)域，提供端到端的深度學(xué)習(xí)訓(xùn)練和服務(wù)，降低深度學(xué)習(xí)模型構(gòu)建和訓(xùn)練的門檻，重點(diǎn)解決了以下問題。

a）標(biāo)準(zhǔn)化的數(shù)據(jù)管理與數(shù)據(jù)標(biāo)注，為深度學(xué)習(xí)提供標(biāo)準(zhǔn)的數(shù)據(jù)樣本。

b）智能化的模型選擇與模型優(yōu)化，實(shí)現(xiàn)深度學(xué)習(xí)模型超參數(shù)的自動(dòng)選擇和優(yōu)化。

c）自動(dòng)化的模型部署與服務(wù)提供，提供模型的部署意見，并按需提供模型服務(wù)功能。

3 實(shí)際應(yīng)用案例

平臺(tái)使用戶可以快速地基于自己的數(shù)據(jù)來構(gòu)建并訓(xùn)練得到滿足用戶需求的最佳深度網(wǎng)絡(luò)模型，最終開發(fā)5G領(lǐng)域的人工智能應(yīng)用。

實(shí)際應(yīng)用案例為某省運(yùn)營商的基于訓(xùn)練服務(wù)平臺(tái)的智能電話機(jī)器人系統(tǒng)。

本系統(tǒng)是智能機(jī)器人+呼叫系統(tǒng)+報(bào)表展示三位一體的智能調(diào)研應(yīng)用，助力企業(yè)提升用戶回訪效率，降低成本，實(shí)現(xiàn)降本增效。模型的核心是讓機(jī)器人正確理解用戶所希望表達(dá)的意圖，并基于理解的結(jié)果根據(jù)業(yè)務(wù)邏輯作出相應(yīng)的反饋，目前在意圖識(shí)別中采用了基于CNN、RNN/LSTM 等多種不同的模型結(jié)果，如圖2所示。

圖2 智能機(jī)器人模型

為了實(shí)現(xiàn)業(yè)務(wù)邏輯和算法之間松散耦合性，我們利用有限狀態(tài)機(jī)的方式來對(duì)不同的業(yè)務(wù)場景進(jìn)行建模，如圖3所示。

圖3 業(yè)務(wù)場景建模

系統(tǒng)模擬測試用例：某省運(yùn)營商綜合滿意度回訪，問卷內(nèi)容為綜合滿意度、NPS、各服務(wù)環(huán)節(jié)滿意度+不滿原因追問，成功樣本量達(dá)到1 000本。

經(jīng)過測試，達(dá)到以下指標(biāo)。

a）機(jī)器人電話接通率與人工相當(dāng)，達(dá)到50%。

b）機(jī)器人問卷成功率為14%，略高于人工（10%）。

c）機(jī)器人成功樣本平均用時(shí)6 min，低于人工的7～8 min。

d）機(jī)器人4 條線路，每條線路日均成功量30 個(gè)，日均成功量共計(jì)120 單，執(zhí)行周期從原來13 天（4 個(gè)人工客服）壓縮為8天。

4 結(jié)束語

本文研究并實(shí)現(xiàn)了一種使能5G 的AI 深度學(xué)習(xí)訓(xùn)練與服務(wù)平臺(tái)。該平臺(tái)經(jīng)通信實(shí)際項(xiàng)目應(yīng)用檢驗(yàn)，具備海量、高并發(fā)、安全可靠的運(yùn)行能力，可廣泛應(yīng)用于5G建設(shè)與維護(hù)領(lǐng)域。