AI倒逼通信業(yè)“重構(gòu)建”

李強(qiáng)

2021年4月，來(lái)自于亞信科技、中國(guó)移動(dòng)、中國(guó)電信、清華大學(xué)以及其他中外運(yùn)營(yíng)商和高校的資深專家們，以一篇《通信人工智能的下一個(gè)十年》，就移動(dòng)通信與人工智能的協(xié)同發(fā)展，對(duì)沿革進(jìn)行了梳理，對(duì)未來(lái)進(jìn)行了展望。中國(guó)移動(dòng)抓住時(shí)代機(jī)遇，全面推進(jìn)數(shù)智化轉(zhuǎn)型，打造基于大數(shù)據(jù)、AI等技術(shù)的一站式解決方案。其中，中國(guó)移動(dòng)創(chuàng)新研究院落地杭州上城區(qū)，是移動(dòng)公司踐行數(shù)智化轉(zhuǎn)型過(guò)程中堅(jiān)實(shí)有力的一步。中國(guó)聯(lián)通陜西省政府、天津市政府分別簽訂戰(zhàn)略合作協(xié)議，致力于將5G技術(shù)與應(yīng)用于數(shù)字政府、智慧城市、智慧醫(yī)療、智慧教育等多個(gè)領(lǐng)域。

風(fēng)險(xiǎn)不可避免

然而，智能技術(shù)的不確定性與高滲透率決定了其構(gòu)建與應(yīng)用必將帶來(lái)一定的風(fēng)險(xiǎn)。對(duì)于任何一家通信企業(yè)或科技企業(yè)而言，這些風(fēng)險(xiǎn)不易避免。通信行業(yè)將全面認(rèn)識(shí)以AI為主的智能技術(shù)的潛在風(fēng)險(xiǎn)，深入分析技術(shù)與風(fēng)險(xiǎn)的內(nèi)在聯(lián)系。

戰(zhàn)略風(fēng)險(xiǎn)

內(nèi)外部危機(jī)。對(duì)內(nèi)，數(shù)智化轉(zhuǎn)型勢(shì)必使內(nèi)部資源向智能技術(shù)研發(fā)等新業(yè)務(wù)傾斜，導(dǎo)致傳統(tǒng)業(yè)務(wù)可能面臨結(jié)構(gòu)及人員的調(diào)整問(wèn)題。對(duì)外，AI創(chuàng)新企業(yè)間的競(jìng)爭(zhēng)會(huì)導(dǎo)致企業(yè)盲目發(fā)展非優(yōu)勢(shì)產(chǎn)業(yè)，形成惡性競(jìng)爭(zhēng);技術(shù)相關(guān)部門(mén)間的競(jìng)爭(zhēng)可能引發(fā)重復(fù)建設(shè)問(wèn)題，甚至導(dǎo)致業(yè)務(wù)分割。

數(shù)據(jù)與技術(shù)壟斷。AI算法的訓(xùn)練過(guò)程依賴于數(shù)據(jù)產(chǎn)生的正反饋循環(huán)，擁有著大量數(shù)據(jù)的企業(yè)能夠訓(xùn)練出更優(yōu)秀的數(shù)據(jù)模型，從而帶來(lái)更好的體驗(yàn)與更多的拓展功能;另一方面，更多的客戶被上述條件所吸引，從而帶來(lái)更多數(shù)據(jù)與模型。因此，智能技術(shù)行業(yè)也不可避免地傾向于壟斷。類(lèi)似移動(dòng)集團(tuán)這樣的通信公司，雖然擁有著大量用戶數(shù)據(jù)和行為數(shù)據(jù)，但在外部數(shù)據(jù)積累、算法、算力等方面還依賴于第三方供應(yīng)商，尤其對(duì)芯片、操作系統(tǒng)、底層算法通用架構(gòu)等。存在個(gè)別供應(yīng)商有能力壟斷這些技術(shù)的輸出權(quán)與定價(jià)權(quán)，隨時(shí)實(shí)施網(wǎng)絡(luò)監(jiān)控或禁止合作，制約通信行業(yè)在人工智能領(lǐng)域的發(fā)展。

?技術(shù)風(fēng)險(xiǎn)

基礎(chǔ)薄弱。智能技術(shù)創(chuàng)新所需要的相關(guān)技術(shù)不成熟、相應(yīng)數(shù)據(jù)能力不完備、相關(guān)技術(shù)人員能力不足、現(xiàn)有設(shè)備計(jì)算能力不足或存在固有漏洞等，不足以匹配智能應(yīng)用對(duì)外部資源的要求，會(huì)導(dǎo)致企業(yè)數(shù)智化轉(zhuǎn)型起步遲緩且易暴露于外部攻擊造成信息泄露等。

“偽”人工智能。人工代替AI工作、AI成果造假?gòu)亩@取企業(yè)資金投入、把預(yù)設(shè)程序稱為AI等“偽”人工智能行為，可能導(dǎo)致AI的“虛假繁華”;內(nèi)部人員為應(yīng)對(duì)企業(yè)轉(zhuǎn)型任務(wù)，可能會(huì)劍走偏鋒，通過(guò)成果造假、數(shù)據(jù)造假、成果竊取等手段應(yīng)對(duì)上層的轉(zhuǎn)型需求。

運(yùn)營(yíng)風(fēng)險(xiǎn)

不準(zhǔn)確性與不可解釋性。智能技術(shù)學(xué)習(xí)的準(zhǔn)確性是由數(shù)據(jù)質(zhì)量、特征維度、算法、訓(xùn)練時(shí)間、參數(shù)設(shè)計(jì)等因素決定的。當(dāng)使用智能技術(shù)手段輸出的結(jié)果不準(zhǔn)確或偏離預(yù)期時(shí)，對(duì)內(nèi)會(huì)與管理層的決策相悖，導(dǎo)致內(nèi)部對(duì)智能技術(shù)的輸出不信任;對(duì)外會(huì)造成預(yù)測(cè)錯(cuò)誤，影響客戶選擇，造成經(jīng)濟(jì)損失。而由于算法黑箱的特性，包括技術(shù)人員在內(nèi)的人常常無(wú)法對(duì)相關(guān)算法、模型及其給出的結(jié)果進(jìn)行合理的解釋，甚至引發(fā)監(jiān)督審查困境。

通信公司在大力推動(dòng)智能技術(shù)發(fā)展的同時(shí)，也不能忽略對(duì)其風(fēng)險(xiǎn)自身的研究，并適時(shí)開(kāi)展內(nèi)部審計(jì)工作，因此需要建立相應(yīng)的研究與監(jiān)控組織。

算法偏見(jiàn)與歧視。智能技術(shù)的優(yōu)勢(shì)在于算法的中立，進(jìn)而滿足推薦、分析、預(yù)測(cè)等場(chǎng)景應(yīng)用的客觀化。但是，在沒(méi)有惡意的算法設(shè)計(jì)中，卻可能存在開(kāi)發(fā)人員的“偏見(jiàn)”或采用了帶有“偏見(jiàn)”的數(shù)據(jù)，從而在輸出端表現(xiàn)為性別歧視、仇外思想、確認(rèn)偏誤等，而這種機(jī)器偏見(jiàn)被隱藏在了科技的客觀性之下。

監(jiān)管風(fēng)險(xiǎn)

知識(shí)產(chǎn)權(quán)與數(shù)據(jù)資產(chǎn)保護(hù)爭(zhēng)議。智能機(jī)器人能夠收集并儲(chǔ)存大量的他人已享有著作權(quán)的信息，這可能構(gòu)成非法復(fù)制他人的作品，從而構(gòu)成對(duì)他人著作權(quán)的侵害。若利用他人享有著作權(quán)的知識(shí)和信息進(jìn)行學(xué)習(xí)并最終創(chuàng)作出有相似內(nèi)容的作品，存在構(gòu)成剽竊的可能?！睹穹倓t》第127條對(duì)數(shù)據(jù)的保護(hù)規(guī)則作出了規(guī)定，數(shù)據(jù)在性質(zhì)上屬于新型財(cái)產(chǎn)權(quán)，但數(shù)據(jù)保護(hù)問(wèn)題并不限于財(cái)產(chǎn)權(quán)的歸屬和分配問(wèn)題，還涉及此類(lèi)財(cái)產(chǎn)權(quán)的安全，特別是涉及國(guó)家安全。

隱私泄露。數(shù)據(jù)在技術(shù)中的大規(guī)模應(yīng)用也極大地增加了隱私入侵的機(jī)會(huì)，對(duì)個(gè)人隱私實(shí)現(xiàn)了直接監(jiān)控，同時(shí)，其迷惑性的侵害隱私的行為能夠以類(lèi)人的方式收集客戶信息。在國(guó)外，《健康保險(xiǎn)可移植性和責(zé)任法案》（HIPAA）要求公司在披露個(gè)人健康信息之前必須獲得授權(quán)，歐盟的《通用隱私數(shù)據(jù)保護(hù)條例》（GDPR）等國(guó)際框架幫助消費(fèi)者更好地控制個(gè)人數(shù)據(jù)的收集和使用。但我國(guó)仍未完善隱私保護(hù)的法律體系，未對(duì)隱私保護(hù)的技術(shù)路徑、市場(chǎng)機(jī)制和倫理原則引起足夠的重視。由智能技術(shù)導(dǎo)致的監(jiān)管風(fēng)險(xiǎn)，將會(huì)大大降低智能技術(shù)的可信度，提高合規(guī)成本。

聲譽(yù)風(fēng)險(xiǎn)

企業(yè)不良形象。由AI應(yīng)用導(dǎo)致的錯(cuò)誤決策、違規(guī)行為、數(shù)據(jù)泄露等企業(yè)丑聞，即便企業(yè)花費(fèi)大量的時(shí)間和精力用于事后的危機(jī)管理，也難于彌補(bǔ)對(duì)自身聲譽(yù)造成的實(shí)質(zhì)性損害。公眾將對(duì)企業(yè)形成內(nèi)部管理混亂、管理層能力不足、企業(yè)缺乏社會(huì)責(zé)任等不良印象。

內(nèi)部信任危機(jī)。隨著智能技術(shù)系統(tǒng)的日趨復(fù)雜，企業(yè)或?qū)㈦y以對(duì)其進(jìn)行密切監(jiān)控，而復(fù)雜的算法也不能對(duì)決策作出合理的解釋，企業(yè)無(wú)法完完全全將決策的權(quán)力交予機(jī)器，這就容易導(dǎo)致企業(yè)內(nèi)部的信任危機(jī)。業(yè)務(wù)部門(mén)或許無(wú)法完全基于技術(shù)部門(mén)給出的智能運(yùn)算結(jié)果開(kāi)展業(yè)務(wù)，技術(shù)部門(mén)或許也無(wú)法完全信任業(yè)務(wù)部門(mén)提交的數(shù)據(jù)和指標(biāo)。

應(yīng)對(duì)智能技術(shù)風(fēng)險(xiǎn)

通信企業(yè)將著力于制定出更加科學(xué)的監(jiān)管制度和體系，深入挖掘數(shù)智化轉(zhuǎn)型的相關(guān)風(fēng)險(xiǎn)，通過(guò)以風(fēng)險(xiǎn)為導(dǎo)向的內(nèi)部控制方式對(duì)其實(shí)現(xiàn)預(yù)測(cè)、監(jiān)督與管控，不斷完善規(guī)章制度體系建設(shè)，合理確定各種風(fēng)險(xiǎn)的應(yīng)對(duì)策略。構(gòu)建以智能技術(shù)發(fā)展決策為風(fēng)險(xiǎn)預(yù)防堡壘、以技術(shù)風(fēng)險(xiǎn)研究為導(dǎo)向、以內(nèi)部審計(jì)為監(jiān)測(cè)手段、以多部門(mén)及相關(guān)企業(yè)聯(lián)合治理的“可信賴”智能技術(shù)風(fēng)險(xiǎn)防控機(jī)制。

構(gòu)建完善的發(fā)展決策體系

建立完整謹(jǐn)慎的智能技術(shù)發(fā)展決策體系，以推動(dòng)企業(yè)轉(zhuǎn)型。發(fā)展決策體系是將企業(yè)的決策組織、決策流程、決策規(guī)范進(jìn)行有機(jī)整合，防止權(quán)力的交叉或真空，以確保企業(yè)經(jīng)營(yíng)管理有序進(jìn)行。具體包括：

設(shè)計(jì)并建立健全的決策組織。企業(yè)決策是一個(gè)從簡(jiǎn)單到復(fù)雜的圖譜，所涉及的各領(lǐng)域問(wèn)題也寬泛復(fù)雜，為了增加決策的有效性，必須明確規(guī)定權(quán)利主體。對(duì)于通信企業(yè)而言，推動(dòng)智能技術(shù)創(chuàng)新的決策組織人員不宜過(guò)多，以輕量級(jí)、決策快為特點(diǎn)構(gòu)建集權(quán)式、扁平化團(tuán)隊(duì)。團(tuán)隊(duì)成員應(yīng)分別來(lái)自各核心的業(yè)務(wù)、技術(shù)、職能部門(mén)，熟悉公司業(yè)務(wù)且了解戰(zhàn)略發(fā)展，并建議由一位技術(shù)發(fā)展決策專員統(tǒng)一領(lǐng)導(dǎo)。其次，決策者的行為由利益驅(qū)動(dòng)、由責(zé)任約束、由權(quán)力保障，因此需要根據(jù)組織團(tuán)隊(duì)的特點(diǎn)，對(duì)決策進(jìn)行全面梳理、模塊分類(lèi)，建立與權(quán)力結(jié)構(gòu)相適應(yīng)的利益結(jié)構(gòu)，實(shí)現(xiàn)團(tuán)隊(duì)成員的職責(zé)劃分，做到權(quán)責(zé)統(tǒng)一。

制定清晰的決策流程。基于反映自身通過(guò)技術(shù)創(chuàng)新活動(dòng)所要達(dá)到的經(jīng)濟(jì)預(yù)期的目的，技術(shù)部門(mén)需要依據(jù)市場(chǎng)需求，在技術(shù)研發(fā)上制定需要達(dá)到的階段性目標(biāo)，并且明確技術(shù)創(chuàng)新主體的主觀意志與服務(wù)對(duì)象，尤其當(dāng)服務(wù)對(duì)象為大眾市場(chǎng)時(shí)。同時(shí)，根據(jù)團(tuán)隊(duì)責(zé)任的劃分，共同議定項(xiàng)目評(píng)估流程，確定決策權(quán)重。并且依托權(quán)利保證、組織保證、信息系統(tǒng)保證等，作好方案評(píng)估、方案論證和決策宣傳，提供及時(shí)、準(zhǔn)確、適用的信息支撐。

建立完善的決策規(guī)范。管理層需從操作、約束、權(quán)限等角度建立相應(yīng)的規(guī)范。在數(shù)據(jù)方面，考慮數(shù)據(jù)集成、管控與共享等流程，并適當(dāng)執(zhí)行數(shù)據(jù)治理流程，完善數(shù)據(jù)管理;在模型方面，考慮輸入數(shù)據(jù)結(jié)構(gòu)、模型操作與權(quán)限約束;在客戶方面，考慮多渠道收集信息、全方面刻畫(huà)客戶畫(huà)像、注重個(gè)性化服務(wù)。始終滿足（1）監(jiān)管要求;（2）制度層面能夠防范AI風(fēng)險(xiǎn);（3）實(shí)際執(zhí)行能夠滿足規(guī)范要求。

建立技術(shù)風(fēng)險(xiǎn)研究組織

在大力推動(dòng)智能技術(shù)發(fā)展的同時(shí)，也不能忽略對(duì)其風(fēng)險(xiǎn)自身的研究，并適時(shí)開(kāi)展內(nèi)部審計(jì)工作，因此需要建立相應(yīng)的研究與監(jiān)控組織，具體包括：

技術(shù)研究與風(fēng)險(xiǎn)研究并行。盲目地推動(dòng)顛覆性技術(shù)發(fā)展會(huì)弱化對(duì)風(fēng)險(xiǎn)研究的重視，技術(shù)的大幅進(jìn)步更容易隱藏業(yè)務(wù)安全隱患。因此，建議企業(yè)設(shè)立相應(yīng)的智能技術(shù)風(fēng)險(xiǎn)研究崗位，深度探究智能技術(shù)發(fā)展為企業(yè)內(nèi)部、技術(shù)本身、對(duì)外合作等方面帶來(lái)的影響與風(fēng)險(xiǎn)應(yīng)對(duì)措施。該組織的人員需具備一定的技術(shù)能力、了解技術(shù)風(fēng)險(xiǎn)點(diǎn)和業(yè)務(wù)流程，并熟悉風(fēng)險(xiǎn)管理理念，從技術(shù)的角度將風(fēng)險(xiǎn)扼殺于萌芽階段。

構(gòu)建專業(yè)審計(jì)團(tuán)隊(duì)。針對(duì)智能技術(shù)的審計(jì)工作將檢查相關(guān)部門(mén)是否按計(jì)劃執(zhí)行技術(shù)實(shí)施工作、能否達(dá)到有效的創(chuàng)新效益、是否存在信息泄露或違規(guī)操作等。相關(guān)審計(jì)人員將具備一定的軟硬件基礎(chǔ)知識(shí)和智能技術(shù)常識(shí)，審計(jì)團(tuán)隊(duì)中應(yīng)適當(dāng)加入信息安全專家、IT系統(tǒng)專家、算法專家等成員。由于智能技術(shù)更新周期短、涉及范圍廣，企業(yè)應(yīng)引入培訓(xùn)機(jī)制定期對(duì)審計(jì)團(tuán)隊(duì)進(jìn)行相關(guān)技術(shù)的培訓(xùn)。

風(fēng)險(xiǎn)研究與內(nèi)部審計(jì)柔性結(jié)合。風(fēng)險(xiǎn)研究組織將與內(nèi)部審計(jì)團(tuán)隊(duì)緊密聯(lián)系，適當(dāng)時(shí)可組建風(fēng)險(xiǎn)防控的柔性組織，形成信息互通、能力互補(bǔ)、技術(shù)共享，工作內(nèi)容包括預(yù)警模型設(shè)計(jì)、風(fēng)險(xiǎn)信息管理、持續(xù)監(jiān)測(cè)并定期擬定相關(guān)風(fēng)險(xiǎn)分析報(bào)告。例如，內(nèi)部審計(jì)團(tuán)隊(duì)能夠搭建特定的審計(jì)框架與數(shù)據(jù)需求，IT技術(shù)團(tuán)隊(duì)負(fù)責(zé)承接技術(shù)需求并幫助內(nèi)審團(tuán)隊(duì)獲取、整合和分析數(shù)據(jù)，從而共同發(fā)現(xiàn)審計(jì)問(wèn)題與風(fēng)險(xiǎn)。

通信企業(yè)需要擁抱機(jī)遇，積極應(yīng)對(duì)智能技術(shù)風(fēng)險(xiǎn)，提前部署體制，謹(jǐn)防風(fēng)險(xiǎn)管理與企業(yè)戰(zhàn)略產(chǎn)生割裂。

建立針對(duì)智能技術(shù)的審計(jì)方式

風(fēng)險(xiǎn)管控部門(mén)需要持續(xù)監(jiān)測(cè)智能技術(shù)相關(guān)系統(tǒng)的建設(shè)與應(yīng)用，確保系統(tǒng)性能的可靠性、完整性與前瞻性。具體包括：

持續(xù)風(fēng)控/審計(jì)模型的構(gòu)建與應(yīng)用。通信企業(yè)在過(guò)去的審計(jì)與風(fēng)控工作中，積累了大量審計(jì)/風(fēng)控規(guī)則，能應(yīng)用于搭建具備可持續(xù)挖掘?qū)徲?jì)問(wèn)題/風(fēng)險(xiǎn)的規(guī)則模型;同時(shí)，企業(yè)積累了大量的業(yè)務(wù)數(shù)據(jù)、客戶信息、行為數(shù)據(jù)，有能力設(shè)計(jì)并提取有效的風(fēng)險(xiǎn)特征，用于搭建機(jī)器學(xué)習(xí)模型進(jìn)行訓(xùn)練，使用邏輯回歸、GBDT、神經(jīng)網(wǎng)絡(luò)等技術(shù)在訓(xùn)練數(shù)據(jù)上搭建風(fēng)控模型，通過(guò)AUC等指標(biāo)判斷模型的準(zhǔn)確率，不斷完善模型框架并最終進(jìn)行信息化落地。

提高算法的透明度。鼓勵(lì)技術(shù)人員將算法的可解釋性作為在模型投入生產(chǎn)之前獲得合規(guī)批準(zhǔn)的必要步驟。在技術(shù)部門(mén)的協(xié)助下，制定算法透明度度量標(biāo)準(zhǔn)，根據(jù)任務(wù)重要程度適當(dāng)調(diào)整算法的透明度。

建立針對(duì)智能技術(shù)的審計(jì)方式。定期針對(duì)技術(shù)領(lǐng)域開(kāi)展1?2個(gè)專項(xiàng)審計(jì)，例如：客戶敏感信息審計(jì)、系統(tǒng)日志審計(jì)、重要系統(tǒng)賬號(hào)口令審計(jì)等。同時(shí)，依托企業(yè)內(nèi)部的審計(jì)經(jīng)驗(yàn)及相關(guān)技術(shù)資源積累，利用互聯(lián)網(wǎng)Web應(yīng)用訪問(wèn)日志、網(wǎng)絡(luò)流量日志、設(shè)備監(jiān)控日志、安全威脅態(tài)勢(shì)等信息，開(kāi)展AI建設(shè)與應(yīng)用審計(jì)工作，及時(shí)發(fā)現(xiàn)潛在安全威脅及已經(jīng)面臨的風(fēng)險(xiǎn)。

敏捷且動(dòng)態(tài)地治理

風(fēng)險(xiǎn)管控相關(guān)部門(mén)通過(guò)運(yùn)用敏捷且動(dòng)態(tài)的智能技術(shù)風(fēng)險(xiǎn)治理方式，聯(lián)合其他組織部門(mén)，形成多方聯(lián)動(dòng)機(jī)制。具體包括：

持續(xù)跟進(jìn)多領(lǐng)域的智能技術(shù)風(fēng)險(xiǎn)問(wèn)題。設(shè)專人及時(shí)追蹤社會(huì)、監(jiān)管、企業(yè)聲譽(yù)、倫理等領(lǐng)域新出現(xiàn)的智能技術(shù)相關(guān)問(wèn)題，并及時(shí)反饋至管理層，從而及時(shí)對(duì)企業(yè)內(nèi)部系統(tǒng)完整性、數(shù)據(jù)采購(gòu)及管理、模型訓(xùn)練及使用進(jìn)行企業(yè)內(nèi)部自查，并及時(shí)做出調(diào)整。

建立多部門(mén)聯(lián)動(dòng)機(jī)制。在企業(yè)數(shù)字化轉(zhuǎn)型之初，管理層需強(qiáng)化部門(mén)協(xié)調(diào)聯(lián)動(dòng)，通過(guò)建立部門(mén)間信息溝通、規(guī)劃統(tǒng)籌、協(xié)調(diào)服務(wù)、跟蹤問(wèn)效等多項(xiàng)制度，完善牽頭部門(mén)負(fù)責(zé)、相關(guān)部門(mén)配合、集團(tuán)公司監(jiān)督的部門(mén)協(xié)調(diào)聯(lián)動(dòng)機(jī)制，幫助智能技術(shù)服務(wù)在企業(yè)內(nèi)外部高效落地。對(duì)涉及部門(mén)灌輸和培養(yǎng)風(fēng)險(xiǎn)優(yōu)化的意識(shí)，從產(chǎn)品設(shè)計(jì)之初就將信任的概念嵌入到服務(wù)和產(chǎn)品中，使得利益相關(guān)方能夠在技術(shù)服務(wù)中建立信任，追求長(zhǎng)期的價(jià)值。

數(shù)字化浪潮帶來(lái)了新的機(jī)遇，也帶來(lái)了新的風(fēng)險(xiǎn)和困難。對(duì)于通信企業(yè)而言，需要擁抱機(jī)遇，積極應(yīng)對(duì)智能技術(shù)風(fēng)險(xiǎn)，提前部署體制，規(guī)范落實(shí)機(jī)制，謹(jǐn)防風(fēng)險(xiǎn)管理與企業(yè)戰(zhàn)略產(chǎn)生割裂，避免風(fēng)險(xiǎn)預(yù)警與管控缺乏時(shí)效性，大力推動(dòng)企業(yè)數(shù)字化轉(zhuǎn)型進(jìn)程，在時(shí)代的風(fēng)雪中抱薪前行。

*?作者系中國(guó)移動(dòng)通信集團(tuán)浙江有限公司內(nèi)審部專項(xiàng)審計(jì)部經(jīng)理