AI 虛擬主播行業(yè)快速擴(kuò)張的風(fēng)險(xiǎn)及應(yīng)對(duì)

◎李碧珍 徐殿秀 胡良艷

AI虛擬主播是基于人工智能技術(shù)的虛擬人物， 背后集成了深度學(xué)習(xí)、 神經(jīng)網(wǎng)絡(luò)、 生成式對(duì)抗網(wǎng)絡(luò)、 自然語(yǔ)言處理、 多模態(tài)建模、 語(yǔ)音合成、 計(jì)算機(jī)視覺(jué)等綜合技術(shù)， 其在社交、 傳播、 營(yíng)銷(xiāo)等領(lǐng)域的價(jià)值正在逐漸顯現(xiàn)。 從用戶(hù)生成內(nèi)容 （UGC） 到專(zhuān)業(yè)生成內(nèi)容 （PGC）， 再到現(xiàn)在的人工智能生成內(nèi)容 （AIGC）， 內(nèi)容創(chuàng)作方式正在經(jīng)歷巨大的變革和進(jìn)步。 AIGC 技術(shù)為AI 虛擬主播賦予了更多的表現(xiàn)力和創(chuàng)造力， 推動(dòng)AI 虛擬主播市場(chǎng)逐漸向商業(yè)、 新聞、 金融、 體育、 文藝、 智慧城市、 生活服務(wù)等領(lǐng)域拓展。 AI 虛擬主播能夠通過(guò)計(jì)算機(jī)程序模擬出人類(lèi)的外貌、 聲音和行為， 實(shí)現(xiàn)自動(dòng)化的主播功能， 可以在虛擬世界中進(jìn)行主持、 播報(bào)新聞、 進(jìn)行娛樂(lè)表演等活動(dòng)，其形象和互動(dòng)方式通常是基于虛擬現(xiàn)實(shí)和計(jì)算機(jī)生成的圖像、 動(dòng)畫(huà)或真人演員的合成。 目前關(guān)于AI 虛擬主播的研究主要聚焦對(duì)信息技術(shù)本身的研究和技術(shù)發(fā)展給人們帶來(lái)的福祉與影響的研究。福祉顯而易見(jiàn)， AI 虛擬主播可以不知 “疲倦” 得24 小時(shí)不間斷進(jìn)行工作， 創(chuàng)作效率高、 響應(yīng)速度快、 創(chuàng)作內(nèi)容高度個(gè)性化且能夠持續(xù)更新等。 但在給人類(lèi)帶來(lái)福祉的同時(shí)， 也帶來(lái)了潛在風(fēng)險(xiǎn)和安全隱患。

一、 AI 虛擬主播行業(yè)快速擴(kuò)張的潛在風(fēng)險(xiǎn)

目前， 國(guó)內(nèi)外對(duì)AI 虛擬技術(shù)研發(fā)力度不斷增大， 應(yīng)用領(lǐng)域快速擴(kuò)張。 在AI 技術(shù)不斷升級(jí)的背景下， AI 虛擬主播的外觀與真人主播越來(lái)越像，聲音越來(lái)越逼真、 表情越來(lái)越細(xì)膩， 語(yǔ)音語(yǔ)調(diào)也從原來(lái)的 “機(jī)械語(yǔ)音” 轉(zhuǎn)為 “智能語(yǔ)音”， 如同真人的原音再現(xiàn)。 從外觀外形到聲音表情， 都與真人主播相差無(wú)幾， AI 虛擬主播快速擴(kuò)張暗含著潛在風(fēng)險(xiǎn)。

1.AI 虛擬主播的身份數(shù)據(jù)安全與隱私泄露風(fēng)險(xiǎn)

AI 虛擬主播運(yùn)行的基礎(chǔ)是數(shù)據(jù)， 而數(shù)據(jù)產(chǎn)生的主體則是生命個(gè)體。 AI 虛擬主播所播放的內(nèi)容主要依賴(lài)于收集和分析數(shù)據(jù)， 這些數(shù)據(jù)往往包括個(gè)人隱私及受知識(shí)產(chǎn)權(quán)保護(hù)的相關(guān)信息內(nèi)容， 在信息數(shù)據(jù)的收集、 分析、 處理、 使用的過(guò)程中， 加劇了泄露隱私信息的風(fēng)險(xiǎn)。 尤其是若這些數(shù)據(jù)被未經(jīng)授權(quán)的別有用心的人或組織抓取、 篡改、 濫用， 就可能會(huì)造成個(gè)人或他人的隱私泄露風(fēng)險(xiǎn)，引發(fā)安全問(wèn)題。 AI 虛擬主播與真人主播不同， 其身份信息是靠數(shù)據(jù)和算法而獲得和存在的。 而真人主播作為真人， 具有人所具有的情感情緒、 幻想聯(lián)想、 覺(jué)悟頓悟等， 這些非理性的認(rèn)識(shí)是數(shù)據(jù)無(wú)法實(shí)現(xiàn)的。 把復(fù)雜的人的身份、 本性和特點(diǎn)數(shù)據(jù)化賦予給AI 虛擬主播， 而AI 虛擬主播并不具有控制身份數(shù)據(jù)信息和被輸入的海量播報(bào)內(nèi)容信息的權(quán)力。 這些關(guān)于AI 虛擬主播自身和他人他事的數(shù)據(jù) “輸入” 給AI 虛擬主播的同時(shí)， 也意味著可以通過(guò)技術(shù)將數(shù)據(jù)進(jìn)行盜用、 控制和篡改。 甚至一些AI 軟件利用違法手段在未經(jīng) “信息主人” 授權(quán)的情況下， 擅自 “收集” 他人聲音、 語(yǔ)音、 面部表情以及其他個(gè)人隱私信息等，并對(duì)信息數(shù)據(jù)進(jìn)行整理合成， 通過(guò)智能算法等方式， 推測(cè)出個(gè)人偏好、 行為習(xí)慣等隱私信息。 這無(wú)疑加劇了AI 虛擬主播身份的不確定性， 也加劇了泄露隱私風(fēng)險(xiǎn)。

2. AI 虛擬主播的偏見(jiàn)性和利益傾向?qū)ι鐣?huì)產(chǎn)生的風(fēng)險(xiǎn)

AI 虛擬主播在數(shù)據(jù)生成過(guò)程中會(huì)根據(jù)操控者自身的利益需要選擇具有價(jià)值傾向的傳播信息，進(jìn)而生成帶有偏見(jiàn)性的傳播內(nèi)容。 正如 “科技無(wú)國(guó)界， 但是科技公司有國(guó)籍”， 在AI 虛擬主播的設(shè)計(jì)過(guò)程中通常會(huì)被或有意或無(wú)意地嵌入思想理念、 價(jià)值觀念、 利益傾向等。 同時(shí)， AI 虛擬主播技術(shù)往往被一些資金雄厚、 技術(shù)先進(jìn)、 規(guī)模龐大的大型科技公司所掌握。 公司具有營(yíng)利性和逐利性， 則可能導(dǎo)致相對(duì)于社會(huì)利益和公共利益而言， 其更 “強(qiáng)化” 自身利益， 更追求自身利益最大化， 進(jìn)而更易引發(fā)分配不公等利益失衡現(xiàn)象。甚至?xí)蚣夹g(shù)鴻溝而引發(fā)技術(shù)黑箱， 出現(xiàn)典型的不易感知和發(fā)現(xiàn)的黑箱操縱情況， 進(jìn)而使不平等不公平等隱患加劇。 總之， 隨著AI 虛擬技術(shù)應(yīng)用的領(lǐng)域越來(lái)越多， 如果得不到高度的重視和規(guī)范， 可能引發(fā)失業(yè)率上升、 凸顯社會(huì)不平等問(wèn)題， 具有相當(dāng)社會(huì)風(fēng)險(xiǎn)。

3.AI 虛擬主播技術(shù)應(yīng)用引發(fā)的倫理問(wèn)題與道德挑戰(zhàn)

AI 虛擬主播并非僅僅是技術(shù)的呈現(xiàn)， 其內(nèi)容中可能存在一些價(jià)值爭(zhēng)議或規(guī)范適用的問(wèn)題， 有關(guān)人工智能倫理道德問(wèn)題引起了人們的關(guān)注。 AI虛擬主播作為人工智能可以通過(guò)技術(shù)預(yù)設(shè)的內(nèi)容， 但無(wú)法感知內(nèi)容本身所具有的真實(shí)含義； 可以精準(zhǔn)深入分析數(shù)據(jù)信息， 但無(wú)法知曉數(shù)據(jù)信息的真?zhèn)我约皵?shù)據(jù)背后的真實(shí)情況。 當(dāng)AI虛擬主播技術(shù)被別有用心之人濫用，傳播仇恨言論、 種族主義言論、 性別歧視言論等有害信息， 就容易引發(fā)倫理道德， 甚至法律問(wèn)題。 所以， 當(dāng)把存在價(jià)值爭(zhēng)議、 觀念沖突或規(guī)范適用等問(wèn)題交由技術(shù)來(lái)分析和處理時(shí)， 就有可能使得問(wèn)題愈演愈烈、 持續(xù)惡化。 因?yàn)樵诂F(xiàn)實(shí)社會(huì)關(guān)系中， 在處理存有價(jià)值爭(zhēng)端、 觀念沖突或規(guī)范適用等問(wèn)題時(shí)， 往往需要人與人之間反復(fù)交流溝通、 換位思考、 理解禮讓等， 但AI 虛擬主播只能 “機(jī)械” 地被動(dòng)完成 “被輸入”的 “任務(wù)”。 由于AI 虛擬主播技術(shù)的應(yīng)用依賴(lài)其背后的強(qiáng)大算法， 然而算法假定與人性選擇有著本質(zhì)區(qū)別， 算法假定代表的是機(jī)器人性，而人性選擇多與社會(huì)規(guī)范、 人脈關(guān)系等產(chǎn)生關(guān)聯(lián)。 AI 虛擬主播經(jīng)過(guò)授權(quán)后， 依賴(lài)算法假定，按照機(jī)器性選擇進(jìn)行 “任務(wù)性” 播報(bào)， 而非人性選擇播報(bào)。 此外， AI 虛擬主播所模仿的人的外貌、 聲音、 言行、 職業(yè)甚至思想等， 本是人類(lèi)所特有的， 具有私人屬性， 經(jīng)過(guò)AI 虛擬主播“復(fù)制” “粘貼”， 使其具有了公共屬性， 這意味著私人領(lǐng)域的公共化， 由此可能帶來(lái)人性沖突、 倫理風(fēng)險(xiǎn)。

4.AI 虛擬主播偽造虛假內(nèi)容信息沖擊意識(shí)形態(tài)安全

AI 虛擬主播就是通過(guò)語(yǔ)言傳播信息或宣傳。AI 虛擬主播打破了 “二次元” “三次元” 的邊界， 改變了 “有圖就有真相” 的認(rèn)知， “虛擬主播” 與真人主播使人難分難辨。 在AI 技術(shù)的支持下， 只要有照片就可以把照片中的人物通過(guò)AI技術(shù)變成虛擬主播， 可以運(yùn)用AI 語(yǔ)音、 圖像、聲音和文本生成等技術(shù)讓任何人在任何場(chǎng)景下以任何聲音說(shuō)任何話， 有些 “別有用心” 之人就可能利用AI 虛擬主播技術(shù)生成虛假新聞報(bào)道、 發(fā)表虛假網(wǎng)絡(luò)評(píng)論， 如發(fā)布具有誤導(dǎo)性的社交帖子或者發(fā)表具有欺詐性、 虛假性的評(píng)價(jià)， 誘導(dǎo)網(wǎng)民、 欺騙網(wǎng)民， 對(duì)個(gè)人或者組織造成傷害。 尤其是個(gè)別AI 主播根據(jù)自身算法的邏輯 “議程設(shè)置”， 報(bào)道虛假新聞或片面地報(bào)道新聞， 誤導(dǎo)信息受眾的思考方向， 有可能將真實(shí)新聞 “解讀”為虛假新聞， 將虛假新聞 “包裝” 為真實(shí)事件，進(jìn)而影響人們的思想認(rèn)識(shí)和價(jià)值取向， 加劇影響意識(shí)形態(tài)安全和社會(huì)的安定穩(wěn)定。

二、 促進(jìn)AI 虛擬主播行業(yè)健康發(fā)展的建議

AI 虛擬主播快速擴(kuò)張是人工智能發(fā)展大趨勢(shì)， 我們既要看到其進(jìn)步之處和優(yōu)勢(shì)所在， 也要看到其存在的潛在風(fēng)險(xiǎn)和關(guān)鍵問(wèn)題， 并通過(guò)具體舉措發(fā)揮優(yōu)勢(shì)、 防范風(fēng)險(xiǎn)， 使AI 虛擬主播更好地人類(lèi)美好生活所服務(wù)。

1.加快AI 虛擬主播平臺(tái)搭建， 強(qiáng)化高新技術(shù)領(lǐng)域人才培養(yǎng)

一方面， 要加快搭建自主可控的AI 虛擬主播研發(fā)平臺(tái)。 目前， AI 虛擬主播技術(shù)、 平臺(tái)、工具等主要由國(guó)外研發(fā)機(jī)構(gòu)研發(fā)， 雖然國(guó)內(nèi)一些科技企業(yè)與互聯(lián)網(wǎng)企業(yè)也在開(kāi)發(fā)類(lèi)似技術(shù)、平臺(tái)和工具等， 但與國(guó)外技術(shù)發(fā)展水平仍存在一定差距。 因此， 我國(guó)應(yīng)高度重視AI 虛擬主播技術(shù)、 平臺(tái)、 工具等的研發(fā)， 尤其加快反生成式AI 虛擬主播技術(shù)的研發(fā)， 努力在開(kāi)源類(lèi)技術(shù)與模型上實(shí)現(xiàn)自主研發(fā)、 可管可控。 在AI 虛擬主播技術(shù)領(lǐng)域自主可控技術(shù)研發(fā)與應(yīng)用方面，要充分利用國(guó)家資金、 社會(huì)資源等， 鼓勵(lì)和引導(dǎo)科研院所、 利用高校人才資源、 團(tuán)結(jié)社會(huì)精英等積極投入到AI 虛擬主播相關(guān)技術(shù)、 平臺(tái)等研發(fā)中。 另一方面， 要持續(xù)推進(jìn)技術(shù)專(zhuān)業(yè)領(lǐng)域人才的培養(yǎng)和儲(chǔ)備工作。 要源源不斷培養(yǎng)德才兼?zhèn)涞母咝录夹g(shù)人才， 以緩解和解決我國(guó)在AI虛擬主播技術(shù)領(lǐng)域的高質(zhì)量專(zhuān)業(yè)人才較少的短板， 要積極鼓勵(lì)高等院校加大相關(guān)技術(shù)類(lèi)專(zhuān)業(yè)及課程設(shè)置， 提高我國(guó)技術(shù)領(lǐng)域的高層次人才培養(yǎng)質(zhì)量。

2.構(gòu)建AI 虛擬主播監(jiān)管機(jī)制， 推動(dòng)多元主體協(xié)同治理體系

一方面， 要構(gòu)建監(jiān)管機(jī)制。 加強(qiáng)政府部門(mén)對(duì)AI 虛擬主播發(fā)展相關(guān)事務(wù)的監(jiān)管。 既要提升監(jiān)管者對(duì)AI 虛擬主播技術(shù)的認(rèn)知和理解， 又要提升監(jiān)管者的數(shù)智治理能力， 提升監(jiān)管工作的智能化水平。 另一方面， 要加強(qiáng)頂層設(shè)計(jì)。 在數(shù)據(jù)管理工作中仍存在多頭管理、 職責(zé)不清、業(yè)務(wù)重疊交叉等現(xiàn)象。 應(yīng)當(dāng)依托2023 年國(guó)務(wù)院機(jī)構(gòu)改革涉及的組建國(guó)家數(shù)據(jù)局契機(jī)， 建立體系完整、 權(quán)責(zé)明晰的智能數(shù)據(jù)管理機(jī)構(gòu)。 同時(shí)，構(gòu)建以政府為主導(dǎo)的多元主體參與的協(xié)同治理機(jī)構(gòu)。 AI 虛擬主播技術(shù)可能引發(fā)的風(fēng)險(xiǎn)是多維多層多領(lǐng)域多方面的， 既涉及個(gè)人利益， 也涉及社會(huì)利益； 既涉及網(wǎng)絡(luò)安全， 也涉及政治安全； 既涉及個(gè)人信息安全， 也涉及國(guó)家意識(shí)形態(tài)安全， 影響范圍廣、 危害大， 應(yīng)構(gòu)建以政府為主導(dǎo)的多元主體參與的協(xié)同治理機(jī)制與體系。

3.健全法律法規(guī)和倫理規(guī)范， 促進(jìn)生成式人工智能健康發(fā)展

隨著國(guó)內(nèi)生成式人工智能快速發(fā)展， 相關(guān)監(jiān)管政策也逐步落實(shí)。 由國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門(mén)聯(lián)合發(fā)布的 《生成式人工智能服務(wù)管理暫行辦法》 于2023 年8 月15 日正式施行，這也是我國(guó)首個(gè)針對(duì)生成式人工智能產(chǎn)業(yè)的規(guī)范性政策。 法律法規(guī)和倫理規(guī)范是防范AI 虛擬主播潛在風(fēng)險(xiǎn)隱患的重要保障。 一方面， 我國(guó)在AI 虛擬主播技術(shù)方面的相關(guān)法律規(guī)范尚不完善， 缺乏針對(duì)新技術(shù)、 新平臺(tái)、 新應(yīng)用的配套法律法規(guī)。 應(yīng)結(jié)合我國(guó)實(shí)際情況， 加快人工智能領(lǐng)域立法工作， 并結(jié)合新技術(shù)的發(fā)展成果和趨勢(shì)、 面臨的新挑戰(zhàn)和新問(wèn)題等及時(shí)修訂現(xiàn)行法律法規(guī)， 進(jìn)一步優(yōu)化以AI 虛擬主播為代表的新一代人工智能的數(shù)據(jù)安全的相關(guān)法律規(guī)范。另一方面， 完善社會(huì)的倫理規(guī)范。 在智能化社會(huì)中的技術(shù)中介作用下， 人類(lèi)社會(huì)將迎來(lái)由機(jī)械化、 電子化、 信息化向智能化的轉(zhuǎn)變， 人類(lèi)肉體與信息技術(shù)、 機(jī)器機(jī)械、 電子軟件等融合將成為常態(tài)， 思維意識(shí)、 精神思想也將成為可被編輯的對(duì)象。 技術(shù)無(wú)法脫離倫理的態(tài)勢(shì)獲得發(fā)展， 倫理是科學(xué)技術(shù)發(fā)展的底線， 技術(shù)的發(fā)展始終都要融入倫理反思和價(jià)值引導(dǎo)。 人類(lèi)將可以通過(guò)新興技術(shù)等克服身體、 生命本身、 時(shí)間空間的限制和約束， 實(shí)現(xiàn)體力和腦力的雙重變革式發(fā)展。 隨著智能技術(shù)的不斷發(fā)展， 人類(lèi)可能從自然人發(fā)展為 “電子人” “機(jī)器人”“虛擬人” 等以不同形式表現(xiàn)的 “未來(lái)人”， 身體意義與價(jià)值、 感知方式與途徑、 交往實(shí)踐與中介、 社會(huì)發(fā)展與方向都將發(fā)生變革式改變。因此， 需要對(duì)人類(lèi)的倫理原則、 道德規(guī)范、 行為準(zhǔn)則等進(jìn)一步完善， 以規(guī)范 “未來(lái)人”。 通過(guò)完善倫理道德規(guī)范等， 發(fā)揮人類(lèi)能動(dòng)性， 規(guī)范人類(lèi)在實(shí)踐生活中的言行， 幫助人類(lèi)堅(jiān)持和把控AI 技術(shù)發(fā)展的正確導(dǎo)向和方向， 形成健康可持續(xù)的商業(yè)模式。