AIGC在新聞生產(chǎn)中的風(fēng)險(xiǎn)控制

欒軼玫

當(dāng)下新技術(shù)更新迭代、媒介生態(tài)巨變，AIGC 給新聞生產(chǎn)帶來(lái)新可能的同時(shí)也蘊(yùn)含著新風(fēng)險(xiǎn)，媒體在面對(duì)AIGC 協(xié)助新聞生產(chǎn)過(guò)程中應(yīng)具備風(fēng)控思維，制定風(fēng)控策略，使新技術(shù)始終能為我所用。

內(nèi)容質(zhì)量的風(fēng)險(xiǎn)控制

新聞報(bào)道特別是重大主題報(bào)道涉及黨和政府的重大決策和社會(huì)熱點(diǎn)問(wèn)題，在這一類(lèi)型的新聞生產(chǎn)中需警惕AIGC 基于算法驅(qū)動(dòng)隱藏的政治偏見(jiàn)風(fēng)險(xiǎn)。

首先，控制政治偏見(jiàn)風(fēng)險(xiǎn)。使用AIGC 工具自動(dòng)生成新聞內(nèi)容時(shí)存在難以察覺(jué)的政治偏見(jiàn)，媒體應(yīng)加強(qiáng)對(duì)AIGC 生成內(nèi)容可能具有政治偏見(jiàn)的認(rèn)識(shí)，警惕并做好風(fēng)險(xiǎn)控制。雖然諸如ChatGPT 等AIGC 工具自稱(chēng)是“態(tài)度中立沒(méi)有任何政治傾向性”“不會(huì)試圖通過(guò)任何方式影響或改變使用者觀點(diǎn)”的自然語(yǔ)言模型，但是不可忽視的是當(dāng)它被廣大用戶(hù)不斷投喂、利用之后產(chǎn)生的“馴化性”，要警惕因投喂與馴化帶來(lái)的政治偏見(jiàn)。另外，數(shù)據(jù)庫(kù)和語(yǔ)料庫(kù)的意識(shí)形態(tài)將影響AIGC 生成的內(nèi)容。數(shù)據(jù)是生成式人工智能的基礎(chǔ)，互聯(lián)網(wǎng)上的大量數(shù)據(jù)和語(yǔ)料存在多樣性、傾向性，并非完全中立，加之ChatGPT 難以百分百只學(xué)習(xí)其中中立的部分，而完全摒棄具有傾向性的部分，要警惕數(shù)據(jù)庫(kù)、語(yǔ)料庫(kù)的意識(shí)形態(tài)傾向性。同時(shí)，AIGC 生成內(nèi)容還受到其背后算法工程師意識(shí)形態(tài)、個(gè)人背景的多方因素影響，雖然算法本身可能沒(méi)有意識(shí)形態(tài)問(wèn)題，但其中的參數(shù)和賦值等可能會(huì)受到人為因素、個(gè)人價(jià)值觀的影響，要警惕算法實(shí)踐過(guò)程中隱蔽的意識(shí)形態(tài)操控。

其次，控制內(nèi)容低信度風(fēng)險(xiǎn)。AIGC 模型生成的內(nèi)容可能存在意想不到的事實(shí)性錯(cuò)誤，從而帶來(lái)內(nèi)容質(zhì)量風(fēng)險(xiǎn)?？陀^上，AIGC 生成的內(nèi)容具有低準(zhǔn)確性的可能，AIGC 工具所依賴(lài)的數(shù)據(jù)庫(kù)客觀上可能存在大量虛假信息，加之AIGC 模型對(duì)新聞報(bào)道所涉及的相關(guān)社會(huì)情景缺乏準(zhǔn)確了解，即使AIGC 工具盡可能尋找正確的信息生成回答，但仍不可能保證生成內(nèi)容的準(zhǔn)確性與真實(shí)性。與此同時(shí)，AIGC 的設(shè)計(jì)思路使得它“主觀上”傾向于“有問(wèn)必答”，它會(huì)“編造”“虛構(gòu)”案例、故事等，一些生成的回答具有虛構(gòu)性特征。例如有學(xué)者測(cè)試、分析AIGC 生成內(nèi)容能力時(shí)發(fā)現(xiàn)，AIGC 提供的相關(guān)文獻(xiàn)根本不存在，它杜撰了所依據(jù)的文獻(xiàn)來(lái)源，這種生成內(nèi)容與現(xiàn)實(shí)情形完全不符的情況無(wú)疑會(huì)影響信息生產(chǎn)的真實(shí)性。總而言之，無(wú)論是“客觀”還是“主觀”因素帶來(lái)的AIGC 生產(chǎn)中的低準(zhǔn)確性與虛構(gòu)性，都需要把關(guān)人對(duì)事實(shí)進(jìn)行深入核實(shí)，加強(qiáng)對(duì)AIGC 生成內(nèi)容的質(zhì)量把關(guān)，做好風(fēng)險(xiǎn)控制。

深度造假的風(fēng)險(xiǎn)控制

AI 換臉、克隆合成數(shù)字人、虛假圖片及視頻生成等使AIGC 生成的虛假內(nèi)容更加難以識(shí)別，內(nèi)容造假進(jìn)入深度造假階段。與此同時(shí)，媒介技術(shù)發(fā)展使媒介可供性增強(qiáng)，這使別有用心之人造假成本更低。加之，AIGC 讓造假形式更加多樣且難以察覺(jué)，新聞生成面臨深度造假的風(fēng)險(xiǎn)，輿論將更容易被有意操控。

首先，造假傳播更廣識(shí)別更難。在AIGC 工具的“協(xié)助”下，內(nèi)容造假更加容易。AIGC 強(qiáng)大的內(nèi)容生成能力，讓造假者更快地生產(chǎn)和傳播虛假內(nèi)容。此外，AIGC 具有生成多類(lèi)型、多介質(zhì)內(nèi)容的能力，造假者更便捷地生成文本、圖像、音頻、視頻的“多形態(tài)”虛假信息，降低了多介質(zhì)內(nèi)容的造假成本。與此同時(shí)，AIGC 生成的內(nèi)容自身可能存在的虛假性，加劇了媒介素養(yǎng)不足的群體無(wú)意識(shí)地造假、傳假，從而使得真相越發(fā)難得，輿論生態(tài)更加復(fù)雜。

其次，深度造假識(shí)別與公眾引導(dǎo)。利用AIGC 生成大量的虛假信息散布于網(wǎng)絡(luò)中，可能造成三人成虎的現(xiàn)象，即虛假信息傳播聲量更大，從而使人們更愿意相信虛假信息，而忽視甚至不相信辟謠信息。公眾識(shí)別虛假信息的難度大大增加，媒體辟謠則需要更完整的證據(jù)鏈條。針對(duì)深度造假帶來(lái)的風(fēng)險(xiǎn)，媒體可通過(guò)打造識(shí)別造假內(nèi)容并及時(shí)反饋的智能工具，強(qiáng)化智能技術(shù)在辟謠中的應(yīng)用，例如anti-deepfake 技術(shù)。此外，還要加強(qiáng)對(duì)深度造假及其識(shí)別的科普宣傳，讓公眾了解相關(guān)技術(shù)是如何造假的。同時(shí)，大學(xué)可通過(guò)面向社會(huì)的新聞教育，促進(jìn)公眾媒介素養(yǎng)的全面提升。

數(shù)據(jù)隱私的風(fēng)險(xiǎn)控制

AIGC 對(duì)于數(shù)據(jù)的收集分析還會(huì)給新聞生產(chǎn)帶來(lái)數(shù)據(jù)隱私風(fēng)險(xiǎn)，管理部門(mén)應(yīng)該加強(qiáng)管理和管制，防止數(shù)據(jù)濫用。首先，媒體在使用AIGC 協(xié)助新聞生產(chǎn)時(shí)，勢(shì)必要向AIGC 工具提供一些包含人臉、聲音等敏感性生物識(shí)別數(shù)據(jù)，這些數(shù)據(jù)的頻繁使用將帶來(lái)數(shù)據(jù)隱私風(fēng)險(xiǎn)，應(yīng)加強(qiáng)自身對(duì)數(shù)據(jù)收集、數(shù)據(jù)隱私泄露可能性的意識(shí)，使用AIGC 進(jìn)行交互時(shí)減少對(duì)高度敏感信息的使用。其次，算法脆弱易受攻擊的特性也會(huì)給數(shù)據(jù)隱私帶來(lái)風(fēng)險(xiǎn)。保護(hù)數(shù)據(jù)隱私安全需要加強(qiáng)立法、執(zhí)法的預(yù)判性，做到立法先行，從而從根本上做好數(shù)據(jù)隱私的風(fēng)險(xiǎn)控制。