人工智能(AI)技術(shù)在文本生成、圖片創(chuàng)作等方面有著廣泛應(yīng)用,輸入幾個(gè)關(guān)鍵詞即可快速生成一張畫或一篇文章。一些網(wǎng)民為博眼球、蹭熱度,用AI技術(shù)編“偽消息”、造“假新聞”,以此來獲得網(wǎng)民關(guān)注和點(diǎn)贊量,進(jìn)而實(shí)現(xiàn)流量變現(xiàn)。面對(duì)網(wǎng)上疑似利用AI造的謠時(shí),如何增強(qiáng)“免疫力”呢?
AI網(wǎng)絡(luò)謠言案例
2024年6月,網(wǎng)絡(luò)平臺(tái)上的一條“廣東省五華縣華陽鎮(zhèn)一70多歲老人被毆打致昏迷,其孫子為此跳河自殺,打人者一審被判九年十個(gè)月”的短視頻在互聯(lián)網(wǎng)平臺(tái)傳播,引發(fā)大量網(wǎng)民關(guān)注、討論。公安網(wǎng)安部門迅速開展調(diào)查,發(fā)現(xiàn)該視頻的圖文內(nèi)容系移花接木、肆意編造的網(wǎng)絡(luò)謠言。據(jù)造謠人員任某供述,這段長達(dá)幾分鐘、聲情并茂的視頻全是由AI合成的。
2024年1月,廣西東興市駱某某為博取流量,使用AI軟件自動(dòng)編輯抗洪、救災(zāi)視頻,捏造了新疆烏什縣發(fā)生地震的虛假視頻信息,造成該謠言信息在互聯(lián)網(wǎng)平臺(tái)大量傳播。
2024年5月,河南一網(wǎng)民在某平臺(tái)發(fā)布《一場驚心動(dòng)魄的“鈔票大戰(zhàn)”" 巴中市警民對(duì)峙引發(fā)轟動(dòng)誰將成為勝利者》的謠言文章,引發(fā)大量網(wǎng)民關(guān)注、討論。經(jīng)查,該涉謠文章由AI系統(tǒng)生成并發(fā)布,相關(guān)言論及照片均為不實(shí)信息。
目前,公安機(jī)關(guān)已依法對(duì)以上造謠人員追究法律責(zé)任。
AI網(wǎng)絡(luò)謠言特征
定制化:生成式人工智能能夠利用多類機(jī)器學(xué)習(xí)方法從數(shù)據(jù)中學(xué)習(xí)不同內(nèi)容的生成特征以及主體的表達(dá)風(fēng)格,只需要輸入關(guān)鍵詞,AI軟件可在網(wǎng)絡(luò)上抓取素材生成文本,形成定制化的文章、新聞、報(bào)告等信息。
門檻低:相比此前造謠者單純靠人工捏造、散布謠言這一略顯“原始”的方式,現(xiàn)在利用AI造謠者只需在AI工具中輸入關(guān)鍵詞即可“一鍵生成”可以假亂真的文章、圖片。
識(shí)別難:AI生成的虛假信息在形式上非常逼真,往往新聞要素齊全、內(nèi)容完整,甚至可能包含圖像和視頻,這使得公眾難以辨別真?zhèn)?,這種偽裝性和欺騙性讓謠言更加具有迷惑性。
破壞大:利用AI工具制造謠言能生成極為逼真的圖片、音視頻,顛覆了“有圖有真相”的常規(guī)認(rèn)知,蠱惑性極強(qiáng),短時(shí)間內(nèi)就能快速傳播,易引發(fā)社會(huì)恐慌,擾亂社會(huì)公共秩序。
如何增強(qiáng)“免疫力”
網(wǎng)絡(luò)謠言危害極大,不僅會(huì)泄露用戶的敏感數(shù)據(jù)、損害他人名譽(yù)、誤導(dǎo)公眾認(rèn)知,還會(huì)擾亂公共秩序,引發(fā)公眾恐慌和不安,破壞社會(huì)信任和穩(wěn)定。那么,該如何增強(qiáng)對(duì)網(wǎng)絡(luò)謠言的“免疫力”呢?
保持警惕。仔細(xì)分析信息的邏輯性,若存在明顯漏洞、矛盾或與常理不符的地方,很可能是虛假信息。比如,一些謠言中事件的發(fā)展過程不符合常理,或者數(shù)據(jù)存在不合理的夸張等。
多方驗(yàn)證。不要僅僅依賴單一的信息來源,應(yīng)從多個(gè)權(quán)威渠道獲取信息進(jìn)行對(duì)比。對(duì)于一些熱點(diǎn)事件,可以檢索官方媒體的報(bào)道,以驗(yàn)證信息的真實(shí)性。
謹(jǐn)慎分享。在確定信息真實(shí)可靠之前,不要隨意轉(zhuǎn)發(fā),以免無意中成為謠言傳播的推手。
保護(hù)隱私。注意保護(hù)個(gè)人隱私,不隨意泄露個(gè)人信息給不可信的網(wǎng)站或應(yīng)用程序,防止個(gè)人信息被用于生成虛假內(nèi)容。
摘編自“克州網(wǎng)警”公眾號(hào)