“黑化”AI成造謠工具

西安發(fā)生了大爆炸？運(yùn)鈔車(chē)遭遇武裝搶劫并發(fā)生激烈槍?xiě)?zhàn)？比亞迪要收購(gòu)蔚來(lái)？一則則聳人聽(tīng)聞的消息是真的嗎？

監(jiān)管部門(mén)調(diào)查發(fā)現(xiàn)，上述消息都是借助人工智能（以下簡(jiǎn)稱(chēng)“AI”）工具編造，動(dòng)機(jī)則是為了流量。

相關(guān)專(zhuān)家在接受《中國(guó)經(jīng)濟(jì)周刊》記者采訪(fǎng)時(shí)表示，隨著AIGC技術(shù)的不斷進(jìn)步和易獲取，文生圖和文生視頻被用于制造虛假信息。“黑化”的AI技術(shù)和謠言的結(jié)合，不僅使得謠言數(shù)量增加，也使謠言更加難以判斷。未來(lái)可以考慮用技術(shù)發(fā)展，特別是利用AI對(duì)抗AI謠言。

亂象：

謠言數(shù)量和逼真程度大幅提升

隨著AI技術(shù)的快速發(fā)展，內(nèi)容創(chuàng)作的門(mén)檻降低、時(shí)間縮短。例如文本創(chuàng)作，只需輸入幾個(gè)關(guān)鍵詞，AI便可迅速提供包含人物、時(shí)間、地點(diǎn)、事件的相關(guān)內(nèi)容。

在此背景下，有人為了博眼球、蹭熱度，甚至使用AI技術(shù)變?cè)臁皞蜗ⅰ薄凹傩侣劇眮?lái)獲得關(guān)注和流量。

如近期有網(wǎng)絡(luò)傳聞，一名疑似比亞迪的員工發(fā)文稱(chēng)，比亞迪要和蔚來(lái)合作成立比未來(lái)汽車(chē)集團(tuán)。

此后有媒體從合肥市公安局經(jīng)開(kāi)分局確認(rèn)，該謠言系29歲外省男子謝某所做，利用AI軟件合成不實(shí)圖文上網(wǎng)傳播，其目的是為提升自媒體賬號(hào)的知名度、博取流量。

不只是文字，“有圖有真相”的視頻也可能被AI偽造。

今年6月，一條“廣東省五華縣華陽(yáng)鎮(zhèn)一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個(gè)月”的短視頻在互聯(lián)網(wǎng)平臺(tái)傳播，引發(fā)大量關(guān)注。后經(jīng)公安網(wǎng)安部門(mén)確認(rèn)，視頻全由AI合成。

AI技術(shù)造謠的背后不乏MCN機(jī)構(gòu)的參與。

央視新聞今年6月報(bào)道了一起案例，“西安爆炸”消息背后，便是江西南昌一家MCN機(jī)構(gòu)推波助瀾。據(jù)警方調(diào)查，這家MCN機(jī)構(gòu)發(fā)布的數(shù)條涉嫌網(wǎng)絡(luò)造謠的信息，系通過(guò)AI軟件生成內(nèi)容制作。

這家MCN機(jī)構(gòu)短時(shí)間內(nèi)生成了大量文章，最高峰一天能生成4000至7000篇，最高的一條收入700元，初步估算每天的收入在1萬(wàn)元以上。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任、副教授劉曉春在接受《中國(guó)經(jīng)濟(jì)周刊》記者采訪(fǎng)時(shí)說(shuō)，在生成式AI浪潮之前，網(wǎng)絡(luò)上也存在使用網(wǎng)絡(luò)機(jī)器人制作內(nèi)容的情況，如評(píng)論區(qū)的某些內(nèi)容、常見(jiàn)的水軍等。但這波AI浪潮出現(xiàn)后，謠言不僅數(shù)量有了大幅增加，其逼真程度也讓人難以判斷。

“以前的內(nèi)容還有一些明確特征可以判斷是機(jī)器生成，而現(xiàn)在以假亂真的水平較高，公眾很難看出這是AI生成的謠言?！眲源赫f(shuō)。

同濟(jì)大學(xué)法學(xué)院助理教授、上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員朱悅在接受《中國(guó)經(jīng)濟(jì)周刊》記者采訪(fǎng)時(shí)提示，AI是不會(huì)疲憊的，當(dāng)被有心人利用，其批量生產(chǎn)謠言的潛力會(huì)被無(wú)限放大。

AI造謠背后，不只個(gè)人受影響，企業(yè)也深受其害。

今年4月，清華大學(xué)新聞與傳播學(xué)院新媒體研究中心發(fā)布了報(bào)告《揭秘AI謠言：傳播路徑與治理策略全解析》。報(bào)告稱(chēng)，2023年以來(lái)，網(wǎng)絡(luò)謠言整體態(tài)勢(shì)平穩(wěn)，但AI謠言量近半年增長(zhǎng)65%。其中，經(jīng)濟(jì)與企業(yè)類(lèi)謠言占比最高，達(dá)到43.71%。

今年5月科大訊飛曾遭遇AI“小作文”，造成當(dāng)日午后股價(jià)跳水，盤(pán)中一度跌超9%。

解決：

用AI技術(shù)對(duì)抗AI謠言

相關(guān)部門(mén)已經(jīng)陸續(xù)出臺(tái)了多個(gè)文件，如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等，對(duì)平臺(tái)在內(nèi)容治理中的責(zé)任和義務(wù)予以明確。

據(jù)記者不完全梳理，AI造謠鏈條環(huán)節(jié)中，主要涉及四個(gè)參與方：技術(shù)提供者、使用AI技術(shù)造謠的人或機(jī)構(gòu)、平臺(tái)以及轉(zhuǎn)發(fā)相關(guān)謠言的用戶(hù)。當(dāng)前的法律法規(guī)對(duì)于后三個(gè)參與方都有相關(guān)規(guī)范。技術(shù)提供者是否需要承擔(dān)責(zé)任？又該承擔(dān)何種程度的責(zé)任？

朱悅提示，對(duì)于上述問(wèn)題的回應(yīng)要考慮發(fā)展、安全相平衡。一方面，如果是作為一個(gè)純粹的技術(shù)提供者并不參與后續(xù)傳播，一般不適合給予太重的義務(wù)或者責(zé)任；另一方面，考慮技術(shù)提供者是從源頭提供的技術(shù)服務(wù)，那么他在算法、結(jié)果輸出方面需要做一些平衡設(shè)計(jì)，如添加一定的標(biāo)識(shí)、留存相應(yīng)的日志信息等。

值得注意的是，標(biāo)識(shí)成為當(dāng)下防范虛假內(nèi)容的重要手段之一。AI生成內(nèi)容亦真亦假，添加標(biāo)識(shí)不僅起到提示作用，還可幫助確認(rèn)信息來(lái)源。

今年9月份國(guó)家互聯(lián)網(wǎng)信息辦公室就《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)“征求意見(jiàn)稿”）公開(kāi)征求意見(jiàn)。

“征求意見(jiàn)稿不僅要求技術(shù)提供方要做明顯標(biāo)識(shí)，也要求傳播平臺(tái)提供相應(yīng)標(biāo)識(shí)以明確某內(nèi)容是否為AI生成。通過(guò)標(biāo)識(shí)明確AI生成內(nèi)容，減少誤導(dǎo)，減弱虛假信息的傳播效果?！眲源赫f(shuō)。

對(duì)于包含謠言在內(nèi)的虛假信息治理是全世界的共同課題，AI虛假信息的治理，離不開(kāi)技術(shù)。

“可以考慮用AI對(duì)抗AI謠言。通過(guò)總結(jié)謠言規(guī)律，研發(fā)相應(yīng)的技術(shù)模型，以解決AI謠言的問(wèn)題?！眲源赫f(shuō)。在她看來(lái)，AI造謠還需事后采取相關(guān)機(jī)制減弱影響。如對(duì)某些高頻傳播謠言的賬號(hào)予以管控，強(qiáng)化事后辟謠、建立舉報(bào)機(jī)制等。

近期，來(lái)自O(shè)penAI、哈佛大學(xué)、微軟、牛津大學(xué)的研究者共同撰寫(xiě)了一篇題為《Personhood creden-tials：Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online》（人格證書(shū)：人工智能時(shí)代的隱私保護(hù)真人驗(yàn)證工具）的文章。文章提出，可通過(guò)人格證書(shū)（Personhood Credentials）這種在線(xiàn)身份驗(yàn)證工具，對(duì)抗由AI驅(qū)動(dòng)的包含虛假信息在內(nèi)的各種行為。

“未來(lái)時(shí)代的人，疊加AI技術(shù)，生產(chǎn)信息的能力會(huì)大幅提高，也可能生產(chǎn)謠言。文章提及的人格證書(shū)，可以視為通過(guò)加強(qiáng)驗(yàn)證的方式防范上述情況產(chǎn)生?！敝鞇傉f(shuō)。

責(zé)編：郭霽瑤 guojiyao@ceweekly.cn

美編：孟凡婷