識謠言、辨假貨人工智能已活躍在打假一線

華凌

“當(dāng)真相在穿鞋的時候，謊言已經(jīng)跑遍全城?！爆F(xiàn)代社會，虛假新聞、圖片、視頻，甚至商品等借助網(wǎng)絡(luò)渠道迅速傳播。近日公布的《中老年人上網(wǎng)狀況及風(fēng)險網(wǎng)絡(luò)調(diào)查報告》顯示，近六成中老年曾遭受過網(wǎng)絡(luò)謠言的危害。

人們常說“流言止于智者”，要想不被網(wǎng)上的流言和謠言盅惑、傷害，首先需要對其進行科學(xué)甄別，而時下人工智能正在嘗試擔(dān)任這一角色。那么，在打假一線AI技術(shù)如何做到去偽存真？這樣的“本領(lǐng)”可應(yīng)用在哪些領(lǐng)域？

海量資訊發(fā)布，傳統(tǒng)識謠模式受限

虛假信息的產(chǎn)生主要有兩類動機：一類是利益驅(qū)動，2018年發(fā)表于《科學(xué)》的研究發(fā)現(xiàn)，要達到相同的傳播深度，虛假信息的速度是正常信息的20倍;另一類是政治驅(qū)動，在現(xiàn)有互聯(lián)網(wǎng)經(jīng)濟中，高效傳播代表著高額經(jīng)濟價值，人工智能技術(shù)會被不法分子用來左右公眾對于政治的認(rèn)知和判斷，從而控制輿論，威脅政治安全。

為了減少虛假信息，有必要對網(wǎng)絡(luò)新聞進行認(rèn)證。但大型資訊聚合類平臺每天的新聞發(fā)布量一般在50萬條以上，顯然完全依靠人工認(rèn)證是不現(xiàn)實的，面向公眾，亟待建立高效的AI識謠平臺。

據(jù)了解，目前國內(nèi)已有的主要識謠、辟謠平臺基本還是依靠專家識別模式，其存在一定的問題：發(fā)現(xiàn)線索主要依賴用戶舉報，數(shù)量有限，時效性不強，往往是事件已造成負(fù)面影響才“后知后覺”;此外，新聞?wù)J證速度有待提高。Facebook統(tǒng)計，依靠專家辟謠的認(rèn)證模式平均滯后3天，錯失辟謠最佳時期;覆蓋類別受限，專家只能在自身擅長的領(lǐng)域辟謠，領(lǐng)域?qū)＜規(guī)斓亩鄻有詻Q定了人工辟謠平臺的能力上限。

為提高識謠效率，目前中科院計算機研究所、阿里、騰訊等多家企業(yè)和機構(gòu)已經(jīng)開展了人工智能識謠工作。中科院計算所副研究員、博士生導(dǎo)師曹娟帶領(lǐng)團隊從2013年開始致力于開展基于人工智能技術(shù)的虛假信息檢測研究，她介紹，AI識謠公眾平臺可自動及時發(fā)現(xiàn)可疑線索并進行認(rèn)證，大大降低謠言可能帶來的危害;通過機器學(xué)習(xí)算法輔助人工審核，僅需1分鐘即能對疑似謠言事件發(fā)出預(yù)警;基于數(shù)據(jù)驅(qū)動的方法，平臺還可不斷挖掘出不同類別謠言的特性，實現(xiàn)對各種謠言地自動識別。

不過，需要指出的是，“虛假信息識別是一個高度復(fù)雜的問題，一方面是虛假的定義并不明確，需要不確定性建模;另一方面是標(biāo)注很困難，需要小樣本學(xué)習(xí)方法。目前，機器學(xué)習(xí)算法的準(zhǔn)確率尚不足以完全取代人類，但已能夠輔助人類更快更好地審核新聞?！辈芫瓯硎?。正如扎克伯格所說，“想要完全依靠AI審核內(nèi)容，可能尚需5～10年時間”。

多模態(tài)、多層次、多角度揪出假新聞

“虛假新聞往往從選題、文字表述，到配圖都呈現(xiàn)出較強煽動性：一般選題集中于社會熱點或爭議點;文字描述中情感激烈;配圖具有視覺沖擊力等。”曹娟剖析道。

曹娟介紹，目前，中科院計算所開發(fā)的辟謠平臺已積累數(shù)萬條假新聞信息，累計認(rèn)證數(shù)十萬次。通過平臺積累的數(shù)據(jù)，目前可從新聞質(zhì)量的角度把杜撰的新聞文本大致分為三類：一完全杜撰，往往是在真實存在的實體上編造情節(jié);二半真半假，可能描述的前半段是真，后半段就展開不可靠的想像，或者一部分是真，但在關(guān)鍵情節(jié)上添油加醋;三舊聞新傳、移花接木，事件本身可能存在，但發(fā)布者故意模糊化甚至篡改原事件中的時間、地點，讓人誤以為事情剛剛發(fā)生在當(dāng)?shù)亍?/p>

除去文字造假，圖片視頻造假也越來越多?！拔覀儗⑻摷傩侣勁鋱D分為復(fù)用的過時圖片、能引起歧義的誤導(dǎo)性圖片及篡改圖片。假新聞通常呈現(xiàn)出新聞要素缺失、圖像質(zhì)量低、內(nèi)容包含色情敏感廣告等低俗信息，以及圖文不匹配等特點。例如，有些假新聞中的配圖會出現(xiàn)滿屏彌漫沖天大火、公路凹陷深坑、被棄男童在垃圾廢墟前嚎啕等畫面。”曹娟描述道，“謠言更易形成病毒式擴散的趨勢，而真實新聞的擴散速度和爆發(fā)度要溫和許多。”

“從核心技術(shù)上，AI甄別謠言依賴于‘三多?！辈芫暾f，一是多模態(tài)數(shù)據(jù)，謠言從發(fā)布、傳播到被辟謠的生命周期中，可能會伴隨產(chǎn)生文字、圖片、視頻、傳播網(wǎng)絡(luò)、參與用戶屬性等多種模態(tài)的數(shù)據(jù)，各模態(tài)數(shù)據(jù)均能不同程度指示謠言，例如謠言文字的情感傾向、圖片的視覺沖擊力、傳播網(wǎng)絡(luò)的結(jié)構(gòu)屬性等，但沒有哪種模態(tài)的數(shù)據(jù)擁有獨立完全的謠言指示能力，所以要盡可能獲取不同模態(tài)的數(shù)據(jù)。

二是多層次表示，深度學(xué)習(xí)技術(shù)有強大的表示學(xué)習(xí)能力，經(jīng)過神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和融合機制的設(shè)計，AI模型可以在面對眾多意義、形式、結(jié)構(gòu)都不同的模態(tài)數(shù)據(jù)時，綜合不同層次數(shù)據(jù)，自動找出最有區(qū)分能力的表示組合，并將待甄別文章對應(yīng)的文字、圖片、傳播網(wǎng)絡(luò)等融合投射到特征空間中。

三是多角度判斷，AI可以從單一方面（如內(nèi)容、用戶、傳播）給出可信度，也可以全面觀察，給出綜合所有信息的可信度，及時幫助人們“揪出”可信度不高的信息。

結(jié)合專家經(jīng)驗辨別虛假商品

曹娟介紹，目前除了鑒別虛假新聞、虛假圖片，AI虛假檢測技術(shù)還可以應(yīng)用在對虛假商品的檢測上，如基于視覺信息技術(shù)鑒定一些高檔商品的真?zhèn)巍?/p>

近日，中國科學(xué)院計算技術(shù)研究所與國內(nèi)某奢侈品電商宣布共建聯(lián)合實驗室，探索智能鑒定和智能內(nèi)容分發(fā)、在線鑒定商品業(yè)務(wù)等內(nèi)容。那么，AI如何對商品，如包、鞋辨別真假;在識別假貨方面，AI可替代專家嗎？

“與人識別假貨相比，在強度、效率等方面，AI有著突出表現(xiàn)。例如，一般識別假LV包的專家，工作一天只能鑒定五六個包，而AI篩查一個包僅需幾分鐘。實際操作中，AI先在大量篩選中發(fā)現(xiàn)異常情況，報警示錯，再由專家來做進一步甄別。即以AI技術(shù)打假為主、以人工審核為輔，AI還不能替代專家?！辈芫暾f。

曹娟表示，虛假商品檢測可形式化為異常檢測問題。正品樣本往往量很大，但仿品樣本量很小，甚至為零。這時候，只能對大量正品進行建模表示，然后對待檢測樣本，要看它與正品相比是否存在異常。但單純的數(shù)據(jù)學(xué)習(xí)是困難的，鑒別中還要結(jié)合鑒定專家的經(jīng)驗知識，以引導(dǎo)模型學(xué)到快速定位異常區(qū)域的能力;同時，模型通過數(shù)據(jù)驅(qū)動發(fā)現(xiàn)的視覺規(guī)律，也會反饋給專家。因此，這是一個專家和模型相互學(xué)習(xí)、迭代提高的過程。