給AI造假配上“緊箍咒”

今年伊始，DeepSeek橫空出世，各類AI應(yīng)用在中國以迅猛之勢融入了各行各業(yè)，展現(xiàn)出了驚人潛力。

然而，如同硬幣的兩面，在大眾消費市場AI技術(shù)可以促進商業(yè)發(fā)展、品牌迭代，也可能為商業(yè)造假、冒牌頂替提供技術(shù)能力。例如，有的不良商家靠AI假圖吸引消費者下單、有的直播間用AI背景偽裝“工廠發(fā)貨”、用“AI換臉”冒充名人明星、將他人照片合成淫穢影像、利用AI生成假場景制造假新聞等，這些亂象讓各類平臺和消費者深受其害。

在人工智能技術(shù)蓬勃發(fā)展的同時，我們也需警惕深度偽造、虛假信息生成、數(shù)據(jù)篡改等AI造假行為對社會信用體系形成了新挑戰(zhàn)。新事物的出現(xiàn)，必然呼喚與之相適配的新的治理方法。放任不管，或一管就死，都不是治理的目的。只有符合新時期新形勢的AI治理理念，才能為AI應(yīng)用創(chuàng)造好的發(fā)展環(huán)境。

為促進人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識，國家互聯(lián)網(wǎng)信息辦公室等四部門近日聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《辦法》）?！掇k法》的出臺可謂非常及時，這意味著法規(guī)正在給AI配上“緊箍咒”，規(guī)范其生成合成行為，避免其倫理失范問題，使其更好地服務(wù)廣大受眾。

要求“自報家門”、亮明身份，打到了AI造假的“三寸”。AI生成技術(shù)是先進工具，也是一把雙刃劍，用好了，就是解放生產(chǎn)力的神奇工具。比如，虛擬“數(shù)字人”可以助力主播從繁瑣的拍攝中解脫出來，AI翻譯能促進文化傳播與交流，造就全新的傳播變革。AI造假，則是這一先進技術(shù)被惡意利用生出的“惡之花”。要想?yún)^(qū)分AI工具是被善意使用還是惡意利用，關(guān)鍵的第一步，就是要讓用戶能夠清晰分辨自己所見內(nèi)容的真假。《辦法》要求所有AI生成的作品必須亮明身份、清晰標(biāo)識，這無疑是一個好的開始，邁出了規(guī)范AI應(yīng)用的堅實一步。

強制標(biāo)注AI生成內(nèi)容，披露算法邏輯，這樣的治理辦法堅持了透明度原則，也充分呈現(xiàn)了AI治理的“技術(shù)向善”思維。當(dāng)前，AI正處于從低度向深度進化的階段，人類對AI的未來有許多美好愿景，只有發(fā)揚技術(shù)向善，才能為AI提供一個更好的訓(xùn)練數(shù)據(jù)池和應(yīng)用場景地，避免AI在錯誤數(shù)據(jù)中訓(xùn)練出錯誤的思維導(dǎo)向。如果說商業(yè)AI造假影響的還只是當(dāng)下的消費體驗，那么當(dāng)造假成為數(shù)據(jù)池的重要組成部分，無法加以分辨和剔除，假數(shù)據(jù)、惡數(shù)據(jù)會給人類未來帶來怎樣的影響？實在細(xì)思極恐。

因此，從更長遠的角度看，給AI內(nèi)容做標(biāo)識還只是第一步，下一步還應(yīng)當(dāng)推動AI開發(fā)者在模型中嵌入科學(xué)倫理限制，為構(gòu)建“可信內(nèi)容生態(tài)系統(tǒng)”奠定了基礎(chǔ)。比如，讓AI模型拒絕回答可能用于偽造、詐騙的內(nèi)容請求，限制生成未經(jīng)授權(quán)的影響力人物圖像。在信息傳播上，則要打造“可信新聞計劃”，嵌入?yún)^(qū)塊鏈技術(shù)，避免想象式、編造式信息利用算法不當(dāng)散播。除了可信新聞計劃，還應(yīng)當(dāng)提升可信數(shù)據(jù)空間的建設(shè)力度。當(dāng)可信新聞與可信數(shù)據(jù)均在可信平臺中呈現(xiàn)的時候，人們會自然選擇可信平臺與可信內(nèi)容，避免被虛假內(nèi)容誤導(dǎo)。

當(dāng)然，治理AI造假，也離不開公眾認(rèn)知的提升。當(dāng)前，AI步入大眾生活只是開始，未來AI與人類生活、工作的結(jié)合必將更加緊密。強制平臺標(biāo)識內(nèi)容的AI身份，有助于公眾提升判斷力，未來還應(yīng)當(dāng)提供更多大眾化、普惠式的AI認(rèn)知課程，讓公眾能夠在AI時代學(xué)會善識AI、善用AI，從根本上增強人們防范AI造假的“免疫力”。

知善知惡是良知，為善去惡是格物。AI進步、技術(shù)創(chuàng)新與AI倫理規(guī)范是有機統(tǒng)一的整體，只有統(tǒng)籌好發(fā)展和安全，減少技術(shù)濫用的危害，為AI良性進步鋪路架橋，才能讓AI真正服務(wù)于人類幸福美好生活。