AI檢測(cè)AI：“矛”更利還是“盾”更堅(jiān)

“雖然大模型在不斷發(fā)展迭代，但到目前為止，AIGC（人工智能生成內(nèi)容）與人類創(chuàng)作內(nèi)容在用詞用語(yǔ)、邏輯語(yǔ)法等方面依舊存在明顯區(qū)別。”Fast-DetectGPT研發(fā)者之一、西湖大學(xué)文本智能實(shí)驗(yàn)室博士生鮑光勝說(shuō)。

在用詞用語(yǔ)上，AIGC有相對(duì)固定的偏好。有研究發(fā)現(xiàn)，大模型應(yīng)用于學(xué)術(shù)論文寫作時(shí)，某些詞的使用頻率會(huì)大大提高，這是因?yàn)榇竽Ｐ土?xí)慣用這些詞對(duì)語(yǔ)句進(jìn)行潤(rùn)色。在邏輯語(yǔ)法上，AIGC慣常使用的一些語(yǔ)法搭配方式，在人類創(chuàng)作內(nèi)容中可能并不常見(jiàn)。受模型建模的影響，AIGC有相對(duì)固定的行文邏輯和表述模式，且這些模式會(huì)不斷地被重復(fù)。人類在行文上則更為靈活，沒(méi)有固定套路。

北京大學(xué)信息管理系師生比較了AI生成的與學(xué)者撰寫的中文論文摘要。研究結(jié)果同樣顯示，AI生成的摘要具有較高的同質(zhì)性和較強(qiáng)的邏輯性，并慣用歸納總結(jié)等學(xué)術(shù)話語(yǔ)體系：學(xué)者撰寫的摘要?jiǎng)t具有顯著的個(gè)性化差異，使用凸顯實(shí)際含義的搭配較多，并常用與國(guó)家政策密切相關(guān)的詞語(yǔ)。

哈爾濱工業(yè)大學(xué)一名研究生講述了他使用大模型的實(shí)際感受：“當(dāng)我給大模型提供一些材料讓它擴(kuò)寫時(shí)，它每次都用相同的套路——把給定的材料拆解開(kāi)，分為若干點(diǎn)論述?？傮w來(lái)說(shuō)感覺(jué)它寫得比較‘僵’?！?/p>

AIGC相對(duì)套路化的創(chuàng)作，可能會(huì)影響人類的用語(yǔ)習(xí)慣。隨著越來(lái)越多人用AI創(chuàng)作或潤(rùn)色文字，人類會(huì)受到潛移默化的影響，這或?qū)⒂绊懻麄€(gè)社會(huì)對(duì)語(yǔ)言的使用。

如何準(zhǔn)確識(shí)別AI生成內(nèi)容？目前主要有三種檢測(cè)方法，分別是模型訓(xùn)練分類器法（也被稱為監(jiān)督分類器法）、零樣本分類器法、文本水印法。這三種檢測(cè)方法本質(zhì)上都是利用AI檢測(cè)AI，且各有優(yōu)劣。

模型訓(xùn)練分類器法，首先要收集大量人類創(chuàng)作內(nèi)容與AIGC，然后以此為基礎(chǔ)，訓(xùn)練一個(gè)能區(qū)分兩類內(nèi)容的分類器。這是目前被廣泛使用的一種方法，但缺點(diǎn)較為明顯。用于訓(xùn)練分類器的數(shù)據(jù)有限，很難覆蓋所有類型和語(yǔ)言的文本。分類器在訓(xùn)練數(shù)據(jù)覆蓋的文本領(lǐng)域檢測(cè)準(zhǔn)確率較高，反之準(zhǔn)確率較低。而且，模型訓(xùn)練往往需要較高成本，數(shù)據(jù)規(guī)模越大，訓(xùn)練成本越高。

相比之下，零樣本分類器法不需要對(duì)機(jī)器進(jìn)行訓(xùn)練，也無(wú)須收集數(shù)據(jù)。它利用已訓(xùn)練好的大模型，抽取語(yǔ)言模型生成文本的特征，據(jù)此來(lái)區(qū)別人類創(chuàng)作內(nèi)容與AIGC?！八迫缓瘮?shù)是零樣本分類器法中比較常用的基準(zhǔn)之一，它可以簡(jiǎn)單理解為一段文本在某個(gè)模型的建模分布中出現(xiàn)的概率，不同的概率體現(xiàn)了人類創(chuàng)作內(nèi)容與AIGC的差異。”鮑光勝進(jìn)一步解釋，“零樣本分類器法通過(guò)綜合考慮多種函數(shù)特征來(lái)區(qū)分人類創(chuàng)作內(nèi)容與AIGC?！?/p>

如今，很多大語(yǔ)言模型幾乎覆蓋了互聯(lián)網(wǎng)上的全部數(shù)據(jù)。因此，相比于模型訓(xùn)練分類器，零樣本分類器在不同領(lǐng)域、不同語(yǔ)言的文本上表現(xiàn)較為一致。

不過(guò)，零樣本分類器法也存在明顯缺點(diǎn)。一方面，現(xiàn)有零樣本分類器依賴生成文本的源語(yǔ)言模型進(jìn)行檢測(cè)，這意味著如果是未知源模型生成的文本，分類器就無(wú)法準(zhǔn)確檢測(cè)；另一方面，為提高檢測(cè)準(zhǔn)確率，零樣本分類器往往需要多次調(diào)用模型，這增加了模型的使用成本和計(jì)算時(shí)間。

文本水印法則是一種“主動(dòng)方法”。區(qū)別于前兩種方法，它不是檢測(cè)已生成的文本，而是在AI生成文本時(shí)加入水印。雖然人類肉眼看不出這些水印，但能通過(guò)技術(shù)手段檢測(cè)出來(lái)。文本水印法的檢測(cè)準(zhǔn)確率較高，但缺點(diǎn)在于水印可能被人為弱化甚至移除。此外，對(duì)于無(wú)法訪問(wèn)模型內(nèi)部結(jié)構(gòu)的大語(yǔ)言模型，技術(shù)人員可能無(wú)法在生成內(nèi)容時(shí)成功加入水印。

未來(lái)，我們要不斷更新、完善現(xiàn)有技術(shù)，力爭(zhēng)實(shí)現(xiàn)快速、準(zhǔn)確、低成本檢測(cè)，在大模型這把“矛”越來(lái)越鋒利的同時(shí)，讓檢測(cè)技術(shù)這面“盾”更為堅(jiān)固。

為提高檢測(cè)準(zhǔn)確率，目前市面上的商用AI檢測(cè)軟件大多融合了多種技術(shù)手段。國(guó)內(nèi)外研究團(tuán)隊(duì)也在進(jìn)一步完善相關(guān)技術(shù)。

對(duì)于AI檢測(cè)AI的前景，有兩種截然不同的觀點(diǎn)。一種觀點(diǎn)認(rèn)為，未來(lái)AIGC將會(huì)與人類創(chuàng)作內(nèi)容極為相似，以至于檢測(cè)工具無(wú)法判別：另一種觀點(diǎn)認(rèn)為，隨著技術(shù)發(fā)展，檢測(cè)技術(shù)或?qū)②s超大模型技術(shù)，實(shí)現(xiàn)對(duì)AIGC的有效識(shí)別。

目前，無(wú)論是AI生成的文字、圖片還是視頻，都在技術(shù)可識(shí)別的范疇之內(nèi)。相較于文字，圖片和視頻甚至可以直接被專業(yè)人士肉眼識(shí)別。期待未來(lái)通過(guò)大模型技術(shù)的不斷進(jìn)步，推動(dòng)檢測(cè)技術(shù)進(jìn)一步發(fā)展。

（選自《科技日?qǐng)?bào)》2024年8月16日，有刪改）

[導(dǎo)讀]

檢測(cè)AI生成內(nèi)容的三種方法各有什么特點(diǎn)？