因錯誤率較?OpenAI被迫叫停AI內容識別軟件

美國政府希望大型人工智能公司能夠披露那些使用人工智能創(chuàng)建的內容。另一邊，歐盟即將要求一些科技平臺在其人工智能生成的圖像、音頻和視頻上打上“顯著標記”，以便告知大眾這些東西是合成而來的。

然而，這里有一個大問題：識別人工智能創(chuàng)造的內容是一個巨大的技術挑戰(zhàn)。目前可用的最佳選擇是采取同樣由人工智能驅動的檢測工具和水印，但是它是檢測結果不一致、不準確等缺點。

事實上， 就在本周由于錯誤率過高，OpenAI關閉了自己的人工智能檢測工具。

但另一種方法最近引起了人們的注意：C2PA。它于兩年前推出，是一種開源的互聯(lián)網協(xié)議，依靠密碼學來對內容出處的細節(jié)進行編碼。

C2PA的開發(fā)人員經常將該協(xié)議比作“營養(yǎng)成分標簽”，它標明了內容來自哪里，以及是誰或什么創(chuàng)造了它。

該項目是非營利組織聯(lián)合開發(fā)基金會的一部分， 由Adobe 、Arm 、英特爾、微軟和Truepic發(fā)起，它們成立了內容來源和真實性聯(lián)盟， 英文全稱為Coalition for Content Provenance andAuthenticity，C2PA也由此得名。

目前，有1500多家公司通過開源社區(qū)“內容真實性倡議”參與了該項目，其中包括尼康、英國廣播公司（BBC）和索尼等多家知名機構。

近來，隨著人們對人工智能檢測和監(jiān)管的興趣增強，上述項目的勢頭越來越大。C2PA主席安德魯·金克斯表示，在過去六個月里會員數(shù)量增加了56%。

知名媒體平臺Shutterstock已經作為成員加入，并宣布打算使用這一協(xié)議來標記其平臺上所有由人工智能生成的內容，包括其由DALL-E驅動的人工智能圖像生成器。該平臺的首席執(zhí)行官薩耶·阿敏在一封電子郵件中告訴《麻省理工科技評論》，該公司正在通過“支持系統(tǒng)和基礎設施的開發(fā)來保護藝術家和用戶，這些系統(tǒng)和基礎架構可以創(chuàng)造更大的透明度，從而輕松識別藝術家的創(chuàng)作與人工智能生成或修改的藝術之間的區(qū)別?！?h3>什么是C2PA，如何使?它？

微軟、英特爾、Adobe和其他主要科技公司于2021年2月開始研究C2PA，它們希望創(chuàng)建一個通用的互聯(lián)網協(xié)議，允許內容創(chuàng)作者選擇在其視覺和音頻內容上標注其來源信息。但就目前而言，該協(xié)議還不適用于基于文本的內容。

最重要的是，該項目具有跨互聯(lián)網的適應性和功能性，并且任何人都可以免費訪問其底層計算機代碼。

銷售內容驗證產品的Truepic公司已經使用Revel.ai演示了該協(xié)議到底該如何與深度偽造視頻搭配使用。當觀眾的光標懸停在屏幕右上角的一個小圖標上時，會出現(xiàn)一個關于視頻的信息框，其中包括“包含人工智能生成的內容”的信息披露。

Adobe還將C2PA（又被稱為內容憑證） 集成到了包括Photoshop和AdobeFirefly在內的幾款產品中。該公司的內容真實性倡議高級總監(jiān)、C2PA項目負責人安迪·帕森表示：“我們認為這是一種增值，可能會吸引更多客戶使用Adobe工具。”

C2PA是通過密碼學來保護內容的，密碼學依賴于一系列代碼和密鑰來保護信息不被篡改，并記錄信息的來源。更具體地說，它的工作原理是通過一組加密綁定到每個像素的哈希值，來對出處信息進行編碼。

與人工智能檢測系統(tǒng)相比，C2PA提供了一些重要的優(yōu)勢，后者能夠更好地逃避檢測。

水印，是另一種用于識別人工智能生成內容的典型技術。但是，C2PA是一個比水印更加標準化的系統(tǒng)， 在某些情況下比水印更容易查看。同時，該協(xié)議還可以與水印以及其他人工智能檢測工具一起使用。

信息來源的價值

在媒體中添加來源信息以打擊虛假信息， 并不是一個新想法。早期研究似乎表明這是有希望的：例如，此前牛津大學團隊在研究中發(fā)現(xiàn)，有證據(jù)表明用戶在獲得有關內容的出處信息之后，往往不太容易受到錯誤信息的影響。

事實上，在OpenAI關于其人工智能檢測工具的迭代上，該公司表示它正在專注于其他“來源（披露）技術”，以滿足相關方面的披露要求。

也就是說，來源信息遠不是一個萬無一失的解決方案。美國信息完整性中心主任、紐約布法羅大學教授呂思偉表示，C2PA不具有法律約束力，如果不要求在互聯(lián)網范圍內采用該標準，那么未標記的人工智能生成內容就會始終存在。

盡管他強調該項目仍然非常重要，但是他也表示：“缺乏全面的約束力使得這項工作存在內在漏洞?！?/p>

此外，由于C2PA依賴創(chuàng)作者選擇加入，該協(xié)議并未真正解決不良行為者使用人工智能生成內容的問題。目前，還不清楚元數(shù)據(jù)的提供到底能給公眾媒體流暢性帶來多大幫助。

因此，該聯(lián)盟最重大的挑戰(zhàn)可能是鼓勵整個互聯(lián)網生態(tài)系統(tǒng)廣泛地采用它的技術，尤其是鼓勵社交媒體平臺積極使用。

在C2PA協(xié)議的設計中，它會全方位地追溯出處信息。比如，一張照片的出處信息從相機拍攝、到它進入社交媒體時都會被編碼。但是，如果社交媒體平臺不使用該協(xié)議，它就不會顯示照片的出處數(shù)據(jù)。

目前，尚無主流社交媒體平臺采用C2PA。推特原本已經簽署了該項目，但在埃隆·馬斯克接手后退出了。該公司也暫停了參與其他以自愿參與為基礎的項目，而這些項目的重點多數(shù)是為了遏制錯誤信息。

不過，C2PA并不是“ 萬能藥”，它不能解決所有的錯誤信息問題，但它確實為共有的客觀現(xiàn)實奠定了基礎。

“（因此）在Meta上分享內容之前，你不必知道它是從哪里來的，但如果你想的話你可以選擇這樣做。鑒于生成媒體的驚人能力，我們認為這樣做的能力至關重要?！卑驳稀づ辽硎尽?/p>