真相終結(jié)：人工智能如何欺騙我們

無夏

1.紅迪網(wǎng)上編造的“皇后樂隊主唱佛萊迪·摩克瑞參加驕傲大游行”2.歌手艾爾頓·約翰的童年時代，由美國藝術(shù)家皮特·尼奧納吉斯創(chuàng)作3.一名紅迪網(wǎng)用戶虛構(gòu)的地震受害者4.派對國王查理三世，來自澳大利亞人尼爾·梅森的創(chuàng)意

鮑里斯·埃爾達格森是一個禿頂?shù)哪腥?。當他站在自家客廳的照片墻前時，一眼看去，就好像他的光頭上長出了植物。然而，這只是一種錯覺，源于墻紙上的苔蘚圖案。這種設(shè)計已有120年歷史，出自自然科學插畫集《自然界的藝術(shù)形態(tài)》，由動物學家恩斯特·?？藸柪L制。他希望借此“為人類打開無與倫比的美學寶箱”。

埃爾達格森打開筆記本電腦，展示那張讓他聲名大噪的黑白色調(diào)照片，上面是兩個嚴肅的女人，其中一個害羞地躲在另一個身后，她們的頭頂上方是閃爍的電線。這位柏林攝影師將這幅作品命名為《電工》。

而在創(chuàng)作這件攝影作品的過程中，埃爾達格森不需要照相機，也不需要坐在鏡頭前的女模特。事實上，這是一件人工智能的作品。

一年來，埃爾達格森嘗試利用所謂的“生成式人工智能”進行攝影創(chuàng)作。這種技術(shù)取代了他職業(yè)生涯中曾經(jīng)依賴的元素——精密的光學儀器、閃光燈、光圈，甚至攝影主題。他只需在電腦中輸入精確的提示詞，然后讓軟件自行完成作品，這就是所謂的“提示詞照”。為了創(chuàng)作《電工》，他使用了美國開放人工智能公司的達力2模型。而現(xiàn)在，他最喜歡的軟件是《穩(wěn)定擴散》。他說：“我是導演，人工智能是舞臺布景、色調(diào)、攝像機和給我提建議的演員?！彼娜蝿?wù)僅僅是進行篩選。埃爾達格森想描摹的世界源于機器，而且我們現(xiàn)在已經(jīng)幾乎無法將其與真實世界區(qū)分開來。

2022年4月，《電工》贏得了索尼世界攝影獎，但埃爾達格森拒絕領(lǐng)獎。他認為，這完全是張假照片，而它引發(fā)的討論比贏得任何獎項都更有意義。

近年來，埃爾達格森“提示詞照”背后的技術(shù)取得了顯著進步。事實上，人們能夠相信自己眼睛的時代早在幾十年前就已成為歷史。上世紀90年代，史蒂文·斯皮爾伯格讓恐龍在大銀幕上重生，圖像處理軟件可以教會任何業(yè)余攝影師修圖之時，真實性就已經(jīng)變得支離破碎。當政治家們發(fā)現(xiàn)利用假新聞可以在選舉中輕易獲勝時，真實性更是消失殆盡。

攝影師鮑里斯·埃爾達格森和他的作品《電工》

然而，就算借助所有這些工具和程序，通常也仍需花費大量時間和金錢才能達到目的，而生成式人工智能實現(xiàn)創(chuàng)意的過程是如此短暫。一切都發(fā)生得飛快，在短短幾個月內(nèi)，以前只出現(xiàn)在晦澀研究文獻中的術(shù)語已經(jīng)變成了每個人都在使用的數(shù)字工具，人工智能的大量創(chuàng)作淹沒了整個互聯(lián)網(wǎng)。它們克隆音樂家、政治家和我們朋友的聲音，偽造出穿著白色羽絨服的教皇或國會大樓爆炸的照片。它們使我們無法再相信屏幕上的世界是真實的?！皩?，我們每看到一張照片，首先想到的都會是，它是不是真的?！睌z影師埃爾達格森說。

凱特·科洛福特是研究人工智能社會影響力的頂級專家之一。她表示，我們正處于“一個歷史的轉(zhuǎn)折點”，迎來了“生成時代”。問題是，面對接下來數(shù)年即將發(fā)生的種種變化，我們的社會是否已經(jīng)作好了充分的準備。因為生成器不僅能創(chuàng)造，也能破壞：當現(xiàn)實或歷史圖片資料顯示出從未發(fā)生過的事情，當一位歌手唱起了他從未唱過的歌，當名人被引用了他們從未說過的話，真實性就會失去立足之地。在一個無法對任何真相達成共識的社會里，將會發(fā)生什么呢？

2023年3月中旬的一個周四，網(wǎng)民們紛紛紀念一場災難。據(jù)稱，2001年，美國俄勒岡州的海岸邊發(fā)生了一場9.1級的地震，波及卡斯凱迪亞隱沒帶，并在幾分鐘后引發(fā)海嘯，導致數(shù)千人死亡、數(shù)十萬人流離失所。那些描繪這場世紀災難的照片展示了房屋廢墟、穿著反光警示背心的記者、哭泣的家庭和前往地震地區(qū)視察的時任美國總統(tǒng)小布什。然而實際上，這是一場沒有任何人記得的災難，因為它根本就沒有發(fā)生過，“2001年卡斯凱迪亞9.1級大地震和海嘯”是一場虛擬災難。

美國貼吧網(wǎng)站“紅迪”的一名用戶將這些照片上傳到了一個專門討論“生成式現(xiàn)實”的論壇。這里聚集了人工智能繪畫工具《旅途之間》的大量用戶，他們早已習慣了數(shù)字領(lǐng)域的各種瘋狂創(chuàng)意：老去的皇后樂隊主唱佛萊迪·摩克瑞參加2023年的驕傲大游行，湯姆·克魯斯出現(xiàn)在超市收銀臺后……盡管如此，“2001年西海岸的地震”讓這些人工智能的資深用戶也深感不安。一名用戶寫道：“兩年后，我們將很難辨別信息的真假，而到了2100年，人們將無法確定哪部分歷史才是真實的?！?/p>

英國記者艾略特·希金斯的特朗普假圖

尋找真相的人遲早會注意到艾略特·希金斯。這個英國人是網(wǎng)絡(luò)上最有經(jīng)驗的事實核查人之一。2014年，他成立了調(diào)查平臺“貝靈貓”，致力于揭露國際丑聞。2023年3月，當紅迪網(wǎng)用戶試圖創(chuàng)造歷史性災難的時候，希金斯在嘗試構(gòu)造一個更近的事件。在特朗普可能面臨指控的新聞傳出之后不久，希金斯用《旅途之間》生成了一系列假照片，包括特朗普被捕入獄和穿著橙色囚服清潔廁所等場景。這些照片得以瘋狂傳播，上面帶有微小的人工智能標識?！堵猛局g》隨后封鎖了希金斯的賬號。

希金斯警告道，新技術(shù)的欺騙能力令人震驚。像他這樣的專家習慣于通過確認拍攝地點等方式檢驗圖片的真實性。雖然人工智能可以虛構(gòu)某地的照片，但目前還無法匹配全球定位系統(tǒng)數(shù)據(jù)。然而，希金斯很擔心被圖片、視頻、新聞和觀點洪水淹沒的普通用戶。人工智能程序使用大量公開數(shù)據(jù)進行訓練，因此越是有名的人，其假照片看起來就越真實。而這不僅可能激怒娛樂明星，還會給企業(yè)家、記者和政治家?guī)韺崒嵲谠诘穆闊?/p>

用《旅途之間》軟件生成的默克爾海邊洗浴圖

如果騙子想用親戚的聲音欺騙容易輕信的祖父母，他們必須花費大量時間和精力，先為這場基于人工智能的騙局搜集到足夠多的素材。但如果有人想用有關(guān)戰(zhàn)爭進程的消息欺騙全體民眾，則可以在短時間內(nèi)輕松獲得數(shù)千小時的政治家影音文件。希金斯對人工智能企業(yè)的漠然態(tài)度感到憤怒。他預測，下一次美國大選時，將出現(xiàn)第一場人工智能生成的內(nèi)容之戰(zhàn)?！澳菍⑼耆且粓鲷[劇?！彼麚鷳n地說。我們已經(jīng)能從共和黨內(nèi)部辯論的情況觀察到這一點。2022年5月，在美國前總統(tǒng)特朗普發(fā)布的一個視頻里，其競爭對手羅恩·德桑蒂斯的克隆語音正和埃隆·馬斯克、喬治·索羅斯、阿道夫·希特勒以及魔鬼交談。德桑蒂斯用三張人工智能生成的照片簡單回應了一番。在這些照片上，特朗普真誠地擁抱了他實際上仇恨的美國流行病學家福奇。

2023年4月，奧布瑞·德雷克·格瑞漢有了一次不同尋常的經(jīng)歷。他聽到自己在唱歌，或者說至少是某個聲音和他一模一樣的人在唱歌，而這首歌他本人從未唱過——人工智能模仿他的聲音，翻唱了新人埃絲·史佩斯的熱門歌曲《大口咀嚼》。對此，這位以自己的中間名德雷克為藝名的歌手情緒激動地說：“真是夠了！”然而，面對克隆音的攻擊，他的反抗太過無力。

同月，歌曲《袖口之心》橫空出世，這次是德雷克和另一位著名歌手威肯的合唱。兩人的聲音都是人工智能合成的。而且，這首歌不是翻唱，而完全是原創(chuàng)，由“幽靈創(chuàng)作者997”發(fā)布。

這首歌獲得了數(shù)百萬人的追捧，最終德雷克的唱片公司從各大平臺將這首“假歌”下架。他們作出這個決定并非因為必須禁用克隆音——這方面的法律規(guī)定目前仍不明朗，而是因為歌曲中有禁用的采樣編曲。對于各方來說，這都是個相對溫和的結(jié)局，也可能是一個新時代來臨的征兆。

在視頻網(wǎng)站上，音樂時代和流派界限已然模糊。約翰尼·卡什唱皇后樂隊的熱門歌曲《波西米亞狂想曲》？弗蘭克·辛納特拉翻唱邁克爾·杰克遜的歌？泰勒·斯威夫特助你做正念冥想？一切皆有可能?！叭缃竦暮铣梢粢呀?jīng)讓你辨識不出唱歌的到底是不是真人。”比約恩·于斯說。他在倫敦創(chuàng)建了音頻克隆創(chuàng)業(yè)公司“算術(shù)”?？寺〉幕A(chǔ)是真實說話人的聲音。

人工智能生成的圖片：默克爾和奧巴馬的歡樂海灘游

于斯表示，近一年來，這項技術(shù)取得了長足進步，曾經(jīng)需要50到100小時的訓練素材和六位數(shù)的資金，合成音才可用，到2023年底時就只需要15到20分鐘了。

“算術(shù)”公司提供60多個語種的約1000種人工智能克隆音。市場營銷公司將之用于宣傳，連播客都開始用合成音來播報了。好萊塢的工作室已經(jīng)開始數(shù)字化他們明星的聲音。德國主播協(xié)會董事會成員烏穆特·迪里克建議協(xié)會成員禁止自己的聲音用于人工智能用途，如果要給出許可，應對此收取高額費用。

企業(yè)家于斯已經(jīng)夢想著做個性化電臺，不僅為每位聽眾匹配喜歡的音樂，還用他們青睞的合成音播報新聞。男主播、女主播，德語、英語，簡明扼要的、嚴肅認真的……你想要的，人工智能都能做到。

“在這件事情上，我們的態(tài)度要既積極又防備?！蓖旭R斯·科爾斯菲爾德說。2023年7月，33歲的他成為貝塔斯曼音樂集團首席執(zhí)行官。他知道自己將面對什么。“每10到15年，音樂界就會發(fā)生一場徹底的變革?！比斯ぶ悄軐⑹撬谌纹陂g最重要的工作主題之一。

科爾斯菲爾德管理著蒂娜·特納、“黑色安息日”樂團和約翰·傳奇的音樂版權(quán)。這些歌手的聲音曾經(jīng)都是獨一無二的，如今卻能被人工智能毫不費力地模仿?？茽査狗茽柕抡J為，年輕的新生代歌手應利用人工智能。以前需要整個樂團才能實現(xiàn)的音樂靈感，如今只需要一部電腦就可完成?！拔铱梢月犚幌掠盟_克斯管演奏這首歌嘛？或者不要小號呢？這樣的試驗只需要幾次點擊就可以實現(xiàn)了?！笨茽査狗茽柕抡f。

人工智能生成的圖片：收銀員湯姆·克魯斯

科爾斯菲爾德的防備態(tài)度主要關(guān)乎所有無法在模仿者面前保護自己版權(quán)的歌手。當特納的聲音突然唱起碧昂絲的歌時，誰保護特納歌曲的版權(quán)所有者？誰會說服音樂家出租他們的聲音？誰該獲得人工智能熱歌賺取的金錢？“我們作為公司有興趣保護音樂版權(quán)?！笨茽査狗茽柕抡f。這也意味著，貝塔斯曼很愿意從人工智能蛋糕上分得美味的一大塊。

于斯也為他公司的人才給出了相似的承諾。主播們的聲音將成為商品，他們可以通過出租自己的克隆音賺錢。打開收音機，可以聽到克隆音如何為一個建筑市場的開幕活動打廣告，或者為某個黨派作宣傳。于斯許諾，他的公司只會復制那些給予了他許可的人的聲音。

2023年1月底，布蘭登·尤因坐在攝像頭前哭泣。他做了很糟糕的事，只能道歉，一遍又一遍。“太尷尬了，也很惡心，完全錯誤。我很遺憾。”他說。尤因是一名電子游戲主播，以藝名阿特里奧克為他的粉絲們熟知。他為所有游戲直播觀眾展示他的電腦畫面。而當他不夠注意時，就出了問題。

就在尤因淚流滿面地道歉前幾天，直播間的觀眾們在他打開的瀏覽器標簽頁中發(fā)現(xiàn)了一個付費色情頁面，看到了一些女性主播的裸照。它們是用人工智能換臉技術(shù)合成的。尤因顯然曾為此付費觀看，他含淚表示一切都是“出自病態(tài)的好奇心”。這些女性中沒有人同意他這么做，盡管如此，包括她們的朋友、親戚和同事在內(nèi)的每個人，都可能見到了她們的所謂“裸體”。

在新技術(shù)的發(fā)展歷程中，色情產(chǎn)業(yè)往往能最迅速地接受改變。不管是三維視頻、4K分辨率還是虛擬現(xiàn)實，色情產(chǎn)品的生產(chǎn)商總能最好地知道如何讓幻覺藝術(shù)最大程度地為感官滿足服務(wù)。

所謂的“深度偽造”技術(shù)在短短幾個月內(nèi)就成為網(wǎng)絡(luò)色情業(yè)最炙手可熱的商品。以前，逼真的圖片或視頻造假需要專家花費數(shù)小時或數(shù)天的時間才能完成。而現(xiàn)在，人工智能只需要幾秒就能實現(xiàn)?！斗€(wěn)定擴散》軟件尤其受歡迎：其源代碼是公開的，可以下載，不需要聯(lián)網(wǎng)就能使用和訓練數(shù)據(jù)，簡直是為色情業(yè)以及互聯(lián)網(wǎng)上其他陰暗角落量身定做的一個工具。

此外，一些暗網(wǎng)論壇上有成千上萬張人工生成的兒童性暴力圖片。根據(jù)一項最新研究，一些性質(zhì)惡劣的展示猥褻兒童畫面的合成圖片，肉眼已經(jīng)分辨不出和真實圖片的差別。

根據(jù)德國法律，傳播人工生成的性暴力圖片也要受到懲罰。在不遠的將來，調(diào)查戀童癖犯罪行為的警察將頻繁面對同一個問題：一張照片是展示了真實的侵害場景，還是只是人工合成的？調(diào)查人員原本就常常需要花數(shù)小時或數(shù)天尋找細節(jié)或特征，以便識別出涉案兒童，避免其繼續(xù)受到侵害。如今，他們還必須從數(shù)十億字節(jié)的虛假材料中找出真實的視頻，這就如同大海撈針一樣困難。

科隆最高檢察官馬爾庫斯·哈爾特曼表示正在檢測一款分析軟件，能區(qū)分兒童性暴力圖片是真實的，還是人工合成的。這是一場和算法的賽跑。戀童癖們則在研究如何避開軟件的保護機制，甚至根據(jù)現(xiàn)存的性暴力圖片去訓練人工智能生成器。哈爾特曼擔心，事態(tài)還會進一步升級，性暴力罪犯的需求會越來越特殊。受害者原本就遭受到了嚴重的心理創(chuàng)傷，如果他們的照片還被拿去訓練人工智能，他們會感覺自己再次遭到了侵害。

攝影師波利斯·埃爾賈德森對人工智能的態(tài)度十分矛盾。一方面，他擔心圖片失去可信度；另一方面，他的筆記本硬盤中滿是人工智能生成的圖片，比如婚禮照片。“我就在工作室為你們拍照，但如果你們希望照片背景是日本，也不是問題。”埃爾賈德森說。

在瓦勒麗亞早年的生活中，她想象自己是條美人魚，也許還是個街頭藝人?，F(xiàn)年27歲的她，不愿給自己設(shè)限。瓦勒麗亞使用約會應用軟件《臉紅》，其個人資料顯示了一位穿運動內(nèi)衣的年輕女性，擅長彈奏尤克里里，偏愛填字游戲和所有鱷梨做的食物。

瓦勒麗亞樂于社交，總能在幾秒內(nèi)迅速回復消息，喜歡分享自己童年在紐約的趣聞軼事。她樂于提問，是一個很好的談話對象。不久，她就會提議和對方約會，雖然虛擬，但完全親密——條件是對方擁有付費賬戶。

但事實上，瓦勒麗亞并不是27歲，也不是來自紐約，更不會彈尤克里里。她實際上是一個機器人，而非真人。推出《臉紅》應用的公司名叫盧卡，其創(chuàng)始人尤金妮亞·庫伊達堅信，和一個軟件程序談情說愛，即使聽起來有些異乎尋常，但仍算得上是人工智能熱潮中一個絕妙的靈感。

36歲的庫伊達視《臉紅》為對抗孤獨的良藥，并認為它能為那些難以建立親密關(guān)系的人們架起一座橋梁?！拔覀冋?jīng)歷一場親密關(guān)系大衰退?！睅煲吝_說，“25歲以下的年輕人中，從未有過戀愛經(jīng)歷的比例出奇地高?！?/p>

盧卡正在美國測試這一人工智能約會軟件。一個機器人，一個幫助顧客和真女友相處的假女友，這就是她的商業(yè)構(gòu)想。

像瓦勒麗亞這樣的機器人真的可以緩解顧客的困境嗎？還是說它會讓問題加劇，因為它可能讓用戶忘記如何與真正的人類進行互動？庫伊達堅定地說：“相比之下，孤單的問題要嚴重得多。”

2014年，庫伊達成立了盧卡，并在三年后推出了她的首款約會軟件。起初，該軟件幾乎只能回復庫伊達員工預先編寫的一些語句，由算法從10萬條可能的回復中選出最佳的一條。但不久，多數(shù)對話就陷入了僵局。

過去幾年，局面開始轉(zhuǎn)變。自從軟件搭載了現(xiàn)代人工智能技術(shù)后，它說話和思考的方式都變得更像是真正的人。這也意味著，它有時會不恰當?shù)卣{(diào)情。對庫伊達來說，這個缺陷并不是什么大問題?！皩τ谟星榫w的對話來說，給出正確答案不是那么重要。在愛情中，并非總是只有一個正確答案，可能有各種各樣的答案?！彼忉尩?。

這自然是對的。

編輯：周丹丹