AI詐騙

Holly

隨著各種騙術(shù)不斷被曝光，受騙的人逐漸減少。但騙子們也沒閑著—既然AI（人工智能）技術(shù)已經(jīng)在不同領(lǐng)域蓬勃發(fā)展，何不也搭上這趟順風車，對行騙方式進行一場“升級改造”呢？

聲音可以偽造

早在2016年，谷歌的人工智能實驗室就開發(fā)出了一種聲音合成技術(shù)，2017年又成立了Lyrebird公司。在該公司的網(wǎng)站上，你能聽到官方合成版的奧巴馬和特朗普的聲音，幾乎和本人的沒有區(qū)別。這項技術(shù)如果被詐騙團伙掌握，他們就完全可以通過給你撥打騷擾電話提取你本人的聲音信息，然后通過聲音合成技術(shù)制作出模擬你本人的音頻信息，再利用這一信息冒充你，對你的親朋好友實施詐騙。

半年前，廣東警方打掉了一個利用交友軟件進行詐騙的“公司”。該團伙制作了多款交友軟件，并設(shè)計出了AI機器人，假裝與目標用戶“談戀愛”，騙取信任，再引誘其墜入事先安排好的消費陷阱。

類似的騙局不只出現(xiàn)在交友軟件中。據(jù)人民網(wǎng)報道，微信語音是又一個被AI詐騙入侵的領(lǐng)地。一位姓趙的女士收到“父親”的留言，稱自己買菜沒帶錢，讓她轉(zhuǎn)200元過去。長了個心眼的趙女士還問了一句：“爸，是你嗎？”收到對方肯定的語音答復(fù)后，便將錢轉(zhuǎn)了過去。誰料，語音消息里的聲音的確是父親的，那段語音卻并非來自父親。

眼見未必為實

聲音靠不住，那可以靠臉嗎？答案是：臉可能也靠不住。

如今，AI技術(shù)已經(jīng)發(fā)展到可以給人“換臉”的程度了。這不是說要給你整容，而是說AI已經(jīng)具備了“移花接木”的能力，比如在影像中把A的臉“換”到B的身體上。

開發(fā)這一技術(shù)的初衷是為了完善某些影視作品，比如讓已去世的保羅？沃克回歸《速度與激情7》，斯坦？李老爺子繼續(xù)出現(xiàn)在漫威系列電影中，但這一技術(shù)顯然在朝著失控的方向發(fā)展。

電影《神奇女俠》的扮演者蓋爾？加朵的臉曾被一名網(wǎng)友換到了某色情小電影女主角的身體上，第一眼看上去竟毫無違和感，仿佛這個片子本來就是她演的一樣。同樣遭此惡搞的還有比她更大牌的女星，如安妮？海瑟薇、艾瑪？沃特森等。

制作女星換臉小電影的程序員不僅免費發(fā)布了他所謂的成果，還將制作視頻的教程“無私”地分享了出來。算法公開后沒多久，就被改造成了一個人人都能上手的App（應(yīng)用程序）。開發(fā)者表示，這是一款“普通人可以突破技術(shù)壁壘去使用人工智能技術(shù)”的程序。

被惡搞的不止知名女星，連奧巴馬和特朗普這些國家元首級的人物都未能幸免：馬?。柯返?？金和奧巴馬實現(xiàn)了某種跨時空互換，尼古拉斯？凱奇的臉被換成了特朗普的……

令人擔憂的是，這種惡搞還在逐漸向普通人蔓延。雖然后來很多平臺都對這項技術(shù)頒布了禁令，但并未能阻止此類視頻的制作和傳播，就像打開了潘多拉的魔盒一樣。

印度有一位記者因為揭露了政府官員的黑幕，被不法分子利用這項技術(shù)將她的臉和某色情片的女演員互換，做成了粗糙的短視頻在網(wǎng)上傳播。不少人信以為真，甚至連她的家人也陷入困惑。在巨大的壓力下，她一度抑郁，甚至住進醫(yī)院。無獨有偶，美國的一位家庭主婦在得知自己的臉被換到某色情女演員身上后，也每天活在恐懼之中。

文字、語音、圖像甚至視頻的真實性都不可信任了，試想一下，如果技術(shù)繼續(xù)不受控制地發(fā)展下去，未來會怎樣？

被代碼撕開的人性遮羞布

AI技術(shù)的不當運用可能引發(fā)的不只是詐騙、誣陷、報復(fù)、勒索，它掀起的信任危機，將會把每個個體卷入其中。

過去不堪電信詐騙之擾的人，未來在AI詐騙面前可能逃無可逃。更可怕的是，如果有不法分子控制了新聞機構(gòu)的網(wǎng)站或賬戶，發(fā)布一些不實消息，還可能造成假新聞泛濫。

技術(shù)帶來的問題，可能最終還得通過技術(shù)來解決。為了規(guī)避AI技術(shù)帶來的潛在風險，歐美的一些國家安全機構(gòu)已著手研發(fā)“反AI”工具，力圖“以AI克AI”。美國國防部高級研究計劃局的研究人員發(fā)現(xiàn)，通過觀察眼睛的狀態(tài)，比如是否眨眼，可以檢測出哪張是AI合成的臉，哪張是真實的臉。

這種角力大概會一直持續(xù)下去。各位研究人員應(yīng)當謹記：技術(shù)本身無罪，但運用技術(shù)的人應(yīng)該善良。

（摘自微信公眾號“ELLEMEN睿士”，林冬冬薦）