黑客GPT來(lái)了

卡倫·雷諾 梅里爾·沃肯廷 喬治·韋斯特曼

過(guò)去幾年，網(wǎng)絡(luò)犯罪分子頻頻利用人工智能（AI）侵入公司系統(tǒng)、擾亂商業(yè)運(yùn)營(yíng)。像ChatGPT這種威力強(qiáng)大的新生成式AI工具也給企業(yè)領(lǐng)導(dǎo)者帶來(lái)了一系列新挑戰(zhàn)。

試想以下完全可能出現(xiàn)的情景：

● 黑客根據(jù)你們公司的營(yíng)銷材料和過(guò)去曾經(jīng)得到的網(wǎng)絡(luò)釣魚(yú)信息，利用ChatGPT生成一條針對(duì)性的魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)*信息。哪怕是充分接受過(guò)電郵反詐培訓(xùn)的人也難免會(huì)上當(dāng)，因?yàn)樗雌饋?lái)與他們當(dāng)初培訓(xùn)時(shí)學(xué)習(xí)偵測(cè)的信息完全不同。

● AI機(jī)器人利用深度偽造技術(shù)，模仿老板的聲音給負(fù)責(zé)應(yīng)付賬款的員工打電話。寒暄了幾句之后，“老板”要求該員工將數(shù)千美元轉(zhuǎn)入一個(gè)賬戶用以“支付發(fā)票”。員工知道這樣做不合規(guī)矩，但老板是有權(quán)要求破例的，對(duì)吧？

● 黑客利用AI給系統(tǒng)中的信息“投毒”，創(chuàng)建一個(gè)有價(jià)值的股票投資組合，然后搶在騙術(shù)被人發(fā)現(xiàn)之前套現(xiàn)。

● 有人用生成式AI偽造了某公司高管討論如何掩蓋財(cái)務(wù)虧空的一系列電郵，其內(nèi)容令人信以為真。在社交媒體機(jī)器人大軍的推波助瀾下，這一“泄露”的信息被瘋狂傳播，導(dǎo)致公司股價(jià)暴跌，聲譽(yù)蒙受了無(wú)可挽回的損失。

深度偽造技術(shù)會(huì)在社交媒體造成災(zāi)難性后果，或者重創(chuàng)企業(yè)IT系統(tǒng)。一直關(guān)注此類事件的人可能對(duì)上述情景有似曾相識(shí)之感。但這些新威脅的性質(zhì)是不同的，且更加令人不寒而栗，因?yàn)槠涞讓蛹夹g(shù)已變得“更智能”。

到目前為止，大多數(shù)攻擊使用的都是相對(duì)簡(jiǎn)單的高容量法。請(qǐng)想象來(lái)自一大批網(wǎng)絡(luò)僵尸的威脅，它們數(shù)以百萬(wàn)計(jì)，鍥而不舍卻沒(méi)頭沒(méi)腦，只有當(dāng)其中一兩個(gè)碰巧找到防護(hù)屏障的薄弱環(huán)節(jié)時(shí)，它們的攻擊才會(huì)得逞。相比之下，最復(fù)雜的威脅（例如我們有時(shí)在媒體上獲知的重大盜竊和欺詐事件）是較低容量的精準(zhǔn)攻擊，通常需要人類的實(shí)際介入才能成功。此類攻擊更像是飛檐走壁的竊賊，系統(tǒng)地研究建筑物的每個(gè)細(xì)節(jié)及其警報(bào)系統(tǒng)，直到設(shè)計(jì)出一種可以避開(kāi)安保體系悄悄潛入的方法。它們又好比巧舌如簧的騙子，能夠憑空捏造一個(gè)背景故事，編織出以假亂真的謊言，甚至連聰明人也會(huì)上當(dāng)受騙、乖乖給錢。

現(xiàn)在想象一下，那些僵尸變聰明了。在生成式AI的加持下，每個(gè)僵尸都變成了偷天大盜，能看穿你的安全系統(tǒng)是如何設(shè)計(jì)的，并創(chuàng)造出繞過(guò)它們的方法?；蛘?，你也可以想象一個(gè)騙子使用生成式AI同你的一名員工接觸，贏得他的信任，然后誘騙他落入圈套。

AI驅(qū)動(dòng)惡意軟件的新時(shí)代意味著，企業(yè)不能再簡(jiǎn)單沿用過(guò)去的最佳實(shí)踐，哪怕在短短幾個(gè)月前，這套方法可能還是卓有成效的。落實(shí)穩(wěn)妥的安全政策、安裝最頂級(jí)的防護(hù)和偵測(cè)技術(shù)工具、開(kāi)展安全意識(shí)教育以確保員工了解安全規(guī)則——所有這些縱深防御策略都不足以應(yīng)對(duì)新的挑戰(zhàn)。一個(gè)全新的時(shí)代已經(jīng)拉開(kāi)了序幕。

生成式AI能夠?qū)⑽谋?、語(yǔ)音、圖形和視頻組合起來(lái)，在黑客攻擊領(lǐng)域開(kāi)啟未知且不可知的創(chuàng)新。成功防御此類威脅尚不能實(shí)現(xiàn)自動(dòng)化。你的公司需要從獲取工具和建立基于規(guī)則的方法，轉(zhuǎn)向制定能夠?qū)崟r(shí)應(yīng)對(duì)更高級(jí)別AI生成威脅的策略。為此，有必要采用更智能的技術(shù)，聘用更聰明的員工。

用生成式AI對(duì)付生成式AI

企業(yè)應(yīng)該使用生成式AI增強(qiáng)自己的防御能力，同時(shí)依靠它來(lái)加快建設(shè)實(shí)時(shí)應(yīng)對(duì)新威脅的能力。

首先，以企業(yè)的外圍防御體系為例。企業(yè)早已使用惡意軟件數(shù)據(jù)庫(kù)來(lái)偵測(cè)新威脅。供應(yīng)商會(huì)不斷更新這些惡意軟件特征的數(shù)據(jù)庫(kù)，但并不會(huì)根據(jù)每家企業(yè)的獨(dú)特情況來(lái)量身定制。黑客們以前使用的是無(wú)差別的漏洞攻擊策略侵入公司系統(tǒng)。如今，他們將應(yīng)用AI專門針對(duì)某家企業(yè)的漏洞實(shí)施攻擊。詐騙電郵會(huì)在合適的壓力點(diǎn)精準(zhǔn)發(fā)力。它們的逼真度也會(huì)相當(dāng)高，因?yàn)樵谛滦途W(wǎng)絡(luò)釣魚(yú)攻擊中，每條信息都是AI驅(qū)動(dòng)語(yǔ)言使用公共信息為目標(biāo)企業(yè)量身定制的。因此，哪怕是精明的員工，也很難在第一時(shí)間看穿騙局、對(duì)其不予理會(huì)。更有可能的是，他會(huì)因?yàn)榭吹酱罅烤唧w細(xì)節(jié)而對(duì)郵件的真實(shí)性深信不疑。

OpenAI（ChatGPT的創(chuàng)造者）等公司正在推出GPTZero和ZeroGPT等工具，供企業(yè)檢測(cè)新生成的文本（在沒(méi)有可識(shí)別簽名的情況下）是不是由生成式AI生成的。企業(yè)可以將這些工具集成到郵件服務(wù)器中，從而提高攔截更高級(jí)別自動(dòng)釣魚(yú)消息的可能性。這些工具應(yīng)根據(jù)每家企業(yè)的不同需求量身定制，并通過(guò)頻繁微調(diào)來(lái)保持警覺(jué)，正如機(jī)靈的門衛(wèi)需要隨時(shí)獲知最新的威脅。隨著時(shí)間的推移，安全工具供應(yīng)商將逐漸采納這些技術(shù)，但與此同時(shí)，許多公司仍有可能遭遇黑客入侵，蒙受嚴(yán)重的財(cái)產(chǎn)和聲譽(yù)損失。因此，公司務(wù)必考慮盡快實(shí)施內(nèi)部變革，而不是坐等市場(chǎng)上現(xiàn)成的解決方案升級(jí)。

其次，必須盡快提升實(shí)時(shí)偵測(cè)能力。許多公司依靠模式識(shí)別來(lái)抵御攻擊。但問(wèn)題是，這些模式所包含的信息都來(lái)自已發(fā)生的攻擊。因此，為了抵擋由生成式AI驅(qū)動(dòng)的攻擊，我們需要開(kāi)啟一個(gè)“智能”防范的新時(shí)代。

生成式AI有可能提高企業(yè)的快速偵測(cè)能力，幫助它們發(fā)現(xiàn)員工或系統(tǒng)內(nèi)部任意環(huán)節(jié)出現(xiàn)的行為或行動(dòng)異常。員工的行為會(huì)通過(guò)他們登錄的系統(tǒng)、訪問(wèn)的數(shù)據(jù)量以及電郵的對(duì)象反映出來(lái)，這些日常行為與他們的工作任務(wù)相符，因此基本上是可預(yù)測(cè)的。我們可以將這些看作他們的行為足跡。如果崗位職責(zé)照舊，足跡卻突然發(fā)生改變，也許就意味著情況有異，可能有黑客正試圖侵入系統(tǒng)，或者是有內(nèi)鬼作亂。企業(yè)可以配套使用生成式AI與其他AI工具來(lái)確定損害的程度，或者排除系統(tǒng)被攻破的可能。以GPT-4為基礎(chǔ)構(gòu)建的新擴(kuò)展和第三方應(yīng)用程序已經(jīng)公布，所以基于AI的新安全工具問(wèn)世也指日可待。

訓(xùn)練人類應(yīng)對(duì)更智能的攻擊

具有安全意識(shí)的人類行為，對(duì)于網(wǎng)絡(luò)安全仍然是至關(guān)重要的，但人類還是會(huì)繼續(xù)犯錯(cuò)。許多旨在提高安全意識(shí)的宣傳活動(dòng)，都介紹了現(xiàn)存的各種威脅，并提供一整套需要遵守的規(guī)則：不要點(diǎn)擊鏈接，務(wù)必使用強(qiáng)密碼，給所有的軟件打好補(bǔ)丁，等等。然而大量年度行業(yè)調(diào)查發(fā)現(xiàn)，員工仍是最薄弱的環(huán)節(jié)。比方說(shuō)，有人掌握了充分的信息，或擅長(zhǎng)精準(zhǔn)地操縱情緒，呼叫中心的員工就很可能會(huì)中計(jì)。據(jù)估計(jì)，多達(dá)82%的系統(tǒng)入侵涉及人類行為。

在生成式AI的時(shí)代，組織需要改變安全意識(shí)的培訓(xùn)方式，從制定政策來(lái)規(guī)范員工的行為，轉(zhuǎn)向用知識(shí)來(lái)武裝他們，使他們具備偵測(cè)新威脅的能力。也就是說(shuō)，員工需要對(duì)黑客行為有足夠的了解，才能從規(guī)則遵守者轉(zhuǎn)變?yōu)橹鲃?dòng)防衛(wèi)者。隨著生成式AI工具的誕生，傳統(tǒng)的信息安全政策不再有效，基于規(guī)則的方法也不再適用。

卡車司機(jī)若想確保安全，不能僅靠遵守交通法規(guī)，還要根據(jù)道路條件調(diào)整駕駛行為，例如雨天拉開(kāi)車距，霧天減速慢行。同樣，員工必須應(yīng)用情景知識(shí)來(lái)應(yīng)對(duì)生成式AI帶來(lái)的網(wǎng)絡(luò)安全新挑戰(zhàn)。為此，企業(yè)不僅要對(duì)員工進(jìn)行培訓(xùn)，告訴他們哪些事應(yīng)當(dāng)做，哪些事不能做，還要幫助他們了解如何在一個(gè)極具挑戰(zhàn)性的新世界中保持安全。

企業(yè)需要改變既有策略，從以合規(guī)為基礎(chǔ)，轉(zhuǎn)向培養(yǎng)員工掌握新技能。培訓(xùn)可能需要由講師提供現(xiàn)場(chǎng)或在線指導(dǎo)，向員工傳授超出傳統(tǒng)規(guī)則型政策領(lǐng)域的新知識(shí)。目前的一刀切式培訓(xùn)是消極被動(dòng)的，哪怕后續(xù)有測(cè)驗(yàn)跟進(jìn)也是這樣。在AI時(shí)代，企業(yè)必須培訓(xùn)員工去適應(yīng)真實(shí)的或潛在的情景，并就應(yīng)對(duì)方式進(jìn)行現(xiàn)場(chǎng)討論。

除了通過(guò)員工安全意識(shí)培訓(xùn)來(lái)加強(qiáng)防御之外，企業(yè)還要遵循孫子的智慧——“守是攻之策”。要設(shè)想最糟糕的情景，想到不可想象之事，使用基于AI的模型來(lái)推測(cè)潛在的入侵載體或觸發(fā)因素，對(duì)其加以提防。一種策略是召集最優(yōu)秀的IT人員甚至其他公司的專家組成一支特戰(zhàn)隊(duì)，以頭腦風(fēng)暴的方式研究破壞分子可能會(huì)以怎樣的方式突破你的防御系統(tǒng)。然后，以此類事件為中心，想辦法提高公司的相關(guān)技術(shù)能力、增強(qiáng)員工的安全意識(shí)。一項(xiàng)調(diào)查發(fā)現(xiàn)，企業(yè)正在從傳統(tǒng)的紅隊(duì)/藍(lán)隊(duì)（攻/防）式網(wǎng)絡(luò)攻防演練，轉(zhuǎn)向更偏重于協(xié)作的“紫隊(duì)”模式，以加深對(duì)新型攻擊方法的了解，并認(rèn)識(shí)到哪些措施行之有效，哪些徒勞無(wú)功。

防御AI驅(qū)動(dòng)黑客攻擊的最佳措施，很可能是利用AI增強(qiáng)信息能力。這意味著你不僅要制定更加快速而強(qiáng)大的防御策略，而且要為技術(shù)和人員提供更加智能化的策略?？考痈邍鷻跓o(wú)法打敗那些變聰明了的僵尸，但是你可以應(yīng)用新的AI賦能工具來(lái)加固傳統(tǒng)防御體系，還可以重新思考你的傳統(tǒng)防御方法和基于規(guī)則的培訓(xùn)。在黑客GPT的恐怖新世界里，你必須馬上行動(dòng)起來(lái)，才能確保公司安全無(wú)虞。