人工智能引發(fā)的網(wǎng)絡威脅：安全領域的又一重大挑戰(zhàn)

Scot Finnie Charles

安全好比是一場軍備競賽。而人工智能的加入就像是戰(zhàn)爭從冷兵器戰(zhàn)斧跨越到了戰(zhàn)斧式巡航導彈。

一提到人工智能（AI）和安全問題，信息安全和IT部門就覺得這不過是一種藝術形式。畢竟，上世紀80年代以來，我們就一直聽說人工智能即將到來。很多供應商已經(jīng)把人工智能和機器學習（ML）術語引入到他們的營銷用語中，看起來都差不多：他們賣的是未來，而不是現(xiàn)在。

但這其中可能孕育著真理的萌芽。但是，在撰寫本文之際，我們很難找到不相信人工智能會對信息安全產(chǎn)生深遠影響的專家。受訪的專家們只是在時間上有不同的意見。有的專家質(zhì)疑為什么我們還沒有見過網(wǎng)絡犯罪份子以強有力的方式操縱人工智能。還有專家則認為這更像是三到五年之后的事情。但無一例外的是，所有人都將其視為安全面臨的下一重大挑戰(zhàn)。

Tom Koulopoulos是Delphi集團主席，也是Wasabi技術公司的顧問，他評論說，展望未來三年，“我們將能看到人工智能用于自動實施高度個性化的攻擊，這些攻擊將行為數(shù)據(jù)和網(wǎng)絡交互模式結合起來用于精準地攻擊個體目標?！毕胂肽悻F(xiàn)在收到的釣魚電子郵件，而幾年后會是什么樣子。他給出了一個人工智能推動的釣魚攻擊實例：“想象一下，釣魚攻擊會借用與你認識的人和你進行實際交互：‘嘿，很高興昨天在星巴克見到您！我知道您去年夏天去過克里特島旅游之后，還想再去地中海玩一次。您想不想看看我們公司的最新優(yōu)惠……”

是不是很恐怖？Koulopoulos警告說，“人工智能不但能從我們行為的數(shù)字模式中進行挖掘，還能從連接到物聯(lián)網(wǎng)（IoT）的越來越多的設備和應用程序所產(chǎn)生的交互數(shù)據(jù)中進行挖掘，由此帶來了嚴重的威脅，而上面的例子只是其牛刀小試而已?！?/p>

自動攻擊與規(guī)避檢測

Ganesh Krishnan是Avid Secure公司的聯(lián)合創(chuàng)始人兼首席技術官，還曾是雅虎和Atlassian等公司的高級信息安全官，他舉了一個不同的例子：“更聰明的攻擊包括安裝惡意軟件，這些惡意軟件能了解它所運行的環(huán)境，知道怎樣躲避，避開檢測，并通過難以與正常行為區(qū)分的方式去竊取數(shù)據(jù)，從而擊敗檢測和監(jiān)控工具。”

Umesh Yerram是制藥公司AmerisourceBergen的首席數(shù)據(jù)保護官，他對此表示同意。他認為，“一旦人工智能技術得到了廣泛應用，網(wǎng)絡犯罪份子將能夠發(fā)起新一輪非常老練的攻擊，這些攻擊可能會避開大部分傳統(tǒng)的安全檢測和監(jiān)控工具?！?/p>

然后就是規(guī)模問題。當今復雜的安全泄露事件通常不是自動進行的，攻擊者需要付出巨大的努力，而且非常老練才能實現(xiàn)入侵并竊取數(shù)據(jù)。但是人需要吃飯和睡覺，他們不能24小時工作。Domo公司的首席信息安全官兼可信和安全高級副總裁Niall Browne評論說：“快速前進到人工智能時代，我們正在研究智能的機器對機器攻擊，這類攻擊能夠一年365天24小時毫不停歇地運行。網(wǎng)絡犯罪人工智能系統(tǒng)每秒能做出數(shù)百萬個直覺性的決定，以確定滲透和攻破數(shù)據(jù)的最佳方式。”Browne補充說，令人恐懼的是，未來的非法人工智能系統(tǒng)“將不僅能攻擊一家公司，而且可以同時攻擊成百上千家企業(yè)。這是非?？膳碌木跋蟆！?/p>

接受我們采訪的大多數(shù)專家都不相信當人工智能察覺到自己被發(fā)現(xiàn)后，會去改變攻擊目標。然而，Browne預測，網(wǎng)絡攻擊的重點將從“簡單地竊取數(shù)據(jù)和關閉系統(tǒng)轉向更復雜的目標，包括操縱?！睋Q句話說，通過改變系統(tǒng)、個人或者企業(yè)所看到的數(shù)據(jù)，從而誘使他們以某種方式去行事。Browne補充說，“人工智能可能被用來操縱股票價格，引起貨幣波動，擾亂核反應堆測試結果，甚至影響選舉結果?！?/p>

展望未來三年，Radware公司的EMEA安全拓展專員Pascal Geenens說：“我可以想象，一些組織很好的或者民族國家的網(wǎng)絡犯罪集團使用人工智能來綜合生成和創(chuàng)建新的攻擊途徑。”他補充說，人工智能的整個領域都會參與進來?！耙郧?，機器學習一直是自動攻擊所利用的主要領域，遺傳算法和強化學習等人工智能系統(tǒng)將被用于生成新的攻擊途徑，并系統(tǒng)性地去破壞各種系統(tǒng)——無論是云、物聯(lián)網(wǎng)還是工業(yè)物聯(lián)網(wǎng)/SCADA。當網(wǎng)絡犯罪分子把這些與自動化結合使用時，我們將遇到一個完全自動化的生態(tài)系統(tǒng)，它能隨著時間的推移而進行自我攻擊、破壞和改進，在規(guī)模和持久性上幾乎沒有限制。”這將是一個不斷進化的攻擊系統(tǒng)。

Geenens看到網(wǎng)絡罪犯分子改變了角色，從執(zhí)行真正的攻擊轉而成為人工智能自動黑客攻擊機器的維護者和開發(fā)者。機器將進行黑客攻擊;人將提高機器的效率。

給首席安全官和首席信息安全官的忠告

安全專家們都認為信息安全官們應該以牙還牙，意味著人工智能至少在防御人工智能推動的攻擊方面同樣重要，人們相信它能擔起此重任。即便如此，很少有實例說明人工智能在這方面是如何發(fā)揮作用的。一些公司一直在密切關注這個問題。

安全領導們應該做些什么準備呢？AmerisourceBergen公司的Yerram指出，“首席安全官和首席信息安全官們應迅速采用基于人工智能的技術。我們遲早會看到基于人工智能的威脅?，F(xiàn)在是時候讓首席安全官和首席信息安全官們領導邁向基于人工智能的安全控制，從而保護他們的企業(yè)。”

Geenens評論說：“整個過程將涉及自動檢測日益復雜和不斷能自適應的新威脅。你無法阻止自己察覺不到的東西?！蔽磥韮赡陜?nèi)可能出現(xiàn)人工智能增強威脅的新一波浪潮，最初的重點應該是使用人工智能來確保檢測出基于人工智能的威脅。購買和/或開發(fā)這樣的系統(tǒng)應是當務之急。

遲早，你的公司將被迫投資于人工智能技術，為的是防范基于人工智能的威脅。如果不是等到迫不得已時才去采取行動，那么情況會變得更好，因為使用人工智能不像打開黑匣子的開關那么簡單。這將需要時間和資金去研究和學習。Yerram指出，網(wǎng)絡安全專業(yè)人員應提高他們的技能，努力研究人工智能。

Geenens則指出，“對于那些已經(jīng)經(jīng)歷了數(shù)字化轉型的環(huán)境，更可能成為自動攻擊和人工智能攻擊的目標，是非常容易受到攻擊的環(huán)境。”

在世界各地的企業(yè)中，人工智能將在幫助解決網(wǎng)絡安全專業(yè)人員短缺問題和網(wǎng)絡安全技能差距方面發(fā)揮關鍵作用。基于人工智能的技術和機器人過程自動化技術將幫助信息安全部門應對較低級別的安全威脅（例如，勒索軟件、惡意軟件和加密貨幣挖礦等），從而使得高級網(wǎng)絡安全專業(yè)人員能夠集中精力去處理新型的復雜威脅。

密切注意源代碼漏洞，并確保云供應商也是如此。Geenens知道有人使用深度學習（機器學習的子集）來發(fā)現(xiàn)新的代碼漏洞。他說：“運行開源軟件的云平臺將成為漏洞掃描的主要目標。封閉的源碼軟件也難以逃過自動攻擊?！?/p>

Koulopoulos建議我們應該“為人類建立普遍的身份機制。在人工智能興起之際，最大的一種風險就是無法分辨它和人類。如果沒有萬無一失的身份驗證機制，我們不可避免地會出現(xiàn)人工智能網(wǎng)絡犯罪漏洞?！?/p>

跌宕起伏

殘酷的事實是，沒有人能預測未來。有兩種觀點說明了對人工智能輔助威脅的極端反應。

國際數(shù)據(jù)公司（IDC）全球安全產(chǎn)品研究總監(jiān)Chris Kissel表示：“好的企業(yè)擁有更多的員工，更好的計算能力，能更好地理解網(wǎng)絡和硬件，與內(nèi)容交付網(wǎng)絡和云主機也有著良好的關系……但是這種‘間諜與間諜的游戲永遠不會改變;改變的只是參與手段?！?/p>

Niall Browne則表示：“人類交互的許多方面現(xiàn)在都是依賴于技術。人工智能智慧的增長遠遠快于人類，它永遠不會睡覺，自然地進行自我保護，最可怕的是它沒有道德。一旦人工智能出現(xiàn)，它將擁有巨大的能力，但卻沒有道德約束。它可以很容易地使用我們的技術來破壞我們的現(xiàn)代生活結構?！?/p>

要點——不管你是否相信剛讀到的所有預測，都不如以下這一點重要：注意自己的情緒。這些不同觀點的總體基調(diào)可以概括為“這是一個可怕的局面”。不要忽視它，更不要將它束之高閣。