人工智能不只在好人手里犯罪分子開(kāi)始使用人工智能和機(jī)器學(xué)習(xí)來(lái)繞過(guò)安全防御

Maria+Korolov

2016年夏天，在全球領(lǐng)先的信息安全系列活動(dòng)Black Hat（黑帽大會(huì)）上，美國(guó)國(guó)防高級(jí)研究計(jì)劃局讓自動(dòng)化系統(tǒng)相互對(duì)抗，找到對(duì)手代碼中的漏洞并利用它們。 “妖怪已經(jīng)從魔瓶中放出來(lái)了” “這是一個(gè)很好的例子——展示了機(jī)器怎樣輕松找到并利用新的漏洞。這方面會(huì)不斷發(fā)展，并隨著時(shí)間的推移變得越來(lái)越復(fù)雜?！?Varonis Systems公司戰(zhàn)略和市場(chǎng)開(kāi)發(fā)副總裁David Gibson對(duì)此說(shuō)：“我們的公司還沒(méi)有了解到任何黑客利用人工智能技術(shù)或者機(jī)器的例子，但犯罪和黑客行業(yè)采用新技術(shù)比其他行業(yè)快得多。可以肯定地是，已有黑客利用人工智能來(lái)達(dá)到他們邪惡的目的?！?DLT Solutions首席網(wǎng)絡(luò)安全技術(shù)專(zhuān)家Don Maclean說(shuō)：“白帽和黑帽的黑客們從未如此輕松地得到并掌握機(jī)器學(xué)習(xí)交易的工具。很容易獲得軟件，成本很低甚至沒(méi)有，也很容易得到機(jī)器學(xué)習(xí)教程?！?例如，圖像識(shí)別，曾經(jīng)被認(rèn)為是人工智能研究的關(guān)鍵重點(diǎn)。Shape Security公司首席技術(shù)官Shuman Ghosemajumder說(shuō)，今天，光學(xué)字符識(shí)別等工具已經(jīng)非常普及，甚至不再被視為人工智能?！叭藗儾辉僬J(rèn)為它還像以前那樣吸引人。人工智能總是未來(lái)即將發(fā)生的事情，而不是我們現(xiàn)在所擁有的。” 通過(guò)人工智能完善網(wǎng)絡(luò)安全策略 今天，計(jì)算機(jī)視覺(jué)技術(shù)足以支持自動(dòng)駕駛汽車(chē)穿行在繁忙的街道上。 Ghosemajumder補(bǔ)充說(shuō)，而且圖像識(shí)別也足以解決網(wǎng)站用戶常見(jiàn)的難題，以證明他們更像是人類(lèi)。例如，谷歌I/O大會(huì)，他們有一個(gè)變形的文本驗(yàn)證碼，只有33%的與會(huì)者能夠識(shí)別，相比之下，當(dāng)時(shí)的最先進(jìn)的OCR系統(tǒng)能夠以99.8%正確率來(lái)解決這一問(wèn)題。 Ghosemajumder說(shuō)，犯罪分子已經(jīng)使用圖像識(shí)別技術(shù)并結(jié)合“Captcha群”來(lái)繞過(guò)安全措施。 他補(bǔ)充說(shuō)，已有間接的證據(jù)表明，罪犯已經(jīng)開(kāi)始使用這項(xiàng)技術(shù)。但是，到目前為止，他沒(méi)有看到任何基于機(jī)器學(xué)習(xí)的公開(kāi)可用的工具包——旨在繞過(guò)其他安全機(jī)制。例如，他們公司已經(jīng)知道，如果來(lái)自一個(gè)IP地址的流量非常大，不正常，那么它很可能是惡意的，所以罪犯分子使用僵尸網(wǎng)絡(luò)繞過(guò)這些過(guò)濾器，而防御者尋找更細(xì)微的跡象以查明流量是自動(dòng)的而不是人為的。 更聰明的電子郵件詐騙 近日，邁克菲實(shí)驗(yàn)室2017年威脅預(yù)測(cè)報(bào)告中稱，網(wǎng)絡(luò)犯罪分子已經(jīng)在使用智能機(jī)器來(lái)找到企業(yè)電子郵件的受害者，這些攻擊自2015年初以來(lái)連續(xù)不斷。 英特爾的英特爾安全CTO Steve Grobman說(shuō)：“人工智能能夠讓他們針對(duì)受害者自動(dòng)完成定制內(nèi)容的工作。人工智能非常善于將事物分類(lèi)?！崩?，黑客可以自動(dòng)完成找到最有可能受害者的過(guò)程。 該技術(shù)還可以用于幫助攻擊者一直隱藏在企業(yè)網(wǎng)絡(luò)內(nèi)部，并找到漏洞。 然而，使用人工智能或者機(jī)器學(xué)習(xí)來(lái)識(shí)別某些特定情形也是比較棘手的。 他說(shuō)：“犯罪分子不太愿意詳細(xì)解釋他們的方法。，但我們知道已經(jīng)有跡象表明出現(xiàn)了這類(lèi)工作。有明顯的跡象表明，犯罪分子開(kāi)始朝這個(gè)方向努力?！?惡意軟件和假冒域 安全服務(wù)提供商越來(lái)越多地使用智能機(jī)器學(xué)習(xí)來(lái)區(qū)分好軟件和壞軟件，好的域和不好的域。 Anomali的首席數(shù)據(jù)科學(xué)家Evan Wright說(shuō)，現(xiàn)在，有跡象表明，犯罪分子們?cè)谑褂脵C(jī)器學(xué)習(xí)來(lái)確定防御系統(tǒng)正在尋找什么樣的模式。 他說(shuō)：“犯罪分子通過(guò)防病毒軟件來(lái)測(cè)試好軟件和壞軟件，發(fā)現(xiàn)了‘防病毒引擎所找到的模式。他們正嘗試模擬人們正在做什么，并讓他們的機(jī)器學(xué)習(xí)模型生成這些規(guī)則的例外。我們已經(jīng)發(fā)現(xiàn)在域生成算法中出現(xiàn)了類(lèi)似的設(shè)計(jì)，使其更難以檢測(cè)到。但犯罪分子可以采用幾種不同的方式完成這些工作。這起作用了?！?犯罪分子聰明之處不是機(jī)器與受害者的自動(dòng)對(duì)話，而是一開(kāi)始創(chuàng)建人物形象的方式。 PerimeterX的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Omri Iluz說(shuō)：“智能機(jī)器可以從Facebook上得到一張非常有吸引力的圖片，建立一個(gè)動(dòng)態(tài)人物形象，添上引人注意的職業(yè)，例如，空姐或?qū)W校老師。每個(gè)人物都是獨(dú)一無(wú)二的，而且很吸引人。” 他說(shuō)：“我們知道這真的很難，因此，不只是自動(dòng)化的問(wèn)題。我們之所以排除手動(dòng)過(guò)程是因?yàn)閿?shù)量太多了。我們也不認(rèn)為犯罪分子能夠建立數(shù)以百萬(wàn)計(jì)的人物形象，并進(jìn)行自然選擇，因?yàn)檫@會(huì)被約會(huì)平臺(tái)識(shí)別出來(lái)。這些都是智能機(jī)器的聰明之處?！?當(dāng)他們自動(dòng)購(gòu)買(mǎi)門(mén)票以轉(zhuǎn)售獲取利潤(rùn)時(shí)，其行為與黃牛類(lèi)似。 他說(shuō)：“犯罪分子要找出那些能夠在二級(jí)市場(chǎng)上獲得高額利潤(rùn)的項(xiàng)目。他們不能手動(dòng)進(jìn)行，因?yàn)闆](méi)有時(shí)間。這不能是數(shù)字游戲，因?yàn)樗麄儾荒芎?jiǎn)單地購(gòu)買(mǎi)所有庫(kù)存，這樣做掙不到錢(qián)。其背后有智慧?！?他說(shuō)，這些活動(dòng)的利潤(rùn)超過(guò)了研發(fā)支出?！爱?dāng)我們看到這些欺詐者獲取的收入時(shí)，比許多大公司員工都多很多。他們不需要?dú)⑷魏稳耍膊挥眠M(jìn)行販毒那樣的高風(fēng)險(xiǎn)工作。” 準(zhǔn)備好圖靈測(cè)試 在有限的智能機(jī)器應(yīng)用中，計(jì)算機(jī)已經(jīng)通過(guò)了圖靈測(cè)試（經(jīng)典的思想實(shí)驗(yàn)，人類(lèi)試圖確定是和人交談還是和機(jī)器交談）。 英特爾的Grobman說(shuō)，針對(duì)這類(lèi)攻擊的最佳防御是關(guān)注基本原理。他說(shuō)：“現(xiàn)在，大多數(shù)公司即使在受到一定攻擊的情況下還能繼續(xù)工作。我們可以做的最重要的事情是確保公司擁有強(qiáng)大的技術(shù)基礎(chǔ)設(shè)施，不斷實(shí)踐模擬和紅隊(duì)攻擊?！?（作者M(jìn)aria Korolov過(guò)去20年一直涉足新興技術(shù)和新興市場(chǎng)。） 原文網(wǎng)址： http：//www.csoonline.com/article/3163022/advanced-persistent-threats/ai-isnt-just-for-the-good-guys-anymore.htmlendprint