警惕人工智能技術(shù)發(fā)展帶來的網(wǎng)絡(luò)安全威脅

■ 賽迪智庫

推進(jìn)人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的深度應(yīng)用己成為全球趨勢。然而，人工智能是把雙刃劍，在給網(wǎng)絡(luò)安全技術(shù)產(chǎn)業(yè)帶來變革的同時，也不可避免地增加了新的網(wǎng)絡(luò)安全風(fēng)險點。賽迪智庫網(wǎng)絡(luò)安全研究所認(rèn)為，我國應(yīng)采取四方面的措施，積極探索人工智能時代的網(wǎng)絡(luò)安全問題解決方案；一是重點突破人工智能網(wǎng)絡(luò)安全技術(shù)；二是加快優(yōu)化人工智能開發(fā)框架；三是積極應(yīng)對人工智能型網(wǎng)絡(luò)攻擊；四是聯(lián)合抵制人工智能型網(wǎng)絡(luò)安全軍備競賽。

近年來，人工智能越來越成為引領(lǐng)未來的戰(zhàn)略性技術(shù)，世界主要發(fā)達(dá)國家紛紛把發(fā)展人工智能技術(shù)、推進(jìn)人工智能在網(wǎng)絡(luò)安全領(lǐng)域的深度應(yīng)用作為提升國家網(wǎng)絡(luò)空間核心競爭力、維護(hù)國家網(wǎng)絡(luò)空間安全的重大戰(zhàn)略。然而，人工智能技術(shù)是把“雙刃劍”，在大力發(fā)展人工智能網(wǎng)絡(luò)安全技術(shù)的同時，必須高度重視可能帶來的網(wǎng)絡(luò)安全風(fēng)險，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度地降低風(fēng)險，確保人工智能在網(wǎng)絡(luò)安全領(lǐng)域安全、可靠、可控發(fā)展。

推進(jìn)人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的深度應(yīng)用成為全球趨勢。

一、人工智能技術(shù)成為國家網(wǎng)絡(luò)空間競爭的新高地

當(dāng)前，主要發(fā)達(dá)國家紛紛加強(qiáng)網(wǎng)絡(luò)安全領(lǐng)域的人工智能戰(zhàn)略布局。美國把人工智能技術(shù)提升到能給網(wǎng)絡(luò)安全、甚至國家安全帶來顛覆性變革的戰(zhàn)略的高度。

2016年10月，美國前總統(tǒng)奧巴馬發(fā)布的《國家人工智能研究和發(fā)展戰(zhàn)略計劃》提出，“確保人工智能系統(tǒng)安全可靠”的發(fā)展戰(zhàn)略，要將“對抗機(jī)器學(xué)習(xí)”作為人工智能發(fā)展的關(guān)鍵領(lǐng)域。同年12月20日，美國白宮發(fā)布的《人工智能、自動化與經(jīng)濟(jì)報告》提出，“出于網(wǎng)絡(luò)防御和欺詐偵查目的發(fā)展人工智能”，意在打造能精準(zhǔn)預(yù)測網(wǎng)絡(luò)攻擊、有效偵測欺詐交易和欺詐信息的人工智能系統(tǒng)。

在我國，國務(wù)院于2017年7月印發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出要加強(qiáng)人工智能網(wǎng)絡(luò)安全技術(shù)研發(fā)，強(qiáng)化人工智能產(chǎn)品和系統(tǒng)網(wǎng)絡(luò)安全防護(hù)。工業(yè)和信息化部于2017年12月發(fā)布《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018-2020年 )》，明確倡導(dǎo)人工智能先進(jìn)技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的深度應(yīng)用，提出到2020年要實現(xiàn)的目標(biāo)，即“完善人工智能網(wǎng)絡(luò)安全產(chǎn)業(yè)布局，形成人工智能安全防控體系框架，初步建成具備人工智能安全態(tài)勢感知、測試評估、威脅信息共享、應(yīng)急處置等基本能力的安全保障平臺”。

二、人工智能技術(shù)成為IT企業(yè)布局網(wǎng)絡(luò)安全技術(shù)產(chǎn)業(yè)的新抓手

人工智能技術(shù)正在引發(fā)網(wǎng)絡(luò)安全產(chǎn)業(yè)變革熱潮。根據(jù)CB Insights的統(tǒng)計結(jié)果，在應(yīng)用人工智能領(lǐng)域，網(wǎng)絡(luò)安全是活躍度排名第四的行業(yè)。

一方面，新興IT企業(yè)著力研發(fā)基于人工智能的網(wǎng)絡(luò)安全技術(shù)，并強(qiáng)勢崛起成為領(lǐng)域獨角獸企業(yè)。美Cylance是世界上最早提供基于機(jī)器學(xué)習(xí)和人工智能反病毒的公司之一，其研發(fā)的反病毒軟件Cy-lance PROTECT利用人工智能預(yù)測網(wǎng)絡(luò)攻擊的發(fā)生，在沒有網(wǎng)絡(luò)連接的情況下，僅需60MB內(nèi)存和1%的CPU就能保護(hù)計算機(jī)免受攻擊。目前，該公司的估值已超過10億美元。美國Palo Alto Networks推出的名為Magnifier的行為分析解決方案，使用結(jié)構(gòu)化和非結(jié)構(gòu)化的機(jī)器學(xué)習(xí)來模擬網(wǎng)絡(luò)行為，改善網(wǎng)絡(luò)危險檢測。

另一方面，大型互聯(lián)網(wǎng)和網(wǎng)絡(luò)安全企業(yè)紛紛加碼網(wǎng)絡(luò)安全領(lǐng)域人工智能技術(shù)的創(chuàng)新和應(yīng)用。2017年，亞馬遜先后收購人工智能網(wǎng)絡(luò)安全公司Harvest.ai和Sqrrl，通過機(jī)器學(xué)習(xí)和人工智能算法，加強(qiáng)對數(shù)據(jù)竊取行為的識別和阻止，以保護(hù)云中的敏感數(shù)據(jù)。2018年 5月，360發(fā) 布 了“安全大腦”，利用人工智能技術(shù)對采集的安全數(shù)據(jù)進(jìn)行分析計算，可實時感知網(wǎng)絡(luò)安全運行狀況和態(tài)勢，預(yù)測網(wǎng)絡(luò)攻擊并自動響應(yīng)。

三、人工智能技術(shù)成為應(yīng)對網(wǎng)絡(luò)安全風(fēng)險的新方案

網(wǎng)絡(luò)安全專業(yè)人員不足和網(wǎng)絡(luò)攻擊發(fā)現(xiàn)能力薄弱，日益成為抵御網(wǎng)絡(luò)安全風(fēng)險的短板。人工智能技術(shù)以其強(qiáng)大的運算能力逐步成為應(yīng)對網(wǎng)絡(luò)安全挑戰(zhàn)的新方案。

一方面，人工智能技術(shù)能夠大幅提高分析效率。一個信息安全分析師一天的日志數(shù)據(jù)分析量，利用人工智能技術(shù)只需幾分鐘就能完成。

另一方面，人工智能有助于提升威脅檢測效果。基于機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等算法，人工智能技術(shù)能夠主動識別網(wǎng)絡(luò)中的異常行為，現(xiàn)已充分應(yīng)用于物聯(lián)網(wǎng)設(shè)備防御、惡意軟件預(yù)防、安全運營中心效率提升、風(fēng)險量化，以及網(wǎng)絡(luò)流量異常和惡意移動應(yīng)用檢測等領(lǐng)域。

ESG的調(diào)查顯示，12%的企業(yè)組織已普遍應(yīng)用了基于人工智能的安全分析產(chǎn)品，27%的企業(yè)間接使用了基于人工智能的安全分析服務(wù)，20%以上的網(wǎng)絡(luò)安全工程師希望使用基于人工智能的網(wǎng)絡(luò)安全技術(shù)加速事件檢測和響應(yīng)、識別和處置網(wǎng)絡(luò)安全風(fēng)險，掌握網(wǎng)絡(luò)安全態(tài)勢。

賽迪智庫網(wǎng)絡(luò)安全研究所認(rèn)為，我國應(yīng)采取四方面的措施，積極探索人工智能時代的網(wǎng)絡(luò)安全問題解決方案；一是重點突破人工智能網(wǎng)絡(luò)安全技術(shù)；二是加快優(yōu)化人工智能開發(fā)框架；三 是積極應(yīng)對人工智能型網(wǎng)絡(luò)攻擊；四是聯(lián)合抵制人工智能型網(wǎng)絡(luò)安全軍備競賽。