積極推進(jìn)人工智能與網(wǎng)絡(luò)安全融合創(chuàng)新

隨著信息技術(shù)的迅猛發(fā)展，人工智能已成為加速新一輪科技革命和產(chǎn)業(yè)變革的重要力量。世界主要國(guó)家和地區(qū)陸續(xù)制定和實(shí)施人工智能戰(zhàn)略，以期在這一新興領(lǐng)域占據(jù)領(lǐng)先地位。人工智能技術(shù)正在以前所未有的速度發(fā)展，并且與各個(gè)行業(yè)深度融合。

但在人工智能技術(shù)賦能千行百業(yè)的同時(shí)，先進(jìn)技術(shù)的“雙刃劍”效應(yīng)也逐步顯現(xiàn)。伴隨著數(shù)字化、網(wǎng)絡(luò)化、智能化的發(fā)展大潮，網(wǎng)絡(luò)安全威脅和風(fēng)險(xiǎn)日益突出，網(wǎng)絡(luò)安全形勢(shì)日益嚴(yán)峻、復(fù)雜多變，全局性和滲透性前所未有，隱蔽性和動(dòng)態(tài)性前所未有，給國(guó)家安全和社會(huì)發(fā)展帶來(lái)嚴(yán)峻挑戰(zhàn)。

全球網(wǎng)絡(luò)安全威脅態(tài)勢(shì)嚴(yán)峻

當(dāng)下，全球網(wǎng)絡(luò)安全威脅態(tài)勢(shì)依然嚴(yán)峻，嚴(yán)重的網(wǎng)絡(luò)攻擊事件從未間斷，眾多組織遭到了勒索軟件、數(shù)據(jù)竊取和隱私泄密的攻擊威脅，暴露出網(wǎng)絡(luò)空間的脆弱性，對(duì)各行各業(yè)構(gòu)成巨大威脅。

網(wǎng)絡(luò)攻擊日益指向重要設(shè)施。近年來(lái)，全球因網(wǎng)絡(luò)攻擊導(dǎo)致城市癱瘓、服務(wù)中斷、生產(chǎn)停工等“新秩序”混亂事件層出不窮，政府、城市和大型企業(yè)都是被攻擊的主要目標(biāo)。俄烏沖突爆發(fā)以來(lái)，全球網(wǎng)絡(luò)戰(zhàn)加劇，網(wǎng)絡(luò)攻擊日益組織化，甚至出現(xiàn)專業(yè)化程度極高的國(guó)家軍事力量。這些網(wǎng)絡(luò)攻擊組織往往行動(dòng)迅速、手段高超，破壞力驚人。截至2023年底，奇安信累計(jì)監(jiān)測(cè)到49個(gè)針對(duì)國(guó)內(nèi)發(fā)動(dòng)攻擊的APT（高級(jí)持續(xù)性威脅）組織。過去，網(wǎng)絡(luò)攻擊主要為獲取經(jīng)濟(jì)利益，現(xiàn)在，網(wǎng)絡(luò)攻擊主要以關(guān)基設(shè)施為目標(biāo)，極有可能導(dǎo)致“斷水”“斷電”“斷氣”“斷聯(lián)”，危害社會(huì)穩(wěn)定。

智慧城市網(wǎng)絡(luò)安全防線脆弱。智慧城市包含通信網(wǎng)絡(luò)、政務(wù)云、大數(shù)據(jù)平臺(tái)等眾多基礎(chǔ)設(shè)施。任何未被納入監(jiān)管的“影子”設(shè)備或系統(tǒng)，都可能成為攻擊窗口，造成“一失萬(wàn)無(wú)”的嚴(yán)重后果。從頂層視角看，系統(tǒng)觀念缺失，安全管理協(xié)調(diào)配合難度大，不同行業(yè)間無(wú)法實(shí)現(xiàn)威脅情報(bào)及時(shí)同步、安全能力靈活調(diào)度，一個(gè)漏洞能在幾天時(shí)間內(nèi)打穿醫(yī)療、交通、能源等20多個(gè)領(lǐng)域的超30家不同單位。從建設(shè)視角看，數(shù)字化設(shè)備系統(tǒng)復(fù)雜多樣，技術(shù)標(biāo)準(zhǔn)不統(tǒng)一，安全能力割裂。近三年，奇安信參與及組織了上千場(chǎng)實(shí)戰(zhàn)攻防演練，參演單位數(shù)萬(wàn)家，約70%的單位被攻破。特別是醫(yī)療行業(yè)，據(jù)統(tǒng)計(jì)，針對(duì)醫(yī)療行業(yè)的攻擊近兩成目標(biāo)是三甲醫(yī)院，一旦被攻破會(huì)引發(fā)醫(yī)療系統(tǒng)混亂，直接威脅人民生命健康安全。

人工智能帶來(lái)新的安全威脅。作為新一輪科技革命的核心技術(shù)，AI極大提升了生產(chǎn)力，但也加劇了數(shù)據(jù)泄露、欺詐攻擊等風(fēng)險(xiǎn)。攻擊者可以利用AI工具對(duì)網(wǎng)絡(luò)攻擊進(jìn)行改造和升級(jí)，短時(shí)間內(nèi)發(fā)動(dòng)大范圍連續(xù)攻擊，讓目標(biāo)處于無(wú)法應(yīng)付的狀態(tài)。很多政企機(jī)構(gòu)的網(wǎng)絡(luò)安全建設(shè)目前還處于初期階段，存在人力不足、思路落后、體系不全等薄弱環(huán)節(jié)，很容易陷入“攻強(qiáng)守弱”的境地。

安全意識(shí)不足的問題依然存在。從運(yùn)營(yíng)視角看，安全防線易從內(nèi)部被突破，實(shí)戰(zhàn)演練中由于人為因素被攻破的比例高達(dá)90%，釣魚、使用弱口令、配置錯(cuò)誤等因素占比最高。政企單位在數(shù)字化轉(zhuǎn)型過程中，積累了大量數(shù)據(jù)資產(chǎn)，但缺乏針對(duì)性防護(hù)手段，甚至不清楚自己有多少數(shù)據(jù)、數(shù)據(jù)存在哪兒、被誰(shuí)使用，造成大量防護(hù)盲點(diǎn)。很多企業(yè)缺乏多維度風(fēng)險(xiǎn)感知能力，數(shù)據(jù)被大量販賣還不知情。IBM發(fā)布的《2023年數(shù)據(jù)泄露成本報(bào)告》顯示，2023年識(shí)別一起數(shù)據(jù)泄露事件平均需要204天，遏制一起數(shù)據(jù)泄露事件平均需要73天。

數(shù)據(jù)和網(wǎng)絡(luò)安全制度應(yīng)有作用尚未充分發(fā)揮。一方面，傳統(tǒng)的生產(chǎn)事故有詳細(xì)的領(lǐng)導(dǎo)干部追責(zé)制度，而網(wǎng)絡(luò)攻擊引發(fā)的事故，還沒有相應(yīng)的追責(zé)制度；另一方面，瞞報(bào)、漏報(bào)網(wǎng)絡(luò)安全事故現(xiàn)象普遍存在，部分政企單位“紅線意識(shí)”不強(qiáng)，安全防護(hù)措施多數(shù)是為了應(yīng)付檢查，無(wú)法應(yīng)對(duì)隨時(shí)可能發(fā)生的安全事件。

強(qiáng)化“AI+安全”科技創(chuàng)新能力

面對(duì)網(wǎng)絡(luò)安全新態(tài)勢(shì)，如何保證信息和網(wǎng)絡(luò)安全，提高應(yīng)對(duì)網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)與不確定性的能力？我們認(rèn)為，要大力增強(qiáng)“AI+安全”的科技創(chuàng)新能力，把AI安全技術(shù)融入到數(shù)字化場(chǎng)景當(dāng)中，借助AI能力加速網(wǎng)絡(luò)安全技術(shù)創(chuàng)新、安全防護(hù)體系創(chuàng)新，積極構(gòu)建“AI+安全”防護(hù)體系，以應(yīng)對(duì)網(wǎng)絡(luò)安全新態(tài)勢(shì)。

在“AI+安全”這條路上，奇安信已率先進(jìn)行大量探索實(shí)踐。在單點(diǎn)設(shè)備檢測(cè)方面，AI可以對(duì)過去人工漏掉的告警進(jìn)行全量研判，實(shí)現(xiàn)安全能力十倍級(jí)提升；在體系化防御方面，通過AI賦能的綜合分析和全局聯(lián)動(dòng)，實(shí)現(xiàn)安全能力百倍級(jí)提升；在溯源和反制方面，從威脅發(fā)現(xiàn)到攻擊溯源環(huán)節(jié)，依托AI的智能化、自動(dòng)化，可實(shí)現(xiàn)響應(yīng)能力的千倍級(jí)提升。

以AI驅(qū)動(dòng)安全，提升分析研判效率。奇安信AI戰(zhàn)略產(chǎn)品QAX—GPT安全機(jī)器人的研判效率相當(dāng)于人工的數(shù)十倍。例如，某家萬(wàn)人規(guī)模的企業(yè)，只有12名安全運(yùn)營(yíng)人員，每天能夠研判6000條的告警，但該企業(yè)的單日告警量超過10萬(wàn)，漏報(bào)率極高。使用QAX—GPT安全機(jī)器人后，該企業(yè)可以完成10萬(wàn)條告警全量研判，漏報(bào)率僅0.05%，揪出人工漏掉的真實(shí)告警700多條，極大提升了集團(tuán)的整體安全能力。

以AI驅(qū)動(dòng)安全，實(shí)現(xiàn)運(yùn)營(yíng)能力循環(huán)上升。通過部署安全機(jī)器人與NGSOC構(gòu)成的“AI+安全運(yùn)營(yíng)”方案，可實(shí)現(xiàn)威脅事件的自動(dòng)化響應(yīng)；通過AI與防火墻、WAF、SOAR等安全產(chǎn)品的協(xié)同聯(lián)動(dòng)，對(duì)遏制安全威脅的處置時(shí)間從過去的10分鐘縮短到秒級(jí)；對(duì)復(fù)雜事件的溯源分析縮短到分鐘級(jí)，安全運(yùn)營(yíng)效率大幅提升。

以AI驅(qū)動(dòng)安全，升級(jí)全場(chǎng)景防護(hù)能力。在“AI+安全開發(fā)”方面，奇安信基于大模型的代碼助手極大提高了開發(fā)人員的效率，不僅實(shí)現(xiàn)了代碼的高效編寫，還能自動(dòng)檢測(cè)并修復(fù)潛在的安全漏洞；在“AI+終端安全”方面，奇安信天擎、反病毒、沙箱等產(chǎn)品深度融合安全大模型的分析能力，無(wú)論是二進(jìn)制文件還是非PE腳本類代碼，都能快速分析并識(shí)別；奇安信還將AI全方位應(yīng)用在漏洞挖掘、電子取證、操作流程自動(dòng)化上等眾多產(chǎn)品和業(yè)務(wù)流程方面，大大提高了產(chǎn)品威脅發(fā)現(xiàn)、研判、處置水平，升級(jí)全場(chǎng)景的安全防護(hù)能力，激發(fā)網(wǎng)絡(luò)安全最大效能。

構(gòu)建全方位人工智能安全治理體系

當(dāng)然，面對(duì)網(wǎng)絡(luò)安全新態(tài)勢(shì)，還需要國(guó)家層面從頂層設(shè)計(jì)、治理體系、技術(shù)創(chuàng)新等多方面下功夫，倡導(dǎo)社會(huì)各界攜手合作，積極構(gòu)建全方位人工智能安全治理體系。

加強(qiáng)人工智能安全頂層設(shè)計(jì)，推動(dòng)形成人工智能綜合治理體系。黨的二十屆三中全會(huì)對(duì)“健全網(wǎng)絡(luò)綜合治理體系”作出系統(tǒng)部署，其中明確提出完善生成式人工智能發(fā)展和管理機(jī)制。我國(guó)目前已有多項(xiàng)管理規(guī)定，如工業(yè)和信息化部對(duì)大模型的備案要求、新一代人工智能管理規(guī)范、互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定、生成式人工智能服務(wù)暫行管理辦法等，這些政策法規(guī)為我國(guó)人工智能健康發(fā)展保駕護(hù)航。未來(lái)，還要推動(dòng)人工智能安全治理政府監(jiān)管、行業(yè)自治、企業(yè)自律、社會(huì)監(jiān)督協(xié)調(diào)一致、形成共識(shí)，逐步形成人工智能綜合治理體系。

統(tǒng)籌網(wǎng)絡(luò)安全各方力量，推動(dòng)形成體系化防御能力。面對(duì)嚴(yán)峻復(fù)雜的網(wǎng)絡(luò)安全形勢(shì)，尤其是境外國(guó)家級(jí)高水平網(wǎng)絡(luò)攻擊，僅靠關(guān)鍵信息基礎(chǔ)設(shè)施和重要信息系統(tǒng)運(yùn)營(yíng)者往往難以抵御，要堅(jiān)持全國(guó)一張網(wǎng)、一盤棋，匯聚政府、行業(yè)、專業(yè)機(jī)構(gòu)、網(wǎng)絡(luò)安全企業(yè)、運(yùn)營(yíng)者等各方力量，梯次布防、縱深防御，健全網(wǎng)絡(luò)安全態(tài)勢(shì)感知、信息共享、預(yù)警通報(bào)的協(xié)同組織機(jī)制，推動(dòng)形成體系化防御能力。

加強(qiáng)安全技術(shù)研發(fā)和創(chuàng)新，為人工智能健康發(fā)展提供堅(jiān)實(shí)的技術(shù)保障。人工智能時(shí)代，社會(huì)各界應(yīng)當(dāng)加大對(duì)人工智能安全技術(shù)保障的研發(fā)投入，進(jìn)一步促進(jìn)人工智能安全技術(shù)創(chuàng)新。我們需要構(gòu)建準(zhǔn)確、穩(wěn)健、安全、隱私、公平和可解釋的人工智能算法，加強(qiáng)對(duì)軟硬件設(shè)施的安全防護(hù)能力，以應(yīng)對(duì)日益變化的算法安全、數(shù)據(jù)隱私和設(shè)施安全風(fēng)險(xiǎn)挑戰(zhàn)，形成涵蓋數(shù)據(jù)層、算法層、設(shè)施層和應(yīng)用層的安全縱深防護(hù)技術(shù)體系，為人工智能健康有序安全發(fā)展提供堅(jiān)實(shí)的技術(shù)保障。

責(zé)任編輯：董常芳