安恒信息：攜手AI打造網(wǎng)絡(luò)安全智能體平臺(tái)

安恒信息研發(fā)的恒腦·安全智能體開(kāi)發(fā)應(yīng)用平臺(tái)在網(wǎng)絡(luò)安全領(lǐng)域取得了顯著成效。通過(guò)創(chuàng)新的技術(shù)方法和廣泛的應(yīng)用實(shí)踐，平臺(tái)為網(wǎng)絡(luò)安全防護(hù)提供了新的解決方案，并引領(lǐng)了網(wǎng)絡(luò)安全發(fā)展方向

隨著網(wǎng)絡(luò)空間的不斷拓展和深化，網(wǎng)絡(luò)安全威脅呈現(xiàn)出多樣化和復(fù)雜化的趨勢(shì)。傳統(tǒng)的安全防護(hù)措施在面對(duì)新型網(wǎng)絡(luò)攻擊時(shí)顯得力不從心，迫切需要引入先進(jìn)技術(shù)來(lái)提升防御能力與效率。杭州安恒信息技術(shù)股份有限公司在這一背景下，創(chuàng)新開(kāi)發(fā)了網(wǎng)絡(luò)安全智能體平臺(tái)。該平臺(tái)依托于“恒腦安全垂域大模型”，能夠根據(jù)不同的業(yè)務(wù)場(chǎng)景，靈活調(diào)度各種安全工具，并查詢相關(guān)知識(shí)庫(kù)，不僅能夠有效檢測(cè)已知的網(wǎng)絡(luò)威脅，還能通過(guò)識(shí)別攻擊者的意圖來(lái)發(fā)現(xiàn)未知的風(fēng)險(xiǎn)，并自動(dòng)調(diào)度安全工具進(jìn)行響應(yīng)，極大地提高了安全運(yùn)營(yíng)的效率和準(zhǔn)確性。

創(chuàng)新：智能防御、動(dòng)靜結(jié)合、軟硬兼?zhèn)?/p>

在技術(shù)方法上，安恒信息對(duì)網(wǎng)絡(luò)安全智能體平臺(tái)實(shí)現(xiàn)了從算法、測(cè)評(píng)機(jī)制、生成方法以及推理引擎等多項(xiàng)重大創(chuàng)新。

首先，平臺(tái)創(chuàng)新提出了一種基于多專家系統(tǒng)（MOE）的黑灰盒攻防一體智能安全算法。通過(guò)集成深度強(qiáng)化學(xué)習(xí)（DRL）和對(duì)抗性訓(xùn)練，實(shí)現(xiàn)動(dòng)態(tài)適應(yīng)和自我防御；通過(guò)設(shè)計(jì)一種新型的側(cè)信道信息探測(cè)算法，增強(qiáng)了模型的自我感知能力，并開(kāi)發(fā)了黑盒可遷移的對(duì)抗樣本生成策略，以模擬多樣化的攻擊手段；通過(guò)創(chuàng)新性地將跨域?qū)箻颖緳z測(cè)機(jī)制應(yīng)用于動(dòng)態(tài)安全防御策略調(diào)整，確保整個(gè)算法在多元場(chǎng)景下的普適性。

其次，平臺(tái)建立了動(dòng)靜結(jié)合、軟硬件兼?zhèn)涞娜轿粶y(cè)評(píng)機(jī)制。針對(duì)安全垂域AI大模型應(yīng)用場(chǎng)景復(fù)雜多變、安全攻擊具有不確定性的特點(diǎn)，平臺(tái)專門(mén)針對(duì)多維度、多層次、多粒度安全需求，創(chuàng)新實(shí)現(xiàn)了軟硬件兼?zhèn)涞撵o態(tài)測(cè)試、風(fēng)險(xiǎn)演化態(tài)勢(shì)的動(dòng)態(tài)評(píng)估和動(dòng)靜結(jié)合的實(shí)時(shí)風(fēng)險(xiǎn)控制等技術(shù)，支持對(duì)安全垂域AI大模型全方位自動(dòng)化測(cè)評(píng)。

第三，平臺(tái)還采用了自適應(yīng)泛化智能體生成方法，利用元學(xué)習(xí)和引導(dǎo)生成技術(shù)，構(gòu)建了一個(gè)能夠自我學(xué)習(xí)和適應(yīng)新任務(wù)的智能體生成方法。這一方法通過(guò)動(dòng)態(tài)數(shù)據(jù)分類和采樣，創(chuàng)建具有代表性的安全領(lǐng)域數(shù)據(jù)集，結(jié)合遺傳進(jìn)化算法和數(shù)據(jù)增強(qiáng)技術(shù)，極大提高了模型的泛化能力，實(shí)現(xiàn)了情報(bào)數(shù)據(jù)和安全攻擊技戰(zhàn)法動(dòng)態(tài)更新，以應(yīng)對(duì)未知威脅。

最后，平臺(tái)設(shè)計(jì)了多策略優(yōu)化推理引擎，集成包括PagedAttention、連續(xù)批處理、CUDA算子融合等了多種優(yōu)化策略，以提高模型的推理效率。特別是業(yè)界首創(chuàng)的多LoRA并行加載和前綴樹(shù)緩存技術(shù)，減少了模型切換和數(shù)據(jù)處理的延遲，顯著提升了整體吞吐量。

網(wǎng)絡(luò)安全智能體平臺(tái)的創(chuàng)新還體現(xiàn)在其場(chǎng)景應(yīng)用效果方面。在運(yùn)營(yíng)商告警研判場(chǎng)景下，通過(guò)使用告警研判智能體基于現(xiàn)場(chǎng)實(shí)測(cè)，其告警準(zhǔn)確度可達(dá)到高級(jí)安全專家水平，性能120萬(wàn)條/天（3張英偉達(dá)A100顯卡），是人工（20人團(tuán)隊(duì)）的100倍。在金融機(jī)構(gòu)數(shù)據(jù)分類分級(jí)場(chǎng)景下，如果采用數(shù)據(jù)分類分級(jí)智能體，某銀行10W字段實(shí)測(cè)，項(xiàng)目實(shí)施周期從業(yè)界平均超100人/天下降至不到20人/天，且識(shí)別準(zhǔn)確率提升至90%。

成效：實(shí)現(xiàn)網(wǎng)絡(luò)安全重保零事故的重要組成部分

當(dāng)前，網(wǎng)絡(luò)安全智能體平臺(tái)已在數(shù)十家單位落地應(yīng)用，覆蓋多個(gè)行業(yè)，并作為首個(gè)在大型國(guó)際體育賽事應(yīng)用的網(wǎng)絡(luò)安全智能體平臺(tái)，于2023年先后在成都世界大學(xué)生運(yùn)動(dòng)會(huì)、杭州亞運(yùn)會(huì)期間投入使用，成為實(shí)現(xiàn)兩大國(guó)際賽事網(wǎng)絡(luò)安全重保零事故的重要組成部分。

從應(yīng)用范圍上看，該平臺(tái)已在中國(guó)電信、中興通信、國(guó)能集團(tuán)、杭州大數(shù)據(jù)局等十余個(gè)行業(yè)共數(shù)十家單位落地應(yīng)用，業(yè)務(wù)范圍廣闊；從智能體數(shù)量上看，目前創(chuàng)建的各類網(wǎng)絡(luò)安全智能體超100個(gè)，激活狀態(tài)超80個(gè)，顯示出強(qiáng)大的應(yīng)用活力和市場(chǎng)需求；從覆蓋安全運(yùn)營(yíng)場(chǎng)景上看，目前重保場(chǎng)景已覆蓋超80%、日常安全運(yùn)營(yíng)超90%，主要集中在告警研判、事件調(diào)查、聯(lián)動(dòng)處置、分類分級(jí)、滲透測(cè)試、API安全和報(bào)告生成等方面。

從經(jīng)濟(jì)效益方面來(lái)看，網(wǎng)絡(luò)安全智能體平臺(tái)通過(guò)自動(dòng)化告警研判、事件調(diào)查和處置響應(yīng)，降低企業(yè)的人力成本50%以上。同時(shí)，能夠7×24小時(shí)不間斷工作，事件響應(yīng)速度由數(shù)小時(shí)提升到秒級(jí)，減少了因安全事件導(dǎo)致的業(yè)務(wù)中斷和經(jīng)濟(jì)損失。此外，平臺(tái)還能根據(jù)實(shí)時(shí)數(shù)據(jù)和歷史經(jīng)驗(yàn)，優(yōu)化安全資源的分配，并且100%接入等保、關(guān)基投入的安全軟硬件，確保關(guān)鍵資產(chǎn)得到優(yōu)先防護(hù)，提升現(xiàn)有安全投資效益，助力企業(yè)增強(qiáng)客戶信任。

在社會(huì)效益方面，網(wǎng)絡(luò)安全智能體平臺(tái)的應(yīng)用也取得了顯著成效。在交通、能源、通信、醫(yī)療等領(lǐng)域，平臺(tái)能夠快速識(shí)別和響應(yīng)網(wǎng)絡(luò)攻擊，減少數(shù)據(jù)泄露和網(wǎng)絡(luò)犯罪，保護(hù)個(gè)人隱私和公共安全。同時(shí)，平臺(tái)還結(jié)合數(shù)字人技術(shù)，在烏鎮(zhèn)安恒書(shū)院常態(tài)化應(yīng)用，已開(kāi)展培訓(xùn)50場(chǎng)，覆蓋學(xué)員5000人，以虛擬安全助教幫助學(xué)員學(xué)習(xí)和實(shí)踐網(wǎng)絡(luò)安全知識(shí)，為行業(yè)快速提供優(yōu)質(zhì)人才。

此外，在生態(tài)環(huán)境效益方面，網(wǎng)絡(luò)安全智能體技術(shù)的發(fā)展和應(yīng)用可有效降低MSS運(yùn)營(yíng)托管的成本，推動(dòng)企業(yè)從采購(gòu)安全產(chǎn)品轉(zhuǎn)向購(gòu)買(mǎi)安全服務(wù)，減少了硬件資源的投入和使用，推動(dòng)了綠色安全和可持續(xù)IT實(shí)踐；在市場(chǎng)價(jià)值方面，平臺(tái)通過(guò)推動(dòng)安全運(yùn)維降本增效，滿足合規(guī)需求和數(shù)據(jù)保護(hù)增長(zhǎng)需求，引領(lǐng)了網(wǎng)絡(luò)安全發(fā)展方向。自推出以來(lái)，已開(kāi)展試點(diǎn)20多個(gè)，產(chǎn)生合同額500萬(wàn)元以上，預(yù)計(jì)未來(lái)新簽合同數(shù)量將繼續(xù)增長(zhǎng)。

然而，網(wǎng)絡(luò)安全智能體平臺(tái)也存在一些局限性。例如，模型幻覺(jué)問(wèn)題可能導(dǎo)致模型在處理某些特定輸入時(shí)產(chǎn)生錯(cuò)誤的、過(guò)于自信的預(yù)測(cè)。此外，模型的可解釋性也是一個(gè)重大關(guān)切，因?yàn)榫W(wǎng)絡(luò)安全領(lǐng)域需要透明度和責(zé)任追溯。為了克服這些局限性，安恒信息已經(jīng)采取了一些緩解措施：針對(duì)模型幻覺(jué)問(wèn)題，公司采用更全面和多樣化的訓(xùn)練數(shù)據(jù)，進(jìn)行數(shù)據(jù)增強(qiáng)、引入正則化技術(shù)防止過(guò)度擬合，采用RAG技術(shù)限定生成范圍，使用對(duì)抗性訓(xùn)練進(jìn)一步提高模型的魯棒性等；針對(duì)模型可解釋性提升問(wèn)題，采用局部可解釋性模型如LIME或SHAP來(lái)揭示模型決策的依據(jù)，采用全局可解釋性方法如基于探針的方法分析和理解大模型生成信息的高層次表征，以及進(jìn)一步設(shè)計(jì)和實(shí)施模型審計(jì)和驗(yàn)證流程，以確保模型的決策過(guò)程符合預(yù)期和法規(guī)要求。

未來(lái)，隨著信息技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷拓展，相信網(wǎng)絡(luò)安全智能體平臺(tái)將發(fā)揮更加重要的作用。

（本文由杭州安恒信息技術(shù)股份有限公司供稿）